Научная статья на тему 'СРАВНЕНИЕ РАЗЛИЧНЫХ ПРЕДСТАВЛЕНИЙ ЗНАНИЙ ДЛЯ СЛОЖНЫХ СТРУКТУРИРОВАННЫХ ОБЪЕКТОВ ПРИ РЕШЕНИИ ЗАДАЧ ИИ'

СРАВНЕНИЕ РАЗЛИЧНЫХ ПРЕДСТАВЛЕНИЙ ЗНАНИЙ ДЛЯ СЛОЖНЫХ СТРУКТУРИРОВАННЫХ ОБЪЕКТОВ ПРИ РЕШЕНИИ ЗАДАЧ ИИ Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
87
21
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
СЛОЖНЫЙ СТРУКТУРИРОВАННЫЙ ОБЪЕКТ / ПРЕДСТАВЛЕНИЕ ДАННЫХ / ФОРМУЛЫ ИСЧИСЛЕНИЯ ПРЕДИКАТОВ / СТРОКА ПРИЗНАКОВ / ГРАФ ЗНАНИЙ / ОНТОЛОГИЯ

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Косовская Татьяна Матвеевна

Задача представления знаний для сложных структурированных объектов является одной из актуальных задач ИИ. Это связано с тем, что многие исследуемые объекты представляют собой не единый неделимый объект, характеризующийся своими свойствами, а сложные конструкции, элементы которых обладают известными свойствами и находятся в некоторых, зачастую многоместных, отношениях между собой. В работе подход к представлению таких знаний на основе логики первого порядка (формул исчисления предикатов) сравнивается с двумя широко распространёнными в настоящее время подходами, основанными на представлении информации о~данных с помощью конечнозначных строк и на использовании графов. Показано, что использование формул исчисления предикатов для описания сложных структурированных объектов, несмотря на NP-трудность решаемых задач, возникающих после формализации, реально имеют не б\'{о}льшую вычислительную сложность, чем два других подхода, о чём обычно не упоминают их сторонники. Предложен алгоритм построения онтологии, не зависящий от способа описания объекта и основанный на выделении наибольшего общего свойства объектов из заданного множества.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

COMPARISON OF DIFFERENT KNOWLEDGE REPRESENTATIONS FOR COMPLEX STRUCTURED OBJECTS IN SOLVING AI PROBLEMS

The problem of knowledge representation for a complex structured object is one of the actual problems of AI. This is due to the fact that many of the objects under study are not a single indivisible object characterized by its properties, but complex structures whose elements have some known properties and are in some, often multiplace, relations with each other. An approach to the representation of such knowledge based on first-order logic (predicate calculus formulas) is compared in this paper with two currently widespread approaches based on the representation of data information with the use of finite-valued strings or graphs. It is shown that the use of predicate calculus formulas for description of a complex structured object, despite the NP-difficulty of the solved problems arising after formalization, actually have no greater computational complexity than the other two approaches, what is usually not mentioned by their supporters. An algorithm for constructing an ontology is proposed that does not depend on the method of describing an object, and is based on the selection of the maximum common property of objects from a given set.

Текст научной работы на тему «СРАВНЕНИЕ РАЗЛИЧНЫХ ПРЕДСТАВЛЕНИЙ ЗНАНИЙ ДЛЯ СЛОЖНЫХ СТРУКТУРИРОВАННЫХ ОБЪЕКТОВ ПРИ РЕШЕНИИ ЗАДАЧ ИИ»

информатика

Компьютерные инструменты в образовании, 2021 № 2:41-57 УДК: 004.82 http://cte.eltech.ru

с1о1:10.32603/2071-2340-2021-2-41-57

СРАВНЕНИЕ РАЗЛИЧНЫХ ПРЕДСТАВЛЕНИЙ ЗНАНИЙ ДЛЯ СЛОЖНЫХ СТРУКТУРИРОВАННЫХ ОБЪЕКТОВ ПРИ РЕШЕНИИ ЗАДАЧ ИИ*

Косовская Т. М.1, доктор физико-математических наук, доцент, и kosovtm@gmail.com

1 Санкт-Петербургский государственный университет, Университетский пр., д. 28, Старый Петергоф, 198504,

Санкт-Петербург, Россия

Аннотация

Задача представления знаний для сложных структурированных объектов является одной из актуальных задач ИИ. Это связано с тем, что многие исследуемые объекты представляют собой не единый неделимый объект, характеризующийся своими свойствами, а сложные конструкции, элементы которых обладают известными свойствами и находятся в некоторых, зачастую многоместных, отношениях между собой.

В работе подход к представлению таких знаний на основе логики первого порядка (формул исчисления предикатов) сравнивается с двумя широко распространёнными в настоящее время подходами, основанными на представлении информации о данных с помощью конечнозначных строк и на использовании графов.

Показано, что использование формул исчисления предикатов для описания сложных структурированных объектов, несмотря на ЫР-трудность решаемых задач, возникающих после формализации, реально имеют не большую вычислительную сложность, чем два других подхода, о чём обычно не упоминают их сторонники.

Предложен алгоритм построения онтологии, не зависящий от способа описания объекта и основанный на выделении наибольшего общего свойства объектов из заданного множества.

Ключевые слова: Сложный структурированный объект, представление данных, формулы исчисления предикатов, строка признаков, граф знаний, онтология.

Цитирование: Косовская Т. М. Сравнение различных представлений знаний для сложных структурированных объектов при решении задач ИИ // Компьютерные инструменты в образовании. 2021. № 2. С. 41-57. Сок 10.32603/2071-2340-2021-2-4157

1. ВВЕДЕНИЕ

Во многих задачах Искусственного Интеллекта (ИИ) осуществляется переход ДАННЫЕ => ИНФОРМАЦИЯ => ЗНАНИЯ => Мудрость, зачастую обозначаемый аббревиатурой

* Исследование поддержано Санкт-Петербургским государственным университетом, проект № 73555239.

Б1КШ [1—4]^ В настоящей работе будет рассмотрен только переход ДАННЫЕ => ИНФОРМАЦИЯ => ЗНАНИЯ в зависимости от способа задания описания данных. Классическая пирамида знаний представлена на рисунке 1.

Рис. 1. Пирамида знаний

Что же такое Данные в задачах ИИ?

Любой исследователь в области ИИ имеет дело не с объектами, а с их описаниями. Нельзя «загрузить» в компьютер (а именно с этого начинается использование ИИ) конкретные объекты: человека, улицу, внутренние органы, мысли, обстановку квартиры, город, растение и т. п. Компьютер может иметь дело только с их описаниями на некотором формализованном языке: таблицы, формулы, тексты, изображения на экране дисплея или фото и т. п. При этом такие описания одних и тех же объектов для решения разных задач могут быть в значительной степени различны. Таким образом, данные записаны на формализованном языке, выбранном исследователем для решения конкретной задачи. Причём создание описаний должно быть достаточно простым (по крайней мере, для работающих в заданной области).

Для перехода от Данных к Информации при использовании различных языков описания объектов могу использоваться разные средства. Например, вычисление ковариационной матрицы, выделение общих подформул, вычисление производных (градиентов) или интегралов функций. Всё зависит от обоснованных предпочтений исследователя и его способности с помощью этих средств решить поставленную задачу выделения информации, то есть отбрасывание несущественных для данного исследования характеристик объекта. И этот переход осуществляется уже в рамках выбранного языка. Исследователь должен уметь трактовать, какая же информация была получена, переведя формализованный язык на понятный людям, работающим в этой области.

Для перехода от Информации к Знаниям следует создать правила, которые позволят обобщить сведения об объектах, по которым создавалась Информация, на новые объекты. Причём эти правила «привязаны» к тому языку, на котором описывались объекты.

Использование различных языков для решения одной и той же задачи зачастую вызывает непонимание разных исследователей, работающих в одной области. Могу привести пример очень сложной задачи объединения двух онтологий.

Пусть для двух пересекающихся множеств объектов созданы две онтологии. При этом каждая система создавалась на основе своей системы признаков. Для этого требуется выразить одни признаки через другие. Это достаточно сложно и похоже, например, на то, как договориться русскому и китайцу, какое поведение правильное, а какое нет.

Безусловно, выбор признаков (точнее, языка описания) в значительной степени важен при решении любой задачи ИИ. Описание в виде набора значений признаков [5-8] проще для понимания и работы нематематику, чем описания на языке исчисления предикатов (ИП). Кроме того, основные задачи, описанные такими наборами, имеют, как правило, полиномиальную от длины записи строки значений признаков вычислительную сложность. В то же время задачи, возникающие при описании сложных структурированных объектов с использованием ИП, как правило, NP-трудны, а следовательно, имеют экспоненциальную от длины записи описания объекта на языке ИП вычислительную сложность.

Однажды в разговоре с профессором Николаем Григорьевичем Загоруйко, одним из первых специалистов-математиков, которые начали заниматься онтологиями, он удивился, зачем привлекать предикатные формулы. Ведь для того чтобы идентифицировать машину марки Мерседес, достаточно иметь признак наличия трёхлучевой звезды. На что я возразила, что если мальчишки отвинтят эту звезду и прикрепят её к Запорожцу, то тот не станет Мерседесом, а Мерседес не перестанет быть Мерседесом. Наличие этого признака достаточно при выходе машины с завода или из салона, но недостаточно при отслеживании машин в уличном потоке.

В работе будет показано, что если описание сложного структурированного объекта на языке ИП промоделировать с помощью бинарной строки, то длина записи такой строки экспоненциальна от длины записи его описания на языке ИП.

В настоящее время широко распространено представление данных в виде графа [9, 10]. В частности, компания Google успешно применяет графы знаний, позволяющие эффективно находить сведения об объекте или явлении. Однако информации о том, как строить граф знаний, в доступных источниках достаточно мало.

С точки зрения автора настоящей статьи, одним из недостатков описания сложного структурированного объекта в виде графа является то, что с помощью графа хорошо моделируются бинарные отношения между элементами объекта, но уже моделирование трёхместного отношения (а тем более многоместного) вызывает трудности.

Ниже будет приведён модельный пример выделения трёхместного отношения между элементами графа. Показано, что задача такого выделения NP-трудна.

Очень близко к применению графа знаний находится применение онтологий [11-13]. В настоящей работе рассматривается способ построения онтологии для множества сложных структурированных объектов. Приведённый алгоритм не зависит от языка, на котором описаны объекты. Но используемое в алгоритме понятие «наибольшее общее свойство объектов» зависит от языка описания.

В статье будут рассмотрены и проведено сравнение двух подходов к описанию сложных структурированных объектов

— задание описания объекта с помощью строки значений (бинарных или конеч-нозначных) признаков,

— задание описания объекта с помощью графа с подходом, основанным на задании описания объекта формулой исчисления предикатов (ИП) [14,15].

Кроме того, будет рассмотрен подход к формированию онтологии сложных структурированных объектов.

Во всех этих подходах Данные — это сложные структурированные объекты. Информация об объекте — это его описание на выбранном языке. Знание о множестве рассматриваемых объектов — это выделение общих свойств этих объектов, отличающих их от объектов других множеств, и умение верифицировать объект, то есть применение алго-

ритма проверки того, удовлетворяет ли объект сформулированному целевому условию, задающему выделенные общие свойства объектов из заданного множества.

2. ИСПОЛЬЗОВАНИЕ ЯЗЫКА ИП ПРИ РЕШЕНИИ ЗАДАЧ ИИ

Использование языка ИП при решении задач ИИ было предложено многими авторами ещё в 60-е годы XX века, например, в [14]. Ниже будет использоваться логико-предметный подход, описанный в [15].

Сложный структурированный объект ш представляется как множество своих элементов ш = {ш\,...,}, на котором задан набор предикатов р 1,..., рп, характеризующих свойства этих элементов (одноместные предикаты) и отношения между ними (многоместные предикаты).

Описанием 5(ш) объекта ш называется множество истинных на ш литералов.

Для задания Знания о множестве объектов требуется выделить их общие свойства в виде элементарных конъюнкций предикатных формул. В [16] описан один из возможных способов создания такого описания по обучающей выборке, в основе которого лежит понятие изоморфизма предикатных формул [17], определение которого будет дано ниже в этом разделе.

Задача верификации того, что ш удовлетворяет некоторому заданному свойству А(х), где А(х) — формула ИП с предикатами р1,..., рп 1, х — список переменных, сводится к проверке логического следования

5(ш) ^Зхф А(х), (1)

где 3Хф означает проверку существования попарно различных значений переменных из списка Х.

В [15] доказаны ОТ-полнота проверки (1) и экспоненциальные оценки её вычислительной сложности

0(гт) и 0(за)

при применении алгоритма перебора и поиска вывода в исчислении предикатов соответственно. Здесь г — количество элементов в объекте ш, т — максимальное количество переменных у предикатов, входящих в формулу А(х), в — количество литералов в описании 5(ш), а — наибольшее количество вхождений литералов с одним и тем же предикатным символом в формулу А(х).

Введённые впоследствии автором понятия неполного логического следования и изоморфизма элементарных конъюнкций предикатных формул [17] позволили существенно уменьшить показатель в экспоненциальной оценке при многократной проверке следования (1) для заранее заданного множества различных правых частей.

Приведём здесь некоторые определения, которые позволят понимать, что же такое общее свойство сложных структурированных объектов.

Определение 1. [17] Две элементарные конъюнкции

А(х1,..., хп), в (У1,..., Уп)

1 В качестве формул А(х) достаточно рассматривать только элементарные конъюнкции с предикатами Р1,..., Рп.

атомарных предикатных формул называются изоморфными, если существуют такая элементарная конъюнкция

С (гъ..., ги)

и такие подстановки

л А,С - \(г. у лВ,С - \(г. )

различных переменных из формулы С(гх,...,гп) вместо различных аргументов формулы А(хх,..., хп) и различных аргументов формулы В (ух,..., уп) соответственно, что результаты этих подстановок совпадают с формулой С(гх,..., гп) с точностью до порядка литералов

АЛ а,с - А(гк,..., ) - С (гх,..., Хп), В Лв ,с - В (г.1,..., ) - С (гх,..., Хп).

При этом подстановки Л А>С и ЛВ,С называются унификаторами формул А(хх,..., хп) и В (ух,..., уп)

соответственно с формулой С(гх,..., Хп)•

Понятие изоморфизма формул отличается от понятия их равносильности. Это, скорее, понятие равенства формул с точностью до имён переменных и порядка следования литералов. Более точно, изоморфные формулы задают одно и то же отношение между своими аргументами, быть может переставленными в другом порядке.

Задача проверки двух элементарных конъюнций предикатных формул полиномиально эквивалентна «открытой» задаче проверки изоморфизма графов, про которую не доказана её ОТ-полнота и не найден полиномиальный алгоритм её решения.

Например, очевидно, что формулы

А(х,у) - р(х)&р(у)&ц(х,у),

В (и, V) - р (и)&р (и)&Ц (V, и) не равносильны, но изоморфны. Так как при введении в рассмотрение формулы

С(гъ - рШ&р(Х2)&й(гъ г2)

и подстановок

ее

Iх,у lU,v

А(гх, г2) - р(гх)&р(Х2)&Ц(гх, г2) - С(гх, г2), В(г2, гх) - рШ&р(гх)&й(х2, гх) - С(гъ г2).

Последнее равенство имеет место с точностью до порядка первых двух конъюнктивных членов.

При решении некоторых задач ИИ требуется выделить наибольшее общее свойство, которому удовлетворяют объекты из двух множеств. При этом описание (общее свойство) объектов каждого из этих множеств известно. Следующее определение относится как раз к такой задаче.

Определение 2. [17] Элементарная конъюнкция

С (гх,..., гк)

называется наибольшей общей (с точностью до имён переменных)2 подформулой двух элементарных конъюнкций

А(х1,..., хп), В (У1,..., Ут),

если она изоморфна некоторым подформулам этих элементарных конъюнкций, но после добавления в неё хоть одного литерала становится не изоморфной ни одной подформуле либо А(х1,...,хп), либо В(у1,...,ут).

В качестве примера можно привести результат выделения наибольшей общей подформулы формул, задающих параллелограмм и трапецию. Такая подформула задаёт наибольшее общее свойство этих множеств объектов.

Всякий четырёхугольник может быть задан как упорядоченная четвёрка имён точек на плоскости (X, У, Z,и). Отрезок с концами х и у будем обозначать ху, длину такого отрезка |ху|.

На множестве четырёхугольников заданы предикаты

— четырёхместный предикат параллельности сторон (ху || хы),

— четырёхместный предикат равенства длин сторон (|ху| = |хы|).

Множество всех параллелограммов вида (х, у, х, и), определяемых как «четырёхугольник, у которого противоположные стороны равны и параллельны», задаётся формулой

(ху || хы) & (ух || их) & (|ху| = |хы|) & (|ху| = 1хы|). (*)

Множество всех трапеций вида (ы, х, у,х), определяемых как «четырёхугольник, у которого две противоположные стороны параллельны, а две другие не параллельны», задаётся формулой

(ых || ух) &-(ху || хи). (**)

Несложно видеть, что наибольшей общей подформулой (*) и (**) является формула (ху || хи), которая задаёт свойство четырёхугольника «две противоположные стороны параллельны» и изоморфна первому члену (**) с унификатором ^ЫХ^Ы)'

Из этого следует, что так определённые множества параллелограммов и трапеций имеют общее свойство, но не пересекаются, так как формула (*) не имеет ни одного конъюнктивного члена с отрицанием.

В некоторой литературе множество всех трапеций вида (ы,х,у,х) определяется как «четырёхугольник, у которого две противоположные стороны параллельны» и оно задаётся формулой

(их || ух). (* * *)

Наибольшей общей подформулой (*) и (***) является та же формула (ху || хы), но при этом множество параллелограммов является подмножеством множества трапеций, так как из (*) следует (***).

В работе [18] описаны некоторые ранее опубликованные автором задачи, которые могут быть решены с помощью логико-предметного подхода и использования понятий изоморфизма предикатных формул и выделения наибольшей общей подформулы заданных предикатных формул, точнее, наибольшего общего свойства объектов из двух множеств:

— задание метрики в пространстве элементарных конъюнкций предикатных формул, что позволяет измерять степень похожести исследуемых объектов;

2 Ниже слова «с точностью до имён переменных» для краткости будут опускаться.

— построение многоуровневого описания классов в задачах распознавания, существенно снижающего вычислительную сложность задач при их многократном решении с заданным множеством свойств, записанных в правой части (1);

— построение логических баз данных, устанавливающих структуру связей между элементами заданного множества объектов;

— построение логических онтологий, а именно, построение иерархии (ориентированного графа) в множестве сложных структурированных объектов, описанных формулами ИП так, что каждый объект из выделенного подмножества объектов обладает одним и тем же свойством, причём объекты из множества «дочерней» вершины обладают всеми свойствами объектов из множества «отцовской» вершины плюс некоторыми дополнительными;

— формирование предикатной сети, аналогичной нейронной сети, но для сложных структурированных объектов, описанных на языке ИП, и имеющей возможность перестраивать свою конфигурацию (количество слоёв и количество ячеек в слое) в процессе обучения;

— формирование нечёткой предикатной сети, позволяющей распознавать с вычисляемой степенью уверенности новые объекты, на которых сеть не была обучена.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

3. ЛОГИЧЕСКИЙ ПОДХОД И ИСПОЛЬЗОВАНИЕ СТРОК ЗНАЧЕНИЙ ПРИЗНАКОВ

ПРИ РЕШЕНИИ ЗАДАЧ ИИ

В обширной статье [7] приведена таблица использования различных логик для решения разных задач ИИ. Там, в частности, отмечается, что для решения задач формализации и верификации используются только временные и вероятностные логики. Часть этой таблицы приведена в таблице 1.

Таблица 1. Виды логики для области применения. Акронимы и аббревиатуры: FOL (First-Order Logic); DL (Description Logic); BDI (Belief-Desire-Intention (Logic)); TL (Temporal Logic); FL (Fuzzy Logic); PL (Probabilistic Logic); DR (Defeasible Reasoning); CLP (Constraint Logic Programming)

FOL DL BDI TL FL PL DR CLP

Formalization & Verification X X

Cognitive Agents X X X X X X

Planning & Task Allocation X X X X

Robotics & Control X X X X

В связи с этим использование языка ИП в этой статье будет отделено от стандартно используемых для описания объектов пропозициональных (булевских) переменных.

К логическому подходу также часто относят использование описания в виде конечно-значной строки, задающей значения (быть может, многозначные) признаков объекта.

Ниже будем считать, что все признаки бинарны. Это не сильно изменит длину записи строки, так как всякий k-значный признак можно заменить на [log k] бинарных призна-

Постановка задач, как правило, начинается с задания исходных данных и определения того, что такое описание объекта.

3 Хоть на практике k-значный признак обычно заменяют на k бинарных.

На объекте ш задан набор бинарных признаков д1,..., дт, характеризующих свойства объекта. Описанием 5 (ш) объекта ш называется бинарная строка (а1у..., ат) где а j = 1, если и только если ш обладает признаком qj.

В контексте настоящей работы Данные — это сложные структурированные объекты, Информация — описания объектов в виде бинарной строки, Знания — это совокупность свойств объектов из заданного множества.

Свойство объекта задаётся, например, строкой вида (в1,...,вт), где вj е {0,1,Л}, причём символ Л означает, что вместо него может находиться как 0, так и 1.

За десятилетия использования такого подхода выработано большое количество широко применяемых методов выделения общих свойств объектов, описания которых задаются в виде бинарной строки [19, 20].

Задача верификации того, что объект обладает заданным свойством, при этом сводится к проверке

(в1,..., вт) является подстрокой (а1,..., ат). (2)

Очевидно, что вычислительная сложность проверки (2) квадратична4 относительно длины записи строк.

Возникает вопрос: «Зачем использовать постановку задачи в терминах ИП, которая ОТ-полна, если в другой постановке она квадратична?». Кроме того, использование логико-предметного подхода требует более глубокого знания математической логики, чем знакомство с булевыми функциями и умения работать со строками.

Давайте разберёмся, какова длина записи бинарной строки, задающей описание сложного структурированного объекта.

Напомним, что сложный структурированный объект ш представлен как множество своих элементов ш = {шь..., шг}, на котором задан набор предикатов р1,..., рп, характеризующих свойства этих элементов и отношения между ними. Описанием 5(ш) объекта ш называется множество истинных на ш литералов.

При моделировании такого описания с помощью бинарной строки необходимо ввести пропозициональные (булевские) переменные. При этом

— для каждого одноместного предиката р 1 требуется ввести г пропозициональных переменных д \х,..., д1 ( таких, что

(д^- = 1) о р1 (шj);

— для каждого 2-местного предиката р 2 требуется ввести г2 пропозициональных пе-

2 2 ременных д 21 1,..., д 2 г г тагах, что

22 (Уи¡,1 = 1) о Р\(шj, ш\);

— для каждого к-местного предиката рк требуется ввести гк пропозициональных пе-

к к ременных д к1 1,..., г тагах, что

__= 1 о рк (ш л— ).

4Автору могут возразить, что эта сложность линейна, но в теории сложности алгоритмов принято измерять сложность в числе шагов машины Тьюринга, а она квадратична для этой задачи. Имеется большое количество методов, позволяющих уменьшить эту оценку.

Суммируя эти оценки, получаем, что длина записи бинарной строки составит О(^), где *' — наибольшее количество аргументов у предикатов р\,..., рп. Эта оценка совпадает с оценкой числа шагов проверки логического следования (1) при использовании переборного алгоритма [15]. Такая же оценка приведена в [21] для решения экономических задач при их моделировании бинарными строками.

Получили, что квадратичная оценка числа шагов решения задачи (2) квадратична только от длины записи бинарной строки, задающей описание сложного структурированного объекта. При этом сама длина записи этой строки экспоненциальна от длины записи описания сложного структурированного объекта на языке ИП.

Но ведь экспонента, возведённая в квадрат остаётся экспонентой. Следовательно, вычислительная сложность задачи (2) экспоненциальна от длины записи описания сложного структурированного объекта на языке ИП.

Выделение наибольшего общего свойства двух и более строк одинаковой длины заключается в нахождении такой строки, у которой в каждой позиции значение либо совпадает со значением в этой позиции у всех строк, либо равно специальному символу Л, если хотя бы в двух строках в этой позиции значения различны.

Такое выделение также полиномиально от длины записи этих строк и их количества. Но уже было показано, что сами длины строк экспоненциально зависят от длины записи описания объектов на языке ИП.

4. ПРЕДСТАВЛЕНИЕ ДАННЫХ С ПОМОЩЬЮ ГРАФОВ

Ещё одним широко распространённым способом описания структурированного объекта является его описание с помощью графа. Распространено мнение, что ВСЁ можно задать с помощью графов. При этом обход графа осуществляется достаточно быстро, а именно за линейное от числа вершин и рёбер шагов.

Описание сложного структурированного объекта может представлять собой граф, в вершинах которого находятся имена объектов (элементы множества исследуемых объектов), помеченные именами свойств этих объектов, а рёбра — бинарные отношения между этими объектами, причём рёбра помечены именами отношений. Рёбра могут быть как ориентированными, если соответствующее бинарное отношение не симметрично (например, предикат любить), так и не ориентированными (например, предикат дружить).

Таким образом, граф, описывающий сложный структурированный объект, является мультиграфом, у которого каждая вершина помечена конечным числом меток из заданного множества имён одноместных предикатов, а пары вершин соединены некоторым количеством ориентированных и неориентированных рёбер, каждое из которых помечено именем бинарного отношения из заданного множества бинарных отношений.

Это вполне соответствует тому, что имеется множество ш, элементами которого являются исследуемые объекты, на которых заданы одноместные предикаты, задающие свойства этих объектов, и двуместные предикаты, задающие бинарные отношения между объектами.

Недостатком описания структуры с помощью такого графа по сравнению с логико-предметным подходом является то, что в нём плохо представимы многоместные (с числом аргументов более двух) отношения. Для выделения многоместного отношения, присутствующего среди объектов, необходимо в уже построенном графе найти хотя бы 2 изоморфных подграфа, для которых можно установить такую биекцию между вершинами,

что каждая пара вершин в этой биекции обладает, по крайней мере, некоторыми одинаковыми свойствами. При этом в каждом множестве отношений между смежными вершинами имеется, по крайней мере, одно отношение между вершинами, являющимися их образами для найденной биекции.

Стоит ли говорить о том, что поиск двух изоморфных подграфов — это экспоненциально сложная задача5.

Для примера рассмотрим изображённый на рисунке 2 результат выделения подграфа трёхместного отношения.

Р Рз

Рис. 2. Результат выделения подграфа трёхместного отношения.

Пусть в некотором графе, описывающем сложный структурированный объект (вообще говоря, в помеченном ориентированном мультиграфе, поскольку объекты в вершинах могут обладать несколькими свойствами, а пары вершин находиться в нескольких отношениях, не всегда симметричных), имеется 2 подграфа (их нужно ещё найти!) с вершинами А, В, С и X, У, Z соответственно, изображённые в верхней части рисунка. Известны свойства Р1,...,Р10 элементов, соответствующих вершинам, и бинарные отношения Я1,..., Я9 между ними.

В частности, элемент А обладает свойствами Р^А), Р2(А) и Р4(А), элементы X и У находятся в двух отношениях Я2 и Я3, причём отношение Я2 не симметрично, то есть выполняется Я2(У,X), но нельзя гарантировать Я2(Х, У).

В нижней части рисунка изображен граф, задающий трёхместное отношение Я3(Л,Б, Г), изоморфный подграфам графов в верхней части рисунка, что позволяет гарантировать Я3( А, В, С) и Я3(Х, У, Z).

Мне могут возразить, что если изначально известны многоместные отношения между элементами, то соответствующие подграфы можно снабдить метками этих многоместных отношений, приписанными как вершинам и их свойствам, так и рёбрам вместе с метками бинарных отношений.

Но не слишком ли много меток получат элементы графа?

Представление данных в виде графа нашло практическое применени в виде графа знаний [9]. Граф знаний — это семантическая технология и база знаний, позволяющая

5 Задача нахождения подграфа, изоморфного заданному, ЫР-трудна [22].

находить сведения об объекте или явлении, практическое использование которого началось в 2012 г. компанией Google. Тем не менее, стоит отметить, что нахождение сведений и извлечение знаний об объекте — это несколько различные задачи.

В этой же работе отмечается, что «Однако до сих пор не ясно, как воспользоваться данной технологией на практике из-за небольшого количества имеющейся информации по этой теме».

Графы знаний имеют большую аналогию как с базами данных, так и с онтологиями.

5. ОНТОЛОГИИ

В настоящее время большое внимание при рассмотрении задач ИИ уделяется онтоло-гиям [11-13].

С одной стороны, онтология как предмет исследования философов представляет из себя абстракцию, которая учитывает одни свойства объектов или отношения между ними и не принимает во внимание другие.

С другой стороны, для математика онтология — это ориентированный граф, в котором множество объектов из «дочерней» вершины являются подмножеством объектов «отцовской» и обладают всеми свойствами и находятся в лех же отношениях, что и объекты «отцовской», но, кроме этого, обладают некоторыми специфическими свойствами. В поисковых системах онтологии используются, например, для поиска объектов с одинаковыми свойствами.

Чисто формально область знаний, для которой составляется онтология, представляет собой сложный структурированный объект, элементы которого сами являются сложными структурированными объектами, которые могут быть описаны средствами заданных свойств и некоторых известных отношений.

В качестве примера всем известной со школьных лет онтологии может служить онтология четырёхугольников, представленная на рисунке 3.

Трапеция

Четырёхугольник

I

Дельтоид

Параллелограмм

Равпоб. трапеция

Ромб

Прямоугольник

Квадрат

Рис. 3. Онтология четырёхугольников

Этот пример показателен, поскольку каждый конкретный четырёхугольник является сложным структурированным объектом, в котором вершины и стороны находятся в известных отношениях.

Если с использованием онтологий в настоящее время всё более или мше^^ня^но, то как её составить по представительной выборке — это вопрос.

В [23] описан способ построения онтологии для сложных структурированных объектов, описанных на языке ИП. В основе его лежит понятие изоморфизма предикатных формул.

Опишем здесь одну из возможных постановок задачи построения онтологии по представительной выборке. В этой постановке не будет делаться различия, на каком языке описаны объекты.

Постановка задачи построения онтологии.

Дано множество сложных структурированных объектов П = [ш1,...,шт} и описания объектов 5Ш1),...,5(шт).

Требуется построить ориентированный граф, у которого вершина с нулевым заходом помечена множеством П0 и соответствует множеству различных6 описаний, каждое из которых совпадает с некоторым описанием объекта из П.

Если из вершины Пк выходят дуги к вершинам, помеченным множествами Пк1,..., Пкг ,то

— Пк = иГ=1Пк.;

— для каждого г = 1,...,г объекты из Пк. обладают всеми свойствами, общими для всех объектов из Пк;

— если г Ф ], то наибольшие общие свойства элементов из Пк. и Пк] различны.

Алгоритм решения задачи построения онтологии.

1. Для каждой пары описаний Б(ш1) и 5(ш])) (1 < г < ] < т), входящих Б(П), выделяем их максимальное общее свойство 51].

Если среди выделенных максимальных общих свойств имеются одинаковые, то оставляем только одно из них и перенумеровываем эти свойства без повторений

51,...,5 п1.

Из вершины, помеченной П0, проводим ориентированные ребра к вершинам, помеченным

П1,...,ПП1, где П1 — множество объектов, максимальньил общшг свойством которых является 51.

2. Повторяем (при I = 2,...,Ь) процесс выделения максимальных общих свойств для пар Б1.-1 и Б1-1 (1 < г < ] < п1), получив максимальные общие свойства Б1...

Если среди выделенных максшмальных общих свойств шлеются одинаковые, то оставляем только одно из них и перенумеровываем эти свойства без повторений

51,..., 5т.

Из вершин, помеченных П._1 и П1-1, проводим ориентированные рёбра к вершине, по-

г ]

меченной свойством П1к, объекты которой обладают общим для объектов из П.._1 и П]-1 свойством 81к. Если среди выделенных максимальных общих свойств имеется совпадающее с ранее выделенным, то вершину, соответствующую ранее выделенному максимальному свойству, отождествляем с вновь выделенной (вместе с рёбрами, ицидентными этой вершине).

3. Алгоритм завершает работу, если ни в одной паре висячих вершин построенного графа нет объектов, обладающих общими свойствами.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

6 Для описаний на языке ИП различные — это не изоморфные, а совпадающие — это изоморфные.

7 Процесс завершится, так как на каждой итерации длины подформул уменьшаются.

Результат отождествления вершин О1^1 и О^',, соответствующих максимальному общему свойству Sl¡+1, совпадающему с ранее выделенным , представлен на рисунке 4.

оГ,:

о'

а+1

а.

а

Т7\

Рис. 4. Отождествление вершин О?.+1 и О Г,, соответствующих одинаковым максимальным общим

свойствам

При этом возникновение «порочного круга», при котором в графе получается ориентированный цикл, невозможно, так как длины записей наибольших общих свойств (по крайней мере, при использовании описаний на языке ИП) уменьшаются при прохождении по ориентированному пути.

Следует отметить, что описанный алгоритм построения онтологии не зависит от способа описания данных. При этом выделение максимального общего свойства существенно зависит от способа их описания.

Представление описания сложного структурированного объекта на языке ИП — это выделение максимальной общей подформулы. А совпадение максимальных общих свойств — это изоморфизм соответствующих формул.

Как указывалось в разделе 3, максимальное общее свойство объектов при задании описания сложного структурированного объекта строкой признаков — это строка, в которой стоит значение признака, если оно совпадает для всех рассматриваемых объектов, и символ Л в противном случае. Совпадение максимальных общих свойств — это равенство таких строк. Заметим, что в процессе работы алгоритма длина записи максимального общего свойства не изменяется8.

При этом не стоит забывать, что длина записи строки значений бинарных (или многозначных) признаков экспоненциально зависит от длины записи описания сложного структурированного объекта на языке ИП.

Как указывалось в разделе 4, максимальное общее свойство объектов при задании описания с помощью графа — это наибольший общий подграф помеченного ориентированного мультиграфа.

В любом случае алгоритм работает за экспоненциальное число шагов от длины записи описания объекта на языке ИП.

8 Но можно уменьшать длину записи максимального общего свойства, если указывать номер позиции в строке и значение существенного признака.

о1

и

6. ЗАКЛЮЧЕНИЕ

В работе представлено сравнение трёх дискретных подходов к описанию сложных структурированных объектов: формализация описаний с помощью формул ИП, представление описаний объектов с помощью бинарных (или конечнозначных) строк, представление описаний объектов с помощью графов. Все эти подходы позволяют осуществлять переход от Данных к Информации и к Знаниям.

Показано, что использование формул ИП для описания сложных структурированных объектов, несмотря на NP-трудность решаемых задач, возникающих после формализации, реально имеют не большую вычислительную сложность, чем два других подхода. Точнее,

— если объект описан средствами ИП, то при моделировании такого описания с помощью бинарной строки длина такой строки экспоненциально зависит от длины записи соответствующей предикатной формулы;

— при представлении описания объекта с помощью графа напрямую можно задавать только бинарные отношения между элементами сложного структурированного объекта, при выделении же многоместных отношений возникают экспоненциально сложные задачи поиска изоморфных подграфов.

Рассмотрена задача выделения наибольшего общего свойства сложных структурированных объектов из заданного множества. При всех трёх подходах к описанию исследуемых объектов эта задача экспоненциальна относительно длины записи описания объекта на языке ИП. При этом, несмотря на её полиномиальность относительно длины записи описания сложного структурированного объекта с помощью строки признаков, реальное время экспоненциально относительно длины записи описания объекта на языке ИП.

Безусловно, начальные сведения о математической логике на уровне булевых функций и пропозициональных формул, обработка строк, а также представление графов и работа с ними на компьютере изучаются во всех учебных заведениях, готовящих специалистов в областях, связанных с ИИ. Математическую логику, включающую исчисление предикатов и машинно-ориентированные исчисления, изучают далеко не во всех таких учебных заведениях.

Поэтому, несмотря на то, что ИП имеет большую адекватность человеческому восприятию (мы рассуждаем и воспринимаем информацию в терминах отношений между элементами области рассуждения, а не в терминах свойств этой области), использование формул ИП для представления информации можно найти, в основном, в учебниках по информатике и ИИ.

Список литературы

1. Bellinger G., Casstro D., Mills A. Date, Information, Knowledge, and Wisdom // Systems-thinking.org, 2004. [Online]. URL: https://systems-thinking.org/dikw/dikw.htm (date: 20.06.2021).

2. Godbout A. J., Godbout G. M. Filtering Knowledge: Changing Information into Knowledge Assets // Journal of Systemic Knowledge Management. 1999. Vol. 1, no. 3.

3. Van Meter H. J. Revising the DIKW Pyramid and the Real Relationship Between Data, Information, Knowledge and Wisdom // Law, Technology and Humans (Symposium: What is Real about Law and Technology?). 2020. Vol. 2, № 2.

4. CooperP. Data, information, knowledge and wisdom // INFORMATICS. 2017. Vol. 18, № 1. pp. 55-56.doi: https://doi.org/10.1016/j.mpaic.2016.10.006

5. DarwicheA. Three Modern Roles for Logic in AI. 2020. URL: https://arxiv.org/pdf/2004.08599.pdf (date: 20.06.2021).

6. AmarilliA. 2019. Provenance in Databases and Links to Knowledge Compilation // KOCOON workshop on knowledge compilation. Arras, France, Dec, 17, 2019. 2019. [Slides]. URL: https://a3nm.net/work/ talks/kocoon2019/amarilli2019provenance_slides.pdf (date: 20.06.2021).

7. Gelfond M. Logic Based Approach to AI. URL: https://fmfi-uk.hq.sk/Informatika/Uvod%20Do% 20Umelej%20Inteligencie/clanky/logic-ai.pdf (date: 20.06.2021).

8. Calegari R., Ciatto G., Denti E., Omicini A. Logic-Based Technologies for Intelligent Systems: State of the Art and Perspectives // Information. 2020. Vol. 11, № 3. P. 167. doi: 10.3390/info11030167

9. Гурин В. С., Костров Е. В., Гавриленко Ю. Ю., СаадаД. Ф., Ильюшин Е. А., Чижов И. В. Представление знаний в виде графа: основные технологии и подходы // Современные информационные технологии и IT-образование. 2019. T. 15, № 4. C. 932-944. doi: 10.25559/SITIT0.15.201904.932-944

10. ZhangZ., CuiP., Zhu W. Deep Learning on Graphs: A Survey//Journal oflatex class files. 2015. Vol. 14, № 8. P. 1-24.

11. Микони С. В. О качестве онтологических моделей // Онтология проектирования. 2017. T. 7, № 3. C. 347-360. doi: 10.18287/2223-9537-2017-7-3-347-360

12. Noy N. F., McGuinness D. L. Ontology Development 101: A Guide to Creating Your First Ontology // Stanford Knowledge Systems Laboratory Technical Report KSL-01-05 and Stanford Medical Informatics Technical Report SMI-2001-0880. March 2001. Stanford: Stanford Knowledge Systems Laboratory. 2001.

13. Mykhailiuk A., Petrenko M. Machine learning and ontologies as two approaches for building intellectual information systems // International Journal "Information Technologies & Knowledge". 2019. Vol. 13, № 1. P. 55-75.

14. Нильсон Н. Искусственный интеллект. Методы поиска решений. М.: Мир, 1973.

15. Косовская Т. М. Доказательства оценок числа шагов решения некоторых задач распознавания образов, имеющих логические описания // Вестн. С.-Петербург. ун-та. Сер. 1. 2007. Вып. 4. С. 8290.

16. Kosovskaya T. M. Fuzzy Recognition by Logic-Predicate Network // Adv. Sci. Technol. Eng. Syst. J. 2020. Vol. 5, № 4. P. 686-699. doi: 10.25046/aj050482

17. Косовская Т. М., Петров Д. А. Выделение наибольшей общей подформулы предикатных формул для решения ряда задач искусственного интеллекта // Вестник СПбГУ. Прикладная математика. Информатика. Процессы управления. 2017. Т. 13. Вып. 3. С. 250-263. doi: 10.21638/11701/spbu10.2017.303

18. Косовская Т. М. Изоморфизм формул исчисления предикатов в задачах Искусственного Интеллекта // Исследования по прикладной математике и информатике. Зап. научн. сем. ПОМИ. 2021. Vol. 499. P. 38-52.

19. Bishop C. M. Pattern Recognition and Machine Learning // NY.: Springer, 2006. 758 p.

20. Oh J., Yun K., Maoz U., Kim T.-S., Chaea J.-H. Identifying depression in the National Health and Nutrition Examination Survey data using a deep learning algorithm // Journal of Affective Disorders. 2019. Vol. 257. P. 623-631. doi: 10.1016/j.jad.2019.06.034

21. Рассел С., Норвиг П. Искусственный интеллект: современный подход, 2-е изд.: Пер. с англ. М.: Вильямс, 2006. 1408 с.

22. ГэриМ., Джонсон Д. Вычислительные машины и труднорешаемые задачи. М.: Мир, 1982.

23. Косовская Т. М. Выделение изоморфных подформул как средство для создания логической онтологии // 13-я Российская Мультиконференция по Проблемам Управления. Материалы конференции «ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ В УПРАВЛЕНИИ» (ИТУ-2020) 7-8 октября 2020 г. Санкт-Петербург, 2020. C. 84-86.

Поступила в редакцию 25.05.2021, окончательный вариант— 17.06.2021.

Косовская Татьяна Матвеевна, доктор физико-математических наук, доцент, профессор кафедры информатики математико-механического факультета СПбГУ,Иkosovtm@gmail.com

Computer tools in education, 2021 № 2: 41-57 http://cte.eltech.ru

doi:10.32603/2071-2340-2021-2-41-57

Comparison of Different Knowledge Representations for Complex Structured Objects in Solving AI Problems

Kosovskaya T. M.1, Doctor of science, Professor, El kosovtm@gmail.com

1 Saint Petersburg State University, 28 Universitetskiy pr., Stary Peterhof, 198504, Saint Petersburg, Russia

Abstract

The problem of knowledge representation for a complex structured object is one of the actual problems of AI. This is due to the fact that many of the objects under study are not a single indivisible object characterized by its properties, but complex structures whose elements have some known properties and are in some, often multiplace, relations with each other.

An approach to the representation of such knowledge based on first-order logic (predicate calculus formulas) is compared in this paper with two currently widespread approaches based on the representation of data information with the use of finite-valued strings or graphs.

It is shown that the use of predicate calculus formulas for description of a complex structured object, despite the NP-difficulty of the solved problems arising after formalization, actually have no greater computational complexity than the other two approaches, what is usually not mentioned by their supporters.

An algorithm for constructing an ontology is proposed that does not depend on the method of describing an object, and is based on the selection of the maximum common property of objects from a given set.

Keywords: Complex structured object, data representation, predicate calculus formulas, feature string, knowledge graph, ontology.

Citation: T. M. Kosovskaya, "Comparison of Different Knowledge Representations for Complex Structured Objects in Solving AI Problems", Computer tools in education, no. 2, pp. 41-57, 2021; doi:10.32603/2071-2340-2021-2-41-57

References

1. G. Bellinger, D. Casstro, and A. Mills, "Date, Information, Knowledge, and Wisdom," in Systems-thinking.org, 2004. [Online]. Available: https://systems-thinking.org/dikw/dikw.htm

2. A. J. Godbout and G. M. Godbout, "Filtering Knowledge: Changing Information into Knowledge Assets," Journal of Systemic Knowledge Management, vol. 1, no. 3,1999.

3. H. J. van Meter, "Revising the DIKW Pyramid and the Real Relationship Between Data, Information, Knowledge and Wisdom," Law, Technology and Humans, vol. 2, no. 2, pp. 69-80, 2020; doi: 10.5204/lthj.1470

4. P. Cooper, "Data, information, knowledge and wisdom," INFORMATICS, vol. 18, no. 1, pp. 55-56, 2017; doi: https://doi.org/10.1016/j.mpaic.2016.10.006

5. A. Darwiche, "Three Modern Roles for Logic in AI," in Arxiv.org, 2020. [Online]. Available: https://arxiv. org/pdf/2004.08599.pdf

6. A. Amarilli, "Provenance in Databases and Links to Knowledge Compilation," in KOCOON workshop on knowledge compilation, Arras, France, Dec, 17, 2019, 2019. [Slides]. Available: https://a3nm.net/work/ talks/kocoon2019/amarilli2019provenance_slides.pdf

7. M. Gelfond, "Logic Based Approach to AI," in fmfi-uk.hq.sk, 2005. [Online]. Available: https://fmfi-uk. hq.sk/Informatika/Uvod%20Do%20Umelej%20Inteligencie/clanky/logic-ai.pdf

8. R. Calegari, G. Ciatto, E. Denti, and A. Omicini, "Logic-Based Technologies for Intelligent Systems: State of the Art and Perspectives," Information, vol. 11, no. 3, p. 167, 2020; doi: 10.3390/info11030167

9. V. S. Gurin, E. V. Kostrov, Yu. Yu. Gavrilenko, D. F. Saada, E. A. Il'yushin, and I. V. Chizhov, "Knowledge Graph Essentials and Key Technologies," Modern Information Technologies and IT-Education, vol. 15, no. 4, pp. 932-944, 2019 (in Russian); doi: 10.25559/SITIT0.15.201904.932-944

10. Z. Zhang, P. Cui, and W. Zhu, "Deep Learning on Graphs: A Survey," Journal of latex class files, vol. 14, no. 8, pp. 1-24, 2015.

11. S. V. Mikoni, "On the Quality of Ontological Models," Ontology of Designing, vol. 7, no. 3, pp. 347-360, 2017; doi: 10.18287/2223-9537-2017-7-3-347-360

12. N. F. Noy and D. L. McGuinness, "Ontology Development 101: A Guide to Creating Your First Ontology," Technical Report KSL-01-05 and Stanford Medical Informatics Technical Report SMI-2001-0880, Stanford, CA, USA: Stanford Knowledge Systems Laboratory, 2001.

13. A. Mykhailiuk and M. Petrenko, "Machine learning and ontologies as two approaches for building intellectual information systems," International Journal "Information Technologies & Knowledge", vol. 13, no. 1, pp. 55-75, 2019 (in Russian).

14. N. G. Nilsson Problem-Solving Methods in Artificial Intelligence, Moscow: Mir, 1973 (in Russian).

15. T. M. Kosovskaya, "Dokazatel'stva otsenok chisla shagov resheniya nekotorykh zadachraspoznavani-ya obrazov, imeyushchikh logicheskie opisanii" [Proofs of the number of steps bounds for solving of some pattern recognition problems with logical description], Vestnik of St-Petersburg University. Ser. 1, no. 4, pp. 82-90, 2007 (in Russian).

16. T. M. Kosovskaya, "Fuzzy Recognition by Logic-Predicate Network," Adv. Sci. Technol. Eng. Syst.J., vol. 5, no. 4, pp. 686-699, 2020; doi: 10.25046/aj050482

17. T. M. Kosovskaya and D. A. Petrov, "Extraction of a maximal common sub-formula of predicate formulas for the solving of some artificial intelligence problems," Vestnik S.-Petersburg Univ. Ser. 10. Prikl. Mat. Inform. Prots. Upr., vol. 13, no. 3, pp. 250-263, 2017 (in Russian); doi: 10.21638/11701/spbu10.2017.303

18. T. M. Kosovskaya, "Isomorphism of predicate formulas in artificil intelligence problems," Zap. Nauchn. Sem. POMI, vol. 499, pp. 38-52, 2021 (in Russian).

19. C. M. Bishop, Pattern Recognition and Machine Learning, New York: Springer, 2006.

20. J. Oh, K. Yun, U. Maoz, T.-S. Kim, and J.-H. Chaea, "Identifying depression in the National Health and Nutrition Examination Survey data using a deep learning algorithm," Journal of Affective Disorders, vol. 257, pp. 623-631, 2019; doi: 10.1016/j.jad.2019.06.034

21. S. J. Russel and P. Norvig, Artificial Intelligence. A Modern Approach, Moscow: Izdatelskii dom "Vi-l'yams", 2006 (in Russian).

22. M. R. Garey and D. S. Johnson, Computers and Intractability: A Guide to the Theory ofNP-Completeness, Moscow: Mir, 1982 (in Russian).

23. T. M. Kosovskaya, "Isomorphous Subformules Isolation as a Means to Construct Logical Ontology," in Proc. 13th Russian Multiconference on Management Problems. "Information technology management (ITU-2020), 7-8 Oct. 2020, St. Petersburg, St. Petersburg, Russia: Concern CSRI Elektropri-bor, 2020, pp. 84-86 (in Russian).

Received 25-05-2021, the final version — 17-06-2021.

Kosovskaya Tatiana Matveevna, doctor of physical and mathematical Sciences, associate Professor, Professor of the Department of Informatics of the faculty of mathematics and mechanics of Saint Petersburg state University, El kosovtm@gmail.com

i Надоели баннеры? Вы всегда можете отключить рекламу.