CC BY
100
19. Kutateladze S.S., Leont'ev A.I. Teplomassoobmen i trenie v turbulentnom pogranichnom sloe [Heat and mass transfer and friction in a turbulent boundary layer]. Moscow: Energoatomizdat, 1985, 319 p.
20. Repik E.U., Sosedko Yu.P. Turbulentnyy pogranichnyy sloy. Metodika i rezul'taty turbulentnykh issledovaniy [A turbulent boundary layer. The methodology and results of turbulent research]. Moscow: Fizmatlit, 2007, 306 p.
Статью рекомендовал к опубликованию д.т.н., профессор Г.С. Панатов.
Палий Александр Викторович - Южный федеральный университет; e-mail: a.v._paliy@mail.ru; 347928, г. Таганрог, пер. Некрасовский, 44; тел.: 88634371603; к.т.н.; кафедра конструирования электронных средств; доцент.
Paliy Alexander Viktorovich - Southern Federal University; e-mail: a.v._paliy@mail.ru; 44, Nekrasovskiy, Taganrog, 347928, Russia; phone: +78634371603; the department of electronic apparatuses design; lecturer.
УДК 004.75 DOI 10.18522/2311-3103-2016-10-146158
С.А. Ховансков, В.А. Литвиненко, В.С. Хованскова
АЛГОРИТМ ОРГАНИЗАЦИИ БЕЗОПАСНЫХ РАСПРЕДЕЛЕННЫХ ВЫЧИСЛЕНИЙ НА ОСНОВЕ МНОГОАГЕНТНОЙ СИСТЕМЫ*
В настоящее время разработке методов организации распределенных вычислений уделяется много внимания. Одним из методов создания распределенных вычислений является использование многоагентной системы. При организации распределенных вычислений на основе обычных сетевых компьютеров могут возникать угрозы безопасности выполняемых вычислительных процессов. Авторами разработан единый алгоритм агентов системы управления работой вычислительных узлов сети. В качестве вычислительных узлов используются персональные компьютеры, объединенные в сеть. Предлагаемый алгоритм управления агентом системы позволяет организовать использование агентами вычислительных мощностей своих компьютеров сети для решения большеобъемных задач путём создания безопасных распределенных вычислений. Агенты, управляющие сетевыми компьютерами, могут: организовать распределенную вычислительную систему, распределить вычислительную нагрузку между компьютерами управляемыми агентами, выполнить оптимизацию вычислительной нагрузки в зависимости от вычислительной мощности компьютеров. В ходе выполнения вычислений количество компьютеров, включенных в многоагентную систему, может увеличиваться без участия внешней управляющей системы. Это происходит за счет подключения новых компьютеров к вычислительной системе путем передачи им агентов, что приводит к увеличению вычислительной мощности системы. Благодаря разработанному алгоритму агента, организуемые безопасные распределенные вычисления позволяют сократить общее время решения большеобъемных задач. Организуемое алгоритмом взаимодействие агентов повышает отказоустойчивость (живучесть) вычислительных процессов в условиях нестабильности внутренней и внешней вычислительной среды (изменение количество работающих сетевых компьютеров). При отсутствии угрозы безопасности вычислениям многоагентная система способна выполнять перечисленные функции без управляющего центра. В случае наличия угрозы в децентрализованную многоагент-ную систему для повышения степени ее безопасности добавляется несколько «центральных» агентов, алгоритм работы которых усложнен по сравнению с другими агентами. Под управлением разработанного алгоритма агенты выполняют обнаружение случаев фальсификации результатов работы распределенной системы, которые могут привести к принятию неправильных решений.
Распределенные вычисления; многоагентная система; безопасность вычислений; защита работоспособности.
*
Работа выполнена при поддержке РФФИ (проект № 14-01-00665). 146
S.A. Khovanskov, V.A. Litvinenko, V.S. Khovanskova
ALGORITHM FOR ORGANIZATION OF SAFE DISTRIBUTED COMPUTING ON THE BASIS OF MULTIAGENT SYSTEM
Nowadays the developing methods for distributed computing attract much attention. One of the methods for distributed computing is the use of multi-agent systems. The organization of distributed computing based on the conventional network computers can experience security threats performed by computational processes. Authors have developed the unified agent algorithm of control system of computing network nodes operation. Network PCs are used as computing nodes. The proposed multi-agent control system for the implementation of distributed computing allows in a short time to organize using of the processing power of computers in the network for solving large-tasks by creating a distributed computing. Agents who control a computer network can: configure a distributed computing system; distribute the computational load among computers operated by the agents; perform an optimization of computing load according to the computing power of computers in the network. The number of computers connected to the network can be increased by connecting computers to the new computer system, which leads to an increase in overall processing power. Adding multi-agent system in the central agent increases the security of distributed computing. This organization of the distributed computing system reduces the problem solving time and increase fault tolerance (vitality) of computing processes in a changing computing environment (dynamic change of the number of computers on the network). In the absence of security threats computing multi-agent system is able to perform the enumerated functions without a control center. In case of a threat several "central" agents which operation algorithms are complicated compared to other agents are added in a decentralized multi-agent system to enhance its degree of security. Under control of the developed algorithm agents will detect cases of falsification of the distributed system operation results, which may lead to wrong decisions.
Distributed computing; multi-agent system; security of computing; efficiency protection.
Введение. Использование распределенных вычислений позволяет значительно сократить время выполнения сложных задач.
Одним из методов создания распределенных вычислений является использование многоагентной системы [1-5].
Такой метод позволяет за небольшой промежуток времени организовывать многоагентной системой распределенные вычисления в обычной компьютерной сети. В качестве вычислительных узлов могут использоваться любые вычислительные системы, например персональные компьютеры.
При организации распределенных вычислений на основе обычных сетевых компьютеров могут возникать угрозы безопасности выполняемых вычислительных процессов. В качестве угроз безопасности рассматриваются, как отказ оборудования, так и несанкционированные действия злоумышленников.
Основные действия злоумышленников направлены на блокирование узлов вычислительной системы или дискредитацию результатов работы распределенного вычислительного процесса.
Обзор литературы. В работах по многоагентным системам предлагаются различные пути обеспечение безопасности вычислительных процессов под управлением многоагентной системы.
В работах [6-10] для организации распределенных вычислений и обеспечения их безопасности предлагается использовать централизованную многоагентную систему. Все узлы вычислительной системы работают под управлением централизованной системы. Сама система управления представляет собой несколько компьютеров. На них устанавливается специализированное программное обеспечение. Защиту процессов распределенных вычислений эти управляющие компьютеры обеспечивают путем постоянного контроля поведения всех компьютеров управляемых многоагентной системой, целостности вычислительных процессов и правильности получаемых результатов вычислений.
С целью обеспечение безопасности управляющие компьютеры разделяют все множество компьютеров на уровни по степени «доверия». Деление может осуществляться на два и более уровня. Количество уровней зависит от заданных критериев защиты в системе управления. По этим критериям управляющая система отслеживает и обеспечивает безопасность распределенных вычислений. Если компьютеры в системе были проверены на предыдущих вычислениях и, согласно принятым критериям, обеспечивали надежный вычислительный процесс и получали правильные результаты, то они имеют уровень «доверия» более высокий. Компьютеры, которые дискредитировали себя, имеют низкий уровень «доверия». Результаты вычислений, полученные этими компьютерами, пересчитываются и в последующих вычислениях эти компьютеры не участвуют.
Такая распределенная система может обеспечивать приемлемый уровень безопасности, если окружающая вычислительная среда не изменяется (либо изменяется в небольших пределах). В большой сети, имеющей нестабильную вычислительную среду, время получения результатов, в конечном счете, будет увеличиваться за счет времени необходимого системе управления для выполнения многочисленных проверок компьютеров в работающей распределенной вычислительной системе и определения для каждого компьютера соответствующего уровня «доверия».
Еще одним недостатком такой организации распределенных вычислений, с помощью системы управления, является угроза блокировки компьютера управления. Система распределенных вычислений останется без управления и не сможет обеспечить требуемые вычислительные процессы.
Другим подходом обеспечения безопасности вычислительных процессов под управлением многоагентной системы является деление исполняемого кода на открытые и закрытые блоки [7, 11-12].
Открытый блок может исполняться только после выполнения закрытого блока. Закрытые блоки включают в себя наиболее важные команды. Открытые блоки могут выполняться на любом компьютере, а закрытые блоки - только на проверенных компьютерах. Ранжирование на открытые и закрытые блоки выполняется заранее специальной программой по заданным критериям. При этом критерии задаются и корректируются программистом.
Основным недостатком этого подхода являются неизбежные временные затраты связанные с необходимостью задания, для каждой новой задачи, своих критериев ранжирования вычислительных блоков на открытые и закрытые. В случае использования неустойчивой вычислительной среды весь ход ранжирования по блокам будет сопровождаться ручной корректировкой. После выполнения процесса ранжирования, требуется время для ручного уточнения результата. В некоторых случаях, когда однозначно задать критерии невозможно, ранжирование придется выполнять полностью вручную. Поэтому такую систему можно применять для выполнения вычислений, которые не имеют жесткого ограничения по времени решения.
Постановка задачи. Основной проблемой, на решение которой направлена настоящая работа, является создание безопасных распределенных вычислений в компьютерной сети на основе многоагентной системы с целью сокращения времени решения большеобъемных задач. Для этого необходимо решить следующие задачи:
♦ разработать алгоритм агента многоагентной системы, позволяющий организовать децентрализованную распределенную вычислительную систему на основе компьютерной сети;
♦ организовать взаимодействие агентов таким образом, чтобы вычислительные процессы оставались работоспособными при динамическом изменении вычислительной среды;
♦ обеспечить защиту результатов распределенных вычислений от угрозы дискредитации результатов решения.
Создаваемая вычислительная система должна:
♦ свести к минимуму подготовительные этапы процесса решения больше-объемной задачи;
♦ быть работоспособной при любом наборе компьютеров, как по количеству, так и по производительности;
♦ обладать достаточной степенью безопасности вычислений с точки зрения работоспособности при изменении вычислительных ресурсов сети;
♦ обеспечивать защиту распределенных вычислений от угрозы дискредитации результатов решения задачи;
♦ сократить время решения задачи.
Организация распределенных вычислений на основе многоагентной системы. Многоагентная система представляет собой множество агентов М в виде одинаковых программных модулей агентов /от 1,1112,... ,т„/ €Е М. Множество М накладывается на множество сетевых компьютеров (Р М) так,
что агент от, располагается на соответствующем р1 компьютере сети. Вся многоагентная система М, управляя компьютерами {, ри \ & Р ■ организует
систему распределенных вычислений для решения всего множества IV заданий ■ <еЖ ■ Множество М является одноранговым набором агентов работающих по одному алгоритму (рис. 1).
Рис. 1. Структура многоагентной системы
Для W системы был разработан алгоритм взаимодействия и работы п агентов в компьютерной сети состоящей из множества узлов Р [13-15].
Каждый модуль агента щ е М (агент) управляет ресурсами компьютера pi и
следит за выполняемой на нем нагрузке В свою очередь, каждый компьютер р,, управляемый агентом от,, работает независимо от других компьютеров. Агенты щ е М обмениваются друг с другом информацией по компьютерной сети, используя сетевые ресурсы р е Р.
Алгоритм агента функционирует следующим образом. В начале организации распределённых вычислений в компьютерной сети Р на (р], Р2,''Р„ \ ^ на~
ходятся, управляющие их работой, агенты {т1у т2, ... , шв}£М. На первом этапе агент т,£М, получает основную информацию для организации распределенных вычислений в множестве М. Она включает в себя вычислительную нагрузку Ж системы М и указание того, какую часть ^^ из общего объема Ж агент должен выполнить. На первоначальном этапе организации распределённых вычислений в компьютерной сети Ж.
После получения агентом т,ЕМ нагрузки и общей информации о системе он инициирует на своем компьютере вычислительный процесс для выполнения После выполнения каждого решения агент рассылает результат агентам {т1у т2, ... , т„_]}ЕМ.
На фоне выполнения р{ вычислительных процессов агент т{ выполняет поиск тя расположенного на р^еРг и не имеющего нагрузки. Если будет найден, и 'ws =0, то т1 передает информацию о нагрузке Ж и части которая еще не выполнена, уменьшая таким образом свою собственную нагрузку.
Таким образом достаточно одному т, получить информацию о Ж и нагрузка
м>1= Ж, то по ходу своей работы агенты множествам распределят её между собой {м>г,м>2,
Организуемая таким образом вычислительная система на основе компьютеров сети Р2 является распределенной, благодаря разработанному алгоритму работы агентов множества М. На фоне выполнения ^^ агенты т, уменьшают вычислительные нагрузки на свои/?,€= Р:с целью сокращения времени / выполнения системой Ж [14,15].
После того, как нагрузка • •¿М'^^Ш распределена между
{т1,т2, ...,ш„}бМ на {р1,р2,-• -,р„} образующими вычислительную систему, каждый р, под управлением т, выполняет В ходе выполнения ^^ агент т, отправляет по сети остальным агентам полученные результаты вычислений и получает результаты от {т1ут2, ... , тп.1}ЕМ. Работа системы М организована так, что каждый т1 принимает и хранит результаты, полученные в ходе работы всей распределенной вычислительной системы.
Распределение нагрузки не является окончательным. При выполнении разработанного алгоритма агентом ти Ж может быть перераспределена в процессе своего выполнения. Перераспределение выполняется в соответствии с сетевым трафиком Р и вычислительными ресурсами р,.
На фоне выполнения р, вычислительных процессов агент т, выполняет поиск компьютеров (Р\Рг). Если найден и он свободен то т, передает ему копию программного модуля агента. Переданная копия запускается на и агенту от т, передается информация об общей нагрузки о множестве агентов и части своей невыполненной нагрузки.
При выполнении алгоритма агента т, вычислительная система имеет возможность увеличивать число образующих ее компьютеров Р путем передачи
копии агента т1 в р £ р. Поскольку все т,Е.Мработают по одному алгоритму,
появляется возможность выполнения поставленных задач на системе обладающей дополнительными вычислительными ресурсами.
Каждый т,£М не ограничивается выполнением только тех вычислительных процессов, которые входят в После выполнения своей части ^^ агент просматривает - все ли результаты решений Ж получены. Если есть задания, результаты решения которых он еще не получил, то т, формирует из них новую часть ^^ и дает команду р, приступить к их выполнению.
Такая ситуация с невыполненными заданиями может возникнуть по разным причинам. Либо из-за отсутствия соответствующего агента в системе, либо вычисления выполняются на ря который обладает небольшими вычислительными ресурсами.
Структурная схема алгоритма работы mi на рис. 2.
Выполнение агентами разработанного алгоритма позволяет повысить живучесть системы и отказоустойчивость вычислительных процессов. При отключении рк с агентом тк от сети или отказе вычислительного оборудования его нагрузка ^ обязательно будет выполнена. Это будет реализовано агентами вычислительной системы, которые уже выполнили свою часть Ж.
Рис. 2. Алгоритм работы агента
Поэтому в случае отключения нескольких компьютеров с агентами от вычислительной системы и уменьшении множества М, время выполнения системой распределённых вычислений Т увеличится, но результаты вычислений будут получены в любом случае, даже тогда, когда в системе останется один агент т¿6 М на р¿6 Рг.
Организация безопасных распределенных вычислений на основе многоагентной системы. Система распределённых вычислений на базе многоагентной системы может быть организована на основе вычислительных узлов любой сети, например, глобальной компьютерной сети Интернет. С одной стороны это дает возможность практически бесконечно наращивать совокупную вычислительную мощность системы. Но с другой стороны возникает угроза безопасности распределенных вычислений, поскольку повышается вероятность проникновения в много-агентную систему такого масштаба злоумышленника предпринимающего действия, ведущие к компрометации результатов вычислений [1, 6-9, 11-12, 16-19].
Результат w, может быть фальсифицирован с целью предоставление недостоверных данных вычислений, что может привести к неправильному принятию решения. Такое происходит, когда злоумышленник имитирует работу агента m,£M. Для этого он может принимать или перехватывать сообщения, передаваемые в системе M, подменять в них результаты w,, полученные mt распределённой вычислительной системы, на ложные.
В случае, когда угроза безопасности вычислений является реальной, в системе выбирается md GM для организации рассылки результатов расчетов W. Выбор md производится только из множества Ms расположенного на определенном заранее множестве компьютеров PsGP, которые являются надежными и не создают угрозы безопасности вычислениям.
Агент md управляющий компьютером pd в системе распределенных вычислений не отличается от агентов {mly m2, ... , mn}GM. Он, как и все, выполняет wkG W, но, наряду с этим, обеспечивает процесс контроля за правильностью и безопасностью вычислений.
Каждый агент m,, закончив выполнение очередного задания из w,, отсылает всем {mly m2, ... , mn} G M сообщения и в том числе md содержащее полученные данные. В сообщении указывается идентификационная информация, однозначно определяющая w,, p,, агента m,, который получил результат и значение полученного результата. Все {mly m2, ... , mn}GM распределенной вычислительной системы будут хранить у себя не только свое задание но и информацию о всей нагрузке W и результаты всех выполненных вычислений в системе.
Агент md, после получения информации от агентов {m}, m2, ... , mn}GM записывает результаты вместе с номерами p,, который получил эти результаты, к себе в память. После этого агент md проверяет, выполнялось ли задание, результат которого был передан, раньше и кто выполнял. Если задание выполнялось агентом m,-GM, то проверяет - совпадает ли значение результата в сообщении с полученным им ранее результатом.
В случае, если результат не совпадает, то агент md принимает решение об ошибочном или фальсифицированном результате и сам выполняет перепроверку результата w,-. После этого агент md отправляет сообщения агентам (m}, m2, ... , mn)GMо факте разницы результатов и правильном w,.
В силу различных причин, может произойти отключение pd от системы P. Когда, агент md перестает выполнять свои функции, то алгоритм многоагентной системы позволяет назначить агентом для организации рассылки результатов расчетов W другой me G M. Выбор me также производится только из множества Ms расположенного на определенном заранее множестве компьютеров PsGP.
Это даёт возможность не прерывать вычислительные процессы в системе и продолжить работу по обеспечению процесса контроля над правильностью и безопасностью вычислений в системе M.
Другой вариант угрозы, когда компьютер злоумышленника формирует сообщения от имени m,GM. Для этого в информацию, передаваемую всему множеству M, злоумышленнику достаточно подставить в качестве номера компьютера, кото-
рый получил эти результаты, номер реального р,бР, номера w6 Ж указать любой случайный номер из Ж и вместо правильного результата другой. Получив такое сообщение, тё сравнивает указанные в сообщении номер w и номер р со своей информацией по вычислительной системе. Агент тё проверяет, соответствует ли номер w части задания агенту т, номер которого указан в задании. Если номер в задании отсутствует, то агент тё отправляется сообщение о фальсификации данных и уничтожает у себя полученные фальсифицированные данные.
Оценка ускорения выполнения задачи многоагентной системой. Для оценки ускорения решения задачи многоагентной системой, работающей по разработанному алгоритму, была выбрана задача построения связывающих деревьев цепей. Для решения задач большой размерности при проектировании изделий вычислительной техники наиболее эффективным является использование технологии распараллеливания алгоритмов [20, 21].
В качестве алгоритма решения этой задачи выбран алгоритм построения связывающих деревьев цепей {//•■■,/} е £на многопроцессорной [22].
Конфигурация системы представляет собой граф компьютерной сети Р с логической структурой информационных потоков между узлами, имеющий решетчатую структуру. Каждый узел р^, где \р], р2, • • •, рп} е Р обменивается информацией только с узлами {р.^ рм р,-^, рМ]-+т}б Р, с которыми он связан по
структуре. Физически это может быть всего одна линия связи, используемая всеми узлами сети.
Перед началом процесса трассировки все множество дискретов 2 рабочего поля разбивается на множество частей {zl,z2,■■■,zn)^z. Между соседними частями определяются граничные линии, состоящие из множества дискретов ё,. Множество ё, является общим ^ 6 ^ и dj 6 для двух частей рабочего поля
и оказывается принадлежащим узлам р, и р1+1.
При выполнении построения связывающих деревьев цепей узел р, работает независимо от других. Если контакты («источники» и «цели») расположены в одной части рабочего поля вычислительного узла ^ , процесс построения связи с большой вероятностью будет реализовываться автономно вычислительным узлом р .
Оценим ускорение выполнение процесса построения всех связей Ь при изменении количества компьютеров К соединенных в сеть и используемых для реализации распределенных вычислений.
В общем виде время решения задачи равно
^Р + ^перед' С1)
где £д - время увеличения длины связи на один дискрет; ё, - суммарное количество дискретов во всех связях строящихся на ¿-ом компьютере; ?перед - время обмена информацией между соседними компьютерами.
Для простоты будем считать, что производительность компьютеров в сети приблизительно одинакова, поэтому время £д будет одинаковым для всех компьютеров сети.
Время ?перед определяется количеством передач ё,, выполняемых при построении связей ¿-м компьютером:
tперед = & * tобм . (2)
Само число ё, равно количеству дискретов рабочего поля, которые являются общими у пары соседних компьютеров. Поскольку части дискретного рабочего поля у всех компьютеров примерно одинаковы, то можно записать:
& = 2 *(а + Ы), (3)
где аI и Ь, - размеры дискретного поляр, -го компьютера.
Если размеры общего рабочего дискретного поля А *В, то
а=ж>ь <=ж (4)
Подставляя значения в формулу (1), найдем суммарное количество дискретов во всех связях, строящихся на /-ом компьютере:
di
2-К
Тогда время решения задачи построения Тр будет равно:
т _(ж+4У1 (л+вл Р 2 к \4к) Д обм'
(5)
(6)
Используя полученную формулу (6), построим графики зависимости общего времени решения задачи построения связей от количества задействованных сетевых компьютеров (рис. 3, 4), используемых для организации распределенных вы-
числений.
Рис. 3. Зависимость времени решения задачи от количества компьютеров для ¿=1000 и Ь=600 при А и В, равными 100 и 200 дискретов соответственно
Рис. 4. Зависимость времени решения задачи от количества компьютеров для ¿=4000 и ¿=1000 при А и В, равными 200 и 3000 дискретов соответственно
10
12
14
16
10
12
14
16
Заключение. Достоинствами разработанного алгоритма агентов многоагенгаой системы является способность системы самостоятельно организовывать использование вычислительных мощностей компьютеров любой уже существующей сети для решения большеобъёмных задач путём создания распределенных вычислений. Агенты на основе компьютерной сети в процессе решения задачи могут: конфигурировать распределенную вычислительную систему, распределить вычислительную нагрузку между компьютерами управляемыми агентами, выполнить оптимизацию нагрузки распределенной вычислительной системы в зависимости от вычислительной мощности компьютеров сети. С целью сокращения времени решения все эти функции выполняются на фоне решения задачи без предварительных этапов подготовки к решению и прерываний вычислительного процесса. Количество компьютеров, соединенных в сеть, может увеличиваться за счет подключения новых компьютеров к много-агентной системе, что приводит к возрастанию общей вычислительной мощности. Все это позволяет уменьшить время решения задачи и повысить отказоустойчивость (живучесть) вычислительных процессов в условиях изменяемой вычислительной среды (динамическое изменение количество компьютеров в сети).
Оценка с помощью математической модели ускорения вычислительного процесса организованного по разработанному алгоритму при изменении количества компьютеров показала, что при увеличении количества компьютеров общее время решения большеобъёмной задачи уменьшается. Эффективность использования распределенных вычислений на основе многоагентной системы повышается с увеличением объема решаемой задачи. Однако для решения задачи с заданным объемом вычислений использование больше определенного количества компьютеров приводит к снижению эффективности распределенной системы. Основной причиной снижения показателя сокращения времени решения при увеличении количества задействованных в системе компьютеров является увеличение количества обменов между ними.
Достоинством такого подхода является возможность повышения степени безопасности распределённых вычислений за счет добавления в многоагентную систему специального агента для организации рассылки результатов расчетов W. Безопасность распределенных вычислений обеспечивается даже при организации системы на компьютерах глобальной сети. В этом случае многоагентная система позволяет обнаруживать факты фальсификации результатов работы распределенной системы, которые могут привести к принятию неправильных решений.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Kshemkalyani A.D., Singhal M. Distributed Computing: Principles. Algorithms, and Systems. Cambridge University Press, 2008.
2. Müller J., Fisher K. Application Impact of Multiagent Systems and Technologies: A Survey // In Agent-Oriented Software Engineering book series. - Springer, 2013. - P. 1-26.
3. WooldridgeM. An introduction to multiagent systems. - New Jersey: Wiley, 2012. - 484 p.
4. Котенко В.В., Румянцев К.Е., Котенко С.В. Идентификационный анализ в информационно-телекоммутационных системах: монография. - Ростов-на-Дону: Изд-во ЮФУ, 2014.
5. Kaminka Gal. Robots Are Agents, Too! // Keynote Lecture. International Conference on Autonomous Agents and Multi-agent Systems (AAMAS 2007), Honolulu, Hawaii, May, 2007.
6. Madkour A.M., Eassa F.E., Ali A.M., Qayyum N.U. Securing Mobile-Agent-Based Systems Against Malicious Hosts // World Applied Sciences Journal. - 2014. - Vol. 29 (2). - P. 287-297.
7. Muñoz A., Pablo A., Maña A Multiagent Systems Protection // Advances in Software Engineering. - 2011. - Article ID 281517. - 9 p. Doi: 10.1155/2011/281517.
8. Beydoun G. Low G. Mouratidis H. and Hendersonsellers B. A security-Aware Metamodel for MultiAgent System (MAS) // Information and software technology. - 2009. - Vol. 51, No. 5.
- P. 832-845.
9. Poslad S, Calisti M, Charlton P. Specifying Standard Security Mechanisms in Multi-Agent Systems // Proc. workshop on Deception, Fraud and Trust, Bologna, Italy.
- http://citeseerx.ist.psu.edu/viewdoc/download7doi =10.1.1.203.878&rep=rep1.
10. Alfalayleh M. Brankovic L. An overview of security issues and techniques in mobile agents // 8th IFIP TC-6 TC-11, Salford, United kingdom. - 2004. - P. 59-78.
11. Borselius N., Holloway R. Security in Multi-Agent Systems. University of London. http://www.isrc.rhul.ac.uk/nb/publications/security-in-MAS(SAM02).pdf.
12. Chadha Zrari, Hela Hachicha, Khaled Ghedira. Agent's security during communication in mobile agents system // 19th International Conference on Knowledge Based and Intelligent Information and Engineering Systems Procedia Computer Science. - 2015. - No. 60. - P. 17-26.
13. Ховансков С.А., Литвиненко В.А., Норкин О.Р. Оптимизации распределенных вычислений на базе алгоритма реконфигурирования и продукций предметной области // Труды конгресса по интеллектуальным системам и информационным технологиям "AIS-rrW. - М.: Физматлит, 2009. - Т. 2. - С. 153-158.
14. Ховансков С.А., Литвиненко В.А. Оптимизация решения задачи в распределенных системах // Известия ТРТУ. - 2005. - № 3 (47). - C. 209.
15. Ховансков С.А., Литвиненко В.А. Решения задач путем организации распределенных вычислений в сети // Известия ЮФУ. Технические науки. - 2008. - № 3 (80). - С. 16-21.
16. Khovanskova V., Khovanskov S. Мультиагентные системы: концепции защиты, Безопасность мультиагентных систем // Technical and natural sciences: Theory and practice: Proceedings of materials of international scientific e-Symposium. Russia, Moscow, 27-28 March 2015. - Kirov, 2015. - P. 167-175.
17. Ховансков С.А., Хованскова В.С. Безопасность мультиагентных систем // Вопросы науки: Естественно-научные исследования и технический прогресс: Сборник статей по материалам III Международной научно-практической конференции (26 февраля 2015 г. Воронеж). - Воронеж, 2015. - Т. 2. - С. 83-87.
18. Ховансков С.А., Хованскова В.С. Методы защиты распределенных вычислений // Модернизация современного общества: Проблемы, пути развития и перспективы: Сборник материалов VI Международной научно-практической конференции. - Ставрополь: Логос, 2015. - С. 104-107.
19. Ховансков С.А., Хованскова В.С. Повышение степени защиты распределенных вычислений // Современное состояние естественных и технических наук: Материалы XVIII Международной научно-практической конференции (20.03.2015). - М.: Изд-во «Спутник +», 2015.
- С. 96-100.
20. Kureichik V.V., Kureichik V.M., Sorokoletov P.V. Analysis and a survey of evolutionary models // Journal of Computer and Systems Sciences International. - 2007. - Vol. 46, No. 5.
- P. 779-791.
21. Курейчик В.В., Курейчик В.В. Архитектура гибридного поиска при проектировании // Известия ЮФУ. Технические науки. - 2012. - № 7 (132). - С. 22-27.
22. Ховансков С.А., Литвиненко В.А., Норкин О.Р. Организация распределенных вычислений для решения задач трассировки // Известия ЮФУ. Технические науки. -2010.
- № 12 (113). - С. 48-55.
REFERENCES
1. Kshemkalyani A.D., Singhal M. Distributed Computing: Principles. Algorithms, and Systems. Cambridge University Press, 2008.
2. Müller J., Fisher K. Application Impact of Multiagent Systems and Technologies: A Survey, In Agent-Oriented Software Engineering book series. Springer, 2013, pp. 1 -26.
3. Wooldridge M. An introduction to multiagent systems. New Jersey: Wiley, 2012, 484 p.
4. Kotenko V.V., Rumyantsev K.E., Kotenko S.V. Identifikatsionnyy analiz v informatsionno-telekommutatsionnykh sistemakh: monografiya [Identification analysis in information-telecommunications systems: monograph]. Rostov-on-Don: Izd-vo YuFU, 2014.
5. Kaminka Gal. Robots Are Agents, Too!, Keynote Lecture. International Conference on Autonomous Agents and Multi-agent Systems (AAMAS 2007), Honolulu, Hawaii, May, 2007.
6. Madkour A.M., Eassa F.E., Ali A.M., Qayyum N.U. Securing Mobile-Agent-Based Systems Against Malicious Hosts, World Applied Sciences Journal, 2014, Vol. 29 (2), pp. 287-297.
7. Muñoz A., Pablo A., Maña A Multiagent Systems Protection, Advances in Software Engineering, 2011. - Article ID 281517. - 9 p. Doi: 10.1155/2011/281517.
8. Beydoun G. Low G. Mouratidis H. and Hendersonsellers B. A security-Aware Metamodel for MultiAgent System (MAS), Information and software technology, 2009, Vol. 51, No. 5, pp. 832-845.
9. Poslad S, Calisti M, Charlton P. Specifying Standard Security Mechanisms in Multi-Agent Systems, Proc. workshop on Deception, Fraud and Trust, Bologna, Italy. Available at: http://citeseerx.ist.psu.edu/viewdoc/download7doi =10.1.1.203.878&rep=rep1.
10. Alfalayleh M. Brankovic L. An overview of security issues and techniques in mobile agents, 8th IFIP TC-6 TC-11, Salford, United kingdom, 2004, pp. 59-78.
11. Borselius N., Holloway R. Security in Multi-Agent Systems. University of London. Available at: http://www.isrc.rhul.ac.uk/nb/publications/security-in-MAS(SAM02).pdf.
12. Chadha Zrari, Hela Hachicha, Khaled Ghedira. Agent's security during communication in mobile agents system, 19th International Conference on Knowledge Based and Intelligent Information and Engineering Systems Procedia Computer Science, 2015, No. 60, pp. 17-26.
13. Khovanskov S.A., Litvinenko V.A., Norkin O.R. Optimizatsii raspredelennykh vychisleniy na baze algoritma rekonfigurirovaniya i produktsiy predmetnoy oblasti [Optimization of distributed computing based on the reconfiguration algorithm and products subject area], Trudy kongressa po intellektual'nym sistemam i informatsionnym tekhnologiyam [Proceedings of Congress on intelligent systems and information technologies "AlS-IT'09"]. Moscow: Fizmatlit, 2009, Vol. 2, pp. 153-158.
14. Khovanskov S.A., Litvinenko V.A. Optimizatsiya resheniya zadachi v raspredelennykh sistemakh [The optimization problem solving in distributed systems], Izvestiya TRTU [Izvestiya TSURE], 2005, No. 3 (47), pp. 209.
15. Khovanskov S.A., Litvinenko V.A. Resheniya zadach putem organizatsii raspredelennykh vychisleniy v seti [The organization of fulfilling tasks by the method of a cooperative decisions making], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2008, No. 3 (80), pp. 16-21.
16. Khovanskova V., Khovanskov S. Мультиагентные системы: концепции защиты, Безопасность мультиагентных систем, Technical and natural sciences: Theory and practice: Proceedings of materials of international scientific e-Symposium. Russia, Moscow, 27-28 March 2015. Kirov, 2015, pp. 167-175.
17. Khovanskov S.A., Khovanskova V.S. Bezopasnost' mul'tiagentnykh sistem [Security of multiagent systems], Voprosy nauki: Estestvenno-nauchnye issledovaniya i tekhnicheskiy progress: Sbornik statey po materialam III Mezhdunarodnoy nauchno-prakticheskoy konferentsii (26 fevralya 2015 g. Voronezh) [Problems of science: Natural science research and technical progress: proceedings of the III International scientific-practical conference (26 Feb 2015 Voronezh)]. Voronezh, 2015, Vol. 2, pp. 83-87.
18. Khovanskov S.A., Khovanskova V.S. Metody zashchity raspredelennykh vychisleniy [Protection methods in distributed computing], Modernizatsiya sovremennogo obshchestva: Problemy, puti razvitiya i perspektivy: Sbornik materialov VI Mezhdunarodnoy nauchno-prakticheskoy konferentsii [Modernization of the modern society: Problems, ways of development and prospects: proceedings of the VI International scientific-practical conference]. Stavropol': Logos, 2015, pp. 104-107.
19. Khovanskov S.A., Khovanskova V.S. Povyshenie stepeni zashchity raspredelennykh vychisleniy [Increasing security degree of distributed computing], Sovremennoe sostoyanie estestvennykh i tekhnicheskikh nauk: Materialy XVIII Mezhdunarodnoy nauchno-prakticheskoy konferentsii (20.03.2015) [The modern state of natural and technical Sciences: Materials of XVIII International scientific and practical conference (20.03.2015)]. Moscow: Izd-vo «Sputnik +», 2015, pp. 96-100.
20. Kureichik V. V., Kureichik V.M., Sorokoletov P. V. Analysis and a survey of evolutionary models, Journal of Computer and Systems Sciences International, 2007, Vol. 46, No. 5, pp. 779-791.
21. Kureychik V.V., Kureychik V.V. Arkhitektura gibridnogo poiska pri proektirovanii [The architecture of hybrid search for design], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2012, No. 7 (132), pp. 22-27.
22. Khovanskov S.A., Litvinenko V.A., Norkin O.R. Organizatsiya raspredelennykh vychisleniy dlya resheniya zadach trassirovki [The organization of the distributed calculations for the decision of problems of trace], Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences], 2010, No. 12 (113), pp. 48-55.
Статью рекомендовала к опубликованию к.т.н., доцент Е.А. Ищукова.
Ховансков Сергей Андреевич - Южный федеральный университет; е-mail: sah59@mail.ru; 347928, г. Таганрог, ул. Чехова, 2; тел.: 8634371902; кафедра информационной безопасности телекоммуникационных систем; к.т.н.; доцент.
Хованскова Вера Сергеевна - е-mail: v.s.khovanskova@gmail.com; кафедра информационной безопасности телекоммуникационных систем; аспирантка.
Литвиненко Василий Афанасьевич - e-mail: litv_va@mail.ru; 347928, г. Таганрог, ул. Энгельса, 1; тел.: 88634377651; кафедра систем автоматизированного проектирования; к.т.н.; доцент.
Khovanskov Sergey Andreevich - Southern Federal University; e-mail: sah59@mail.ru; 2, Chekhov street, Taganrog, 347928, Russia; phone: +78634371902; the department of information security of telecommunication systems; cand. of eng. sc.; associate professor.
Khovanskovа Vera Sergeevna - e-mail: v.s.khovanskova@gmail.com; the department of information security of telecommunication systems; postgraduate student.
Litvinenko Vasily Afanas'evich - e-mail: litv_va@mail.ru; 1, Engels street, Taganrog, 347928, Russia; phone: +78634377651; the department of computer aided design; cand. of eng. sc.; associate professor.
