О. Г. Руденко, А. В. Заец, Ю. Э. Ткач: УПРАВЛЕНИЕ НАГРУЗКОЙ В РАПРЕДЕЛЕННОЙ КОМПЬЮТЕРНОЙ СИСТЕМЕ ПРИ ПОМОЩИ НЕЙРОННЫХ СЕТЕЙ
1 2 " 4 5
номер алгоритма СОК
Рисунок 1 - Диаграмма соотношения MSE-TPE для данного эксперимента
На рис. 1 представлена диаграмма изменения JAR для перечисленных модификаций. В результате алгоритм Regularity SOM имеет оптимальное соотношение данных показателей, поскольку обладает минимальным значением TAR.
ВЫВОДЫ
Сравнительный анализ величин погрешности аппроксимации и топографической ошибки упорядочивания нейронов среди различных алгоритмов СОК показал что, с помощью Density Tracking SOM была получена самая высокая точность аппроксимации, и понадобилось наименьшее количество циклов обучения карты выборкой, а Adaptive SOM определил минимум топографической ошибки. Однако для перечисленных модификаций, наряду с оптимальными значениями исследуемых параметров, характерна диллема «регу-
лярность - точность». Результаты расчета наилучшего соотношения погрешности аппроксимации и топографической ошибки упорядочивания нейронов, показали, что карта, построенная с помощью Regularity SOM, обладает оптимальными суммарными показателями.
ПЕРЕЧЕНЬ ССЫЛОК
1. Josef Goppert. Wolfgang Rosenstiel Regularized SOM-Traning: A solution to the Topology-Approximation Dilemma? Режим доступа: http://citeseer.ist.psu.edu/ 422534.html, свободный. - Загл. с экрана. - Англ.
2. Саймон Хайкин. Нейронные сети: полный курс, 2-е издание // Пер. с англ. М.: Издательский дом «Виль-ямс», 2006. - С. 1104.
3. J. J. Verbeek, N. Vlassis. The generative self-organizing map: a probabilistic generalization of Kohonen's SOM // Technical Report IAS-UVA-02-03 on European Symposium on Artificial Neural Networks 2003, Amsterdam. Доступный режим: http://citeseer.ist.psu.edu/verbe-ek02generative.html, свободный. - Загл. с экрана. -Англ.
4. Juha Vesanto, Johan Himberg. SOM Toolbox for Matlab5. Доступный режим: http://www.cis.hut.fi/projects/somto-olbox/package/papers/techrep.zip, свободный. - Загл. с экрана. - Англ.
5. Зиновьев А. Ю. Визуализация многомерных данных: Монография. Красноярск: ИПЦ КГТУ, 2000. - 168 с.
6. Amalendu Roy. A survey on data clustering using self-organizing maps. Доступный режим: http://www.cs. ndsu.nodak.edu/~amroy/courses.html, свободный. - Загл. с экрана. - Англ.
7. http://www.ihes.fr/~zinovyev/vida/vidaexpert.htm.
Надшшла 5.11.07
Розглядаеться проблема взаемовпливу регулярност1 та точност1 апроксимацИ с1тки серед р1зних модиф1-кацш власнеоргатзованих карт Кохонена. Приводиться пор1вняльний анал1з даних модифтацш по тлькост1 цикл1в навчання карти, похибкам квантування й топо-граф1чного впорядковування нейротв.
The interference problem of accuracy and regularity of the net among various self-organizing Kohonen's map modifications is considered. The comparative analysis of these modifications over the cycles amount of training map, errors of quantization and topographical neurons ordering is given.
УДК 004.3:004.6
О. Г. Руденко, А. В. Заец, Ю. Э. Ткач
УПРАВЛЕНИЕ НАГРУЗКОЙ В РАПРЕДЕЛЕННОЙ КОМПЬЮТЕРНОЙ СИСТЕМЕ ПРИ ПОМОЩИ НЕЙРОННЫХ СЕТЕЙ
Разработка диспетчера распределенной компьютерной системы на основе нейронных сетей персептронного типа разрешила упростить процесс управления ресурсами распределенной компьютерной системы благодаря предложенной системе оценивания задач по критерию необходимых ресурсов. Использование нейронных сетей разрешает сократить время оценивания и повысить точность © Руденко О. Г., Заец А. В., Ткач Ю. Э., 2007
оценки, которая разрешит более точно выбрать вычислительные ресурсы, на которые будет выполняться задача.
ВВЕДЕНИЕ
При построении распределенных компьютерных систем возникает проблема эффективного управления
НЕЙР01НФ0РМАТИКА ТА 1НТЕЛЕКТУАЛЬН1 СИСТЕМИ
ресурсами системы. Далее предложен способ управления ресурсами при помощи искусственных нейронных сетей.
Целью работы являлось создание эффективного метода управления нагрузкой в распределенных компьютерных системах.
1 РАСПРЕДЕЛЕННЫЕ КОМПЬЮТЕРНЫЕ
СИСТЕМЫ И ЗАДАЧИ БОЛЬШОЙ
РАЗМЕРНОСТИ
Создание распределенных компьютерных систем позволяет создавать высокопроизводительные системы, эффективность которых сравнима со специализированными суперкомпьютерами, что дает возможность решать задачи большой размерности с большими объемами входных данных. Существует несколько методов создания распределенных компьютерных систем параллельных вычислений (РКСПВ): создание Сп^ систем, создание кластеров, а также объединение вычислительных узлов, которые временно не используются хозяевами. Последний подход представляется более эффективным, поскольку не требует особых материальных затрат и не требует полного отчуждения ресурсов вычислительного узла от владельца, как это происходит при создании кластеров.
При последнем подходе РКСПВ представляет собой объединение некоторого количества гетерогенных вычислительных узлов (ВУ), объединенных между собой каналами связи, а также один главный вычислительный узел, который выполняет функции управления остальными вычислительными узлами системы.
Для решения задачи большой размерности необходимо выбрать способ ее решения. Наиболее эффективным является способ декомпозиции основной задачи на некоторое количество атомарных заданий, каждое из которых представляет собой некий математический алгоритм, который возможно реализовать и выполнить параллельно.
Каждое атомарное задание обладает собственными характеристиками, входными и выходными данными.
2 ПРИМЕНЕНИЕ ИСКУССТВЕННЫХ
НЕЙРОННЫХ СЕТЕЙ В ЗАДАЧЕ УПРАВЛЕНИЯ РЕСУРСАМИ
Для решения каждого атомарного задания необходимо выбрать из всего множества ВУ один или несколько ВУ, на которых выполнение задания займет минимальное время.
Существует несколько способов управления заданиями в распределенных компьютерных системах: использование экономической модели, упреждающее планирование, использование первого свободного ресурса. Все эти способы являются неэффективными, по-
скольку задача оценивания задания возлагается на пользователя, или оценивание не проводится вовсе, что не позволяет эффективно управлять загруженностью системы и понижает ее эффективность.
Процесс выбора вычислительных узлов был сведен к решению задачи оценивания атомарного задания по критерию необходимых ресурсов, а также оцениванию ВУ по критерию предоставляемых ресурсов.
Предлагается использовать искусственные нейронные сети для решения задачи оценивания атомарных заданий по критерию необходимых ресурсов, для оценивания вычислительных узлов по критерию предоставляемых ресурсов также было решено применять искусственные нейронные сети.
Для решения задачи оценивания атомарных заданий по критерию необходимых ресурсов все задания, решаемые РКСПВ, были разбиты на некоторое количество классов, в каждом из которых были выделены эталонные алгоритмы.
Для оценивания количества ресурсов были выделены следующие параметры заданий, которые наиболее сильно влияют на количество необходимых ресурсов: размерность входного и выходного вектора задания, порядок входных и выходных данных, приоритет задания, класс задания. Значения этих параметров подаются на вход нейросети. ценивание проводится по 4 параметрам: коэффициент процессорной мощности, коэффициент оперативной памяти, коэффициент канала связи, коэффициент надежности. Значения этих параметров получаем на выходе нейросети
Для каждого эталонного алгоритма было определено количество ресурсов необходимых для выполнения за минимальное время. На основании анализа потребности в ресурсах эталонных алгоритмов формируются обучающие выборки для нейросети подсистемы оценивания заданий.
Схема нейронной сети оценивания подзадач представлена на рис. 1.
В результате обучения была получена нейронная сеть, позволяющая оценивать количество ресурсов необходимых для решения каждого атомарного задания в зависимости от значения параметров задания.
Рисунок 1 - Схема нейронной сети оценивания подзадач
100 1607-3274 «Радюелектрошка. 1нформатика. Управлшня» № 2, 2007
А. В. Савельев: ОБЗОР ИЗОБРЕТЕНИЙ В ОБЛАСТИ НЕЙРОКИБЕРНЕТИКИ И НЕЙРОМОДЕЛИРОВАНИЯ1
0ценивание ресурсов предоставляемых вычислительными узлами системы проводится по тем же 4 параметрам, по которым проводится оценка ресурсов необходимых для решения задачи. Оценивание проводится с помощью искусственный нейронных сетей, в результате чего каждый вычислительный узел получает коэффициент соответствия данному атомарному заданию. Диапазон коэффициентов от 0 до 1.
После оценивания каждого атомарного задания и получения коэффициентов соответствия вычислительных узлов производится выбор минимального количества вычислительных узлов суммарный коэффициент соответствия, которых наиболее близок к 1. После чего задание разбивается на определенное количество частей, которые рассылаются на выполнение на вычислительные узлы.
ЗАКЛЮЧЕНИЕ
С целью повышения эффективности использования вычислительных ресурсов в распределенных компьютерных системах в работе решена актуальная задача управления загруженностью вычислительных узлов при помощи нейронных сетей.
Применение нейронных сетей позволяет избежать сложной процедуры оценивания необходимого количество ресурсов алгоритмическими способами и макси-
мально уменьшить время, необходимое для оценивания задач.
Используя такой способ оценивания, представляется возможным получить оценку количества ресурсов, необходимых для выполнения заданий каждого класса, основываясь только на их описании и анализе их данных.
Научная новизна работы заключается в том, что впервые предложен метод оценивания заданий по критерию необходимых ресурсов, что позволяет избежать сложной процедуры оценивания ресурсоемкости.
Надшшла 2.03.07
Розробка диспетчера розпод1леноЧ комп'ютерног сис-теми на основ1 нейронних мереж персептронного типу дозволила спростити процес управлтня ресурсами роз-под1леноЧ комп'ютерног системи завдяки запропонованш систем1 оцтювання задач по критер1ю необх1дних ресурс1в. Використання нейронних мереж дозволяе ско-ротити час оцтювання i тдвищити точтсть ощнки, що дозволить бiльш точно вибрати обчислювальт ресурси, на яких буде виконуватися задача.
Development of the manager of the distributed computer system on a basis of perceptron-like neural networks allowed to simplify managerial process of resources of the distributed computer system due to the offered system of estimating tasks by criterion of necessary resources. Using neural networks allows to reduce time and to increase accuracy of a rating which will allow to choose more precisely computing resources on which tasks will be solved.
УДК [007:572. 788]. 001.57
А. В. Савельев
ОБЗОР ИЗОБРЕТЕНИЙ В ОБЛАСТИ НЕЙРОКИБЕРНЕТИКИ И НЕЙРОМОДЕЛИРОВАНИЯ1
В статье кратко представлены результаты некоторых работ по направлениям нейрокибернетики и нейрокомпьютеров, проводимых автором с 1977 г., с позиций воплощения их в ряд изобретений, защищенных авторскими свидетельствами и патентами. К этим направлениям относятся: исследование волнового проведения по дендритам, дендропроцессоры; динамическое моделирование нервной системы; изучение циклов в нервной системе и реверберационных моделей; исследование посттетани-ческой потенциации и механизмов памяти; исследование хаотических режимов в нейронах и нейросетях; изучение нейронной логики; исследование механизмов кодирования информации в нервной системе; моделирование явлений пессимума и трансформации ритма; разработка и применение нейросетевой концепции нейрона.
ВВЕДЕНИЕ
Весьма отрадным событием последнего времени можно считать появление аналитических обзоров изобретений в области нейрокибернетики таких, например, как обзор г. С. А. Субботина, опубликованный в сборнике докладов на IV Всероссийской НТК «Ней-роинформатика-2002», т. 1, стр. 48-54. Патентные исследования в области отечественной нейрокибернети-ки очень нужны и чрезвычайно полезны, поскольку открывают доступ научному сообществу к ценнейшей кладовой достижений нейрокибернетики, не только
1. Работа выполнена при финансовой поддержке РФФИ (грант № 04-06-80460) и РГНФ (грант № 04-03-00066а).
© Савельев А. В., 2007