CC BY
92
Таблица 2 Образец таблицы "Нейросетевая модель"
5 ЭКСПЕРИМЕНТЫ И РЕЗУЛЬТАТЫ
На основе предложенной методики были проведены эксперименты по сравнению нейросетевых моделей коэффициента упрочнения деталей авиадвигателей [6,7], полученных на основе радиально-базисных НС [6] и метода кластер-регрессионной аппроксимации [1]. В рамках проведенных экспериментов расчитывались значения разработанных критериев сравнения НС, которые приведены в табл. 1.
Как видно из табл. 1, метод кластер-регрессионной аппроксимации является более требовательным к вычислительным ресурсам и более медленным чем радиально-базисная НС. Однако НС, реализующая метод кластер-регрессионной аппроксимации, обладает существенно более высоким уровнем логической прозрачности по сравнению с радиально-базисной НС, и поэтому в задачах интеллектуального анализа данных предпочте-ние следует отдать методу кластер-регрессионной аппроксимации.
Сравнение аппроксимационных свойств построенных моделей коэффициента упрочнения показывает, что метод кластер-регрессионной аппроксимации обеспечивает лучшую аппроксимацию, чем радиально-базисная сеть,
которая является чрезвычайно избыточной и запоминает обучающую выборку как таблицу, проявляя слабые аппроксимационные свойства.
Результаты проведенных экспериментов хорошо согласуются с теоретическим представлениями о свойствах исследовавшихся нейромоделей и позволяют рекомендовать предложенные методику и критерии сравнения НС для широкого использования на практике.
ПЕРЕЧЕНЬ ССЫЛОК
1. Дубровш B.I., Субботш С.О. Методи оптим1зац1Т та Тх застосування в задачах навчання нейронних мереж: Навчальний пос1бник.-3апор1жжя: ЗНТУ, 2003.-136 с.
2. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика/Пер. Ю.А. Зуев, B.A. Точенов -М.: Мир, 1992.240 с.
3. Каллан Р. Основные концепции нейронных сетей.- М.: Издательский дом "Вильямс", 2001.- 287 с.
4. Круглов В.В., Борисов В.В. Искусственные нейронные сети: Теория и практика. -М.: Горячая линия-Телеком, 2001. - 382 с.
5. Рамбиди Н.Г. Биомолекулярные нейросетевые устройства. Кн. 33.-М.: ИПРЖР, 2002.-224 с.
6. Дубровин В.И., Субботин С.А., Богуслаев А.В., Яценко В.К. Интеллектуальные средства диагностики и прогнозирования надежности авиадвигателей: Монография.-Запорожье: ОАО "Мотор-Сич", 2003.-279 с.
7. Dubrovin V.I., Subbotin S.A., Yatzenko V.K. Neural network model of hardening coefficient of airengine details // Smart Engeineering System Design: Neural Networks, Fuzzy Logic, Evolutionary Programming, Data Mining, and Complex Systems / ed.: C.H. Dagli, et al.- New York: ASME press, 2001, vol. 11, P. 939-944.
Надшшла 10.09.03 Шсля доробки 13.10.03
Запропоновано критерп та методику, що дозволяють к1льк1сно ощнювати pieeHb логiчно'i прозороcmi багатоша-рових нейронних мереж прямого поширення, що дае можли-вicmь порiвняння та обгрунтовувати вибiр нейромоделей у задачах iнmелекmуального аналiзу даних.
The criterions and technique permitting to quantitatively estimate a level of multilayer feed-forward neural network logical transparency are offered. It enables to realize a comparison and to justify a choice of neural models in the data mining problems.
номер нейрона в слое формулы дискриминант-ной функции и функции активации номер входа нейрона номер слоя
1 2 3
1 0
1
2
УДК 004.93:007
В.Д. Цыганков
СПИНОВЫЕ СТЕКЛА, НЕЙРОКОМПЬЮТЕР "ЭМБРИОН" И КВАНТОВЫЕ ВЫЧИСЛЕНИЯ
1 СПИНОВОЕ СТЕКЛО
В физическом понятии спинового стекла "спин" - это квантово-механический спин, который обуславливает магнитные эффекты, а слово "стекло" относится к беспорядку в ориентации и взаимодействиях спинов. В обычном стекле атомы "заморожены" в случайных положениях в пространстве, т.е. к идеальному кристаллу природой или технологом-стеклодувом добавлен небольшой
Возможность интерпретации виртуального нейрокомпьютера "ЭМБРИОН" [1 ] как квантового вычислителя была предпринята ранее в работах [2, 4]. В настоящей работе предпринята попытка провести сопоставление между свойствами спиновых стекол и информационными процессами в виртуальной нейронной сети нейрокомпьютера "ЭМБРИОН". Показано, что нейронная сеть нейрокомпьютера может быть представлена некоторым информационным аналогом спинового стекла.
беспорядок или случайность. Спиновые стекла - это вариант не полностью упорядоченной системы. Примером спиновых стекол могут быть названы ферромагнетики, в которых атомы как микроскопические магнитики могут ориентироваться в одном направлении, могут внешними полями упорядочиваться. Наиболее интересные свойства спиновых стекол проявляются в сложности и динамике проявления внутреннего коллективного взаимодействия между атомами, составляющими стекло. Вычислительные методы, разработанные для описания и исследования спиновых стекол, могут найти применение при реализации будущих информационных систем, решающих задачи комбинаторной оптимизации, задачи о коммивояжере, хранения и поиска информации в Интернете, а также компьютерных систем, производящих квантовые вычисления.
2 СВОЙСТВА И ХАРАКТЕРИСТИКИ
СПИНОВЫХ СТРУКТУР
Спиновые структуры характеризуются некоторым набором свойств и характеристик. Перечислим основные из их.
В зависимости от взаимной ориентации магнитных моментов двух соседних атомов, в одну или в противоположном направлении ориентированы их спины, поглощается или выделяется энергия при изменении ориентации моментов. Например, при выстраивании моментов в стекле в одном направлении энергия высвобождается. Следовательно, полная магнитная энергия минимальна, когда магнитные моменты выстраиваются в одном направлении. Энергия спиновой системы является функцией определенного расположения спинов, т.е. всех состояний системы.
Спиновые стекла меняют свою структуру и свойства при изменении температуры. Если при высокой температуре магнитные моменты имеют равновероятные ориентации во всех направлениях и их взаимодействие минимально, стекло в такой фазе проявляет свойства парамагнетика, у которого векторная сумма всех магнитных моментов или суммарная намагниченность минимальна. При понижении температуры взаимодействия упорядочивания между магнитными моментами становятся доминирующими. Система стремится к низкоэнергетическому состоянию. Имеется некоторая критическая температура, при которой система внезапно, скачком переходит в фазу минимальной энергии или максимальной упорядоченности. Это фазовый переход из парамагнитного состояния в ферромагнитное.
На изменения внутренней структуры спинового стекла влияют также внешние магнитные поля.
Имеется разновидность спиновых стекол, так называемые фрустированные системы, в которых все связи между атомами (допустимые взаимные ориентации спинов рядом расположенных атомов) не могут быть одновременно удовлетворены критерию минимума энергии.
Математические модели описания термодинамически неупорядоченных систем, к которым относится спиновые системы (модель с "бесконечным радиусом взаимодей-
ствия" Д. Шеррингтона - С. Киркпатрика из Исследовательского центра фирмы IBM, 1979), имеют решения (например, дерево решение Паризи, 1979) в виде ветвящегося генеалогического "дерева" или сети эволюции, которые описывают связь между низкоэнергетическими состояниями. Сопоставление состояний и подсчет спинов, которые ориентированы в противоположных направлениях на различных уровнях дерева, дают величину расстояния между состояниями системы. Между квантовыми состояниями спиновой системы имеется иерархический порядок, выражаемый соответствующим генеалогическим деревом или эволюционной диаграммой. Для каждого состояния обычно составляется "карта" - распределений ориентации всех спинов. На "дереве" могут группироваться низкоэнергетические состояния в кластеры или домены как отдельные образования или субструктуры.
Если в спиновой системе число спинов равно n, полное число состояний системы или пространство ее состояний равно X = 2n.
Движение спиновой системы при изменении температуры от нагрева к отжигу (охлаждению) представляет собою поиск и стягивание ориентации спинов в область притяжения или в аттрактор.
3 ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ И
СПИНОВЫЕ СТРУКТУРЫ
Впервые на сходство в организации, динамике и свойствах спиновых структур и искусственных нейронных сетей обратили внимание и успешно использовали Дж. Хопфилд и Д. Тэнк[5]. Кому в области нейро-компьютинга не известны сегодня знаменитые "сети Хопфилда"! Особенностью модели нейронной сети Хоп-филда является наличие в ней множества простых с набором двоичных переменных возбужденных и заторможенных нейронов, которые все связаны со всеми и влияние между нейронами симметрично. Взаимодействие между нейронами вероятностное и определяется матрицей весов связей. Изменение весов связей обеспечивает обучение сети или имитацию "отжига" спинового стекла. Поиск решения с помощью нейронной сети - это поиск в области притяжения точки с самой низкой энергией в "горном энергетическом рельефе", состоящем из хребтов, впадин и долин. Сигналы из внешней среды инициируют выбор решения. В отличие от обычных распространенных линейных последовательных компьютерных алгоритмов цифровых ЭВМ в нейронной сети происходят параллельные вычисления в гильбертовом пространстве 2n измерений, где n - число разрядов нейрокомпьютера. Все элементы коллективно взаимодействуют в ходе расчета и одновременно изменяют свои состояния. В нейронной сети как и в спиновом кристалле происходят процессы дивергенции или распространения возбуждения по сети и процессы отбора или конвергенции, концентрации возбуждения в определенном месте пространства. Эти процессы сходны с биологической эволюцией макромолекул в природе.
Вероятности выживания определенных последовательностей состояний возбуждения нейронов или ориентации их спинов имеют пики и долины в пространстве состояний. Другими словами, имеется распределение вероятностей спиновых состояний в пространстве сети.
4 НЕЙРОННАЯ СЕТЬ "ЭМБРИОНА" КАК
СПИНОВОЕ СТЕКЛО
Представим виртуальную нейронную сеть нейрокомпьютера "ЭМБРИОН" в виде некоторого своеобразного спинового стекла в виде "дерева". Иерархическая виртуальная сетевая нейроподобная структура рождается или возникает в процессе самоорганизации в информационном п - атоме [1], общий вид которого показан на рис. 1. Здесь дан вариант конкретного распределения спинов (1) и (0) в "кристалле".
x (реакция)
Память
СМ-сенсорная матрица —
п х т =3 х 2
Ро 0 0 0
1 1 1
1 1 0 -
Б2 0 1 1
N3 81 БЭП-блок энергетического потенциала
111 г
иг г
Л
/мотив;, ....
ЛЦЕЛЬ Ми}-гипотеза
восприятия
Рисунок 1 - Схема информационного п-атома, его характерные числа и структура невязки - ]
На рис. 2. приведен пример 3-атома как спиновой структуры с конкретным вариантом распределения состояний или ориентации спинов (0/1), (0/1), (0/0) для первой строки сенсорной матрицы, и (0/0), (1/0), (1/ 0) для второй строки.
БВГ блок выдвижения
3 (СРЕДА) гипотез
Рисунок 2 - Условия синтеза нейронной сети в нейрокомпьютере "ЭМБРИОН"
На рис. 3. показана виртуальная нейронная сеть, возникающая в возбужденном кристалле (3 - атоме, слева на рис.1), при условии ориентации спинов, представленном на рис. 2. Серым цветом изображены аттракторы (110), (011) - области притяжения возбуждения нейронов. В овалах - типы нейронов, цифры над нейронами -их вероятности или частоты возбуждения, а X - спектр возбуждения выходного слоя нейронной сети.
Рисунок 3 - Нейронная сеть, синтезированная нейрокомпьютером "ЭМБРИОН" при условии, показанном на рис.2.
Ниже, на рис. 4. показаны: а) часть нейронной сети при обработке первой строки сенсорной матрицы (СМ) при глубине и равной 5 и б) процесс изменения энтропии состояний четырех кластеров - групп состояний нейронов, имеющих от 0 до 3-х спинов с ориентацией (1). Теперь можно более подробно пояснить суть общности свойств виртуальной нейронной сети и спинового стекла.
Во-первых, виртуальная нейронная сеть - это вероятностная структура и представляет не полностью упорядоченную систему.
Во-вторых, в процессе изменения ориентации спинов в п - атоме происходит или поглощение, или выделение энергии. Например, переходы типа (1/1) а (1/0) - 8 _ или типа (0/0) а (0/1) - 8 + требуют затраты энергии со стороны внешнего поля, т. е. требуют смены ориентации спина с (1) на (0) или с (0) на (1) в строке сенсорной матрицы. Переходы типа (1/0) а (0/0) + 8 _ и типа (0/1) а (1/1) + 8 + связаны с излучением энергии с противоположным вектором поляризации. Пассивные переходы типа (1/1) а (1/1) и типа (0/0) а (0/0) не связаны с излучением или поглощением энергии.
Следующее свойство нейронной сети, аналогичное свойству спинового стекла - это наличие точки фазового перехода при изменении глубины сети и или же ее можно уподобить изменению температуры. Вначале от И=0 до И < п идет нагрев спинового стекла, разрушение его кристаллической структуры, ориентация спинов делается все более беспорядочной. На кривой изменения энтропии на рис. 4 б) мы видим ее рост. Критической температуре фазового перехода соответствует условие И=п. С этого момента при И>п происходит "отжиг" стекла и оно приобретает более упорядоченную структуру "ферромагнетика". 0риентации спинов устремляются в область притяжения или в аттрактор (011), показанный на рис. 4 а) темным цветом. В критической точке при И=п уже достигнуты все возможные и допустимые состояния системы. Все каналы или разряды п- атома охвачены процессом самоорганизации. Если все связи удовлетворены, то невязка 1=0 и общая энергия системы минимальна. Поиск аттрактора - это многократный (N8 раз) циклический нагрев (0<И < п) и охлаждение или "отжиг" (И >п).
11=0 11=1 U=2 U=3 U=4 U=5
а) Вид нейронной сети при обработке первой строки СМ.
У=4
б) Эволюция энтропии состояний при изменении глубины сети и
Рисунок 4 - Самоорганизация структуры в виртуальной нейронной сети
Именно здесь проявляется еще одно важное свойство нашей спиновой структуры - наша система фрустирова-нная. Действительно, не все 2П типов нейронов в сети возможны при данном начальном распределении ориентации спинов в 3 - атоме, изображенном на рис. 2. Не все сочетания ориентации спинов допустимы. Здесь действует правило отбора чем - то напоминающее правило запрета Паули для фермионов.
То, что наша виртуальная нейронная сеть представляет иерархическое ветвящееся генеалогическое "дерево" решения типа дерева решения Паризи для модели спинового стекла с максимальным радиусом взаимодействия, очевидно из рис. 3 и 4 а) и не требует дополнительных
пояснений. Пространство существования и достижения всех возможных состояний имеет максимальный радиус взаимодействия. На первых двух слоях на рис. 4 а) показаны векторы и силы взаимодействия между нейронами.
Картой ориентации всех спинов или общий вид формы хребтов и долин энергетического состояния атомов стекла, а у нас вероятности возбуждения отдельных типов нейронов может служить пространственная гистограмма распределения частот возбуждения, представленная на рис. 3 и 4 а) набором цифр над телами нейронов.
5 КВАНТОВЫЕ ВЫЧИСЛЕНИЯ НА
"ЭМБРИОНЕ"
Как видно из изложенного, виртуальная нейронная сеть нейрокомпьютера "ЭМБРИОН" представляет собою активную параллельную динамическую систему древовидного типа, реализованную в гильбертовом пространстве состояний 2п, где п - число разрядов нейрокомпьютера, в которой реализуется дальний порядок. Изменение в любом элементе системы "мгновенно" влияет на состояния всех остальных элементов. Процесс вычисления в нейронной сети параллельный, что является главным и основным условием у указанием на возможность реализации многокубитовых квантовых нейрокомпьютеров и квантовых алгоритмов вычисления, таких как, например, алгоритмы Шора или Гровера. За счет коллективного взаимодействия многих параллельных ветвей на дереве при взаимодействии множества спинов достигается экспоненциальное ускорение решения задач. Это, однако, тема отдельного сообщения.
ПЕРЕЧЕНЬ ССЫЛОК
1. Цыганков В.Д. Нейрокомпьютер и мозг.-М: Синтег, 2001.
2. Цыганков В.Д. Виртуальный нейрокомпьютер "ЭМБРИОН" как квантовый вычислитель.// Теория и общие вопросы обработки аналоговой информации.// Труды Международной конференции, том 1, УлГТУ, г. Ульяновск, 1999.
3. Цыганков В.Д. Вселенная Хокинга и нейрокомпьютер. -М: Синтег, 2000.
4. Цыганков В.Д. Вселенский разум и квантовый нейрокомпьютер. - М: Синтег, 2002.
5. Д. Тэнк, Дж. Хопфилд Коллективные вычисления в нейроподобных электронных схемах.//В мире науки", 1988, №2.
Надшшла 11.04.03
The analisys of neurocomputer Embrion and spine glace was conducted. It is shown that the neurocomputer Embrion may be represented by information analog of spine.
