Научная статья на тему 'Естественно-конструктивистский подход к моделированию мышления: динамическая модель процесса формирования символа'

Естественно-конструктивистский подход к моделированию мышления: динамическая модель процесса формирования символа Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
147
45
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
НЕЙРОПРОЦЕССОР / МОДЕЛЬ / ОБРАЗ / СИМВОЛ / ВНУТРИИ МЕЖПЛАСТИННЫЕ СВЯЗИ / САМООРГАНИЗАЦИЯ

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Чернавский Д.С., Щепетов Д.С., Чернавская О.Д., Никитин А.П.

В рамках естественно-конструктивистского подхода к моделированию процесса мышления рассматривается концепция динамического формального нейрона, которая позволяет прослеживать динамику всех процессов, где участвует нейрон. Предлагается базирующаяся на этой концепции математическая модель процесса формирования символов. Исследуется динамика конкурентной борьбы в процессоре локализации; показано, что важную роль играют «полу-возбужденные» состояния нейронов и их устойчивость. Анализируется временная зависимость обучения межпластинных связей, обеспечивающая самоорганизованный характер всего процесса.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Чернавский Д.С., Щепетов Д.С., Чернавская О.Д., Никитин А.П.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Естественно-конструктивистский подход к моделированию мышления: динамическая модель процесса формирования символа»

III. МАТЕМАТИКА В ОПИСАНИИ ХАОСА И СИНЕРГЕТИЧЕСКИХ СИСТЕМ

ЕСТЕСТВЕННО-КОНСТРУКТИВИСТСКИЙ ПОДХОД К МОДЕЛИРОВАНИЮ МЫШЛЕНИЯ: ДИНАМИЧЕСКАЯ МОДЕЛЬ ПРОЦЕССА

ФОРМИРОВАНИЯ СИМВОЛА

1 11 2 Чернавский Д.С., Щепетов Д.С., Чернавская О.Д., Никитин А.П.

1 Физический институт им. П.Н. Лебедева РАН, Москва

2

Институт Общей Физики РАН, Москва

В рамках естественно-конструктивистского подхода к моделированию процесса мышления рассматривается концепция динамического формального нейрона, которая позволяет прослеживать динамику всех процессов, где участвует нейрон. Предлагается базирующаяся на этой концепции математическая модель процесса формирования символов. Исследуется динамика конкурентной борьбы в процессоре локализации; показано, что важную роль играют «полу-возбужденные» состояния нейронов и их устойчивость. Анализируется временная зависимость обучения межпластинных связей, обеспечивающая самоорганизованный характер всего процесса.

Ключевые слова: нейропроцессор, модель, образ, символ, внутри- и межпластинные связи, самоорганизация.

Введение

Подходы к моделированию мышления в современной когнитивной науке весьма разнообразны ([3,7,13]), но все они, так или иначе, апеллируют к нейрокомпьютингу. Возможности нейрокомпьютеров и нейро-сетей для решения конкретных прикладных задач были продемонстрированы неоднократно (см. [2] и ссылки там же), причем упор делался на надежность и эффективность этих решений. В последнее время становится все более ясным, что при моделировании именно человеческого мышления такой подход не вполне адекватен. Действительно, человек, сталкиваясь с различными жизненными ситуациями, должен научиться решать самые разные, в том числе, некорректно поставленные задачи, на первый план выходит проблема адаптационной способности. Поэтому человеческое мышление - не детерминировано, часто непредсказуемо и всегда индивидуально. Загадка индивидуальности мышления — один из основных «вызовов» (challenge) для моделирования процесса мышления.

В своих работах [4-5] мы используем т.н. «естественно-конструктивистский» подход, основанный на динамической теории информации (ДТИ, [6]), теории распознавания, и нейрокомпьютинге. Однако необходимо подчеркнуть, что последняя

составляющая нами понимается в смысле, отличном от стандартного подхода, в частности, к понятию «формальный нейрон». Мы используем концепцию динамического формального нейрона, которая обсуждаться ниже.

В работе [5] были исследованы основные принципы процесса мышления с позиций ДТИ и было предложено определение мышления как самоорганизующегося процесса записи (восприятия), сохранения, обработки, а также генерации и распространения новой информации без вмешательства извне. Конечной целью наших исследований является математическая модель искусственной мыслительной системы связанных нейропроцессоров, или Аппарата Мышления (АМ), которая была бы способна выполнять перечисленные выше функции. Подчеркнем, что мы не пытаемся сконструировать систему, которая выполняла бы ряд задач лучше, чем человек. Мы пытаемся понять, как может это делать человек, и как можно этот процесс имитировать.

Чрезвычайно важную роль в моделировании процесса мышления средствами нейрокомпью-тинга играют понятия образ и символ. Понятие «образ» относится к парадигме распределенной памяти и связано с процессором Хопфилда [11]. Считается, что один реальный предъявленный объект

приводит к возбуждению многих т >> 1 нейронов. Это обеспечивает надежность и ассоциативность памяти.

Понятие «символ» относится к парадигме концептуальной памяти и связывается с именами Гроссберга [9] и Кохонена [12]. Здесь одному реальному объекту ставится в соответствие один возбужденный нейрон, символ данного образа. Проблема установления соответствия между образом и его символом (кодирования) ставилась и решалась в различных областях технической деятельности - радиофизике, коммуникациях, и т.д. При этом главными качествами кода считаются его надежность (неискажение) и эффективность (скорость и экономичность передачи информации). В том случае, когда речь заходит о моделировании процесса мышления человека, мы обязаны воспроизвести тот факт, что в живых системах соответствие образ о- символ устанавливается само, в процессе самоорганизации системы. При этом мы обязаны воспроизвести индивидуальность процесса, затем уже оценивать другие характеристики.

В наших работах [4,5] эта проблема обсуждалась неоднократно, в разных аспектах. Цель данной работы — представить математическую модель самоорганизованного процесса формирования символа с учетом всех его стадий. Подчеркнем, что эта модель основана на концепции динамического формального нейрона.

Концепция «динамического формального нейрона»

Начиная с работы Мак Каллоха и Пит-тса [14], нейрокомпьютинг базируется на трех парадигмах:

• формальный нейрон есть дихотомический элемент, способный существовать в пассивном или активном состоянии;

• нейроны и связи между ними рассматриваются как отдельные самостоятельные объекты, причем именно связи способны обучаться;

• пассивное состояние может меняться (скачком) на активное при внешнем воздействии, превышающем некоторый порог возбуждения.

Подчеркнем, что динамика процесса и промежуточные состояния во внимание не принимаются. С точки зрения нейрофизиологии такое представление является, безусловно, вульгарным (излишне упрощенным). Здесь нейрон и его связи (аксоны, синапсы, дендриты) рассматриваются как единое целое. Реальный нейрон — гораздо более сложное устройство, плоды жизнедеятельности которого (метаболиты) влияют как на мозг, так и на весь организм ([1]). Тем не менее, основная функция нейрона — формировать и проводить электрические импульсы, причем известно несколько существенно различных динамических режимов такого процесса: одиночный импульс («спайк»), автоколебания, пакет импульсов («спайк-трейн») и т.п.

Было предложено несколько моделей, весьма успешно описывающих динамику мембранного потенциала нейрона (см. [1] и ссылки там же). До сих пор наиболее биологически-релевантной считается модель Ходжкина-Хаксли [10], однако сравнительная сложность этой модели (каждый нейрон описывается четырьмя дифференциальными уравнениями) ограничивает ее применение при симуляции динамики нейронных сетей.

Позже эта модель была редуцирована (с потерей некоторых нюансов) до двух уравнений в работах ФитцХью и Нагумо [8, 15]. Рассмотрим эту модель подробнее.

Основной динамической переменной является мембранный потенциал V, но для адекватного описания сложных динамических режимов необходимо ввести еще одну внутреннюю переменную У, которая обеспечивает стабилизацию режимов через отрицательную обратную связь:

ШУ 1 , ,

= цу + ау> + ауУ3 + а0 - Ь«У + 1 }, (1) ш т

ШУ 1

— = — {Ь1У -ЬУ}, (2)

ш т

где аоддз и ¿0д,2 — параметры, Т, Т — характерные времена активации; — внешнее воздействие. Кубическая нелинейность в (1) в принципе позволяет воспроизвести все упомянутые нетривиальные режимы. При определенном выборе пара-

метров (а0 =-а2 =Д, а1 = -а3 = 1; ¿0,1,2 = 0) и замене внешнего воздействия на суммарный сигнал от соседних нейронов, уравнение для мембранного потенциала (1) фактически совпадает с уравнением типа Хоп-филда в его континуальном (а не дискретном) представлении:

№-Д (Н -1) - Н]+Х а9н]} (3)

1*1

При этом сам нейрон представляет собой бистабильный элемент, а параметр Д относится к порогу его возбуждении. Именно в таком приближении модели ФитцХью-Нагумо [8, 15] нейрон наиболее близок к формальному нейрону Мак Каллоха-Питтса [14]. Далее именно такой нейрон мы будем называть динамическим формальным нейроном.

Однако следует помнить, что основным режимом функционирования нейрона является не бистабильный, а импульсный режим (спайк), который не сводится к смене покоя на возбуждение нейрона при превышении порога внешнего воздействия.

Рис. 1. Временная зависимость мембранного потенциала нейрона в режиме спайка.

На рис. 1 представлена динамика поведения мембранного потенциала V нейрона в модели (1-2) в режиме спайка. Здесь, кроме фаз покоя и возбуждения, существует еще и фаза рефрактерности, в которой нейрон не возбуждается ни при каком внешнем воздействии. При этом временная шкала, т.е. длительность этих фаз (Тгей, Тех, Т^ соответственно) зависит от параметров аг и Ъг и может быть разной для разных нейронов. Ниже, в рамках концепции бистабильного динамического нейрона, мы

будем учитывать длительность фаз феноменологически.

Модель процессора локализации

Процессор локализации образа представляет собой пластину, населенную п формальными динамическими нейронами, т.е. динамическими бистабильными элементами (см. выше), способными переключать друг друга в активное или пассивное состояние в зависимости от условий обучения. Принцип работы следующий: при активации т нейронов (т<п), в результате их взаимодействия, выживает только один из них, который и становится символом данного набора нейронов (образа) — как и в [12], «победитель получает все». Естественно предположить, что взаимодействие нейронов должно быть конкурентным (подавляющим).

В наших работах [4,5] рассматривалась следующая модель процессора локализации:

в о 1

й\

- к -1). в: ^. (в:)2 - (в:)з

, (4)

. о:о:+1 шк (/)

I *к

где Ок: — переменные формальных динамических нейронов типа Гроссберга; к = 1...п. Стационарные состояния нейронов в данном представлении: активное (О = +1) и пассивное (О = 0). Параметры представляют: то — характерное время активации, и ак — порог активации (стационарные состояния существуют при 1 < ак< 2 и равноправны при ак = 1,5). Отметим, что в данной модели взаимодействие конкурентное (что обеспечивается знаком «минус» перед последним членом) и нелинейное.

Подчеркнем, что символ, выбранный благодаря конкурентному взаимодействию, должен быть запомнен. Иными словами, в результате обучения связей Г, при повторной активации того же набора нейронов, должен побеждать тот же самый нейрон-символ. Этот эффект достигается путем обучения связей Г, которое можно представить следующим образом. До обучения

Т

в

все связи симметричны и равны Гк= Гк= Г(0)= Г0. В процессе обучения связи изменяются по закону:

■{0к • о, (0к - о,)}, (5)

ЛГк1 (I)_ 1 Л тГ

где т — временная характеристика обучения. Подчеркнем, что согласно (5) обучение (изменение связей) прекращается, когда один из взаимодействующих нейронов становится пассивен.

Отметим, что как во взаимодействии, так и в обучении принимают участие только активные нейроны. Это значит, что общее число нейронов на пластине роли не играет, важным является только число нейронов т, составляющих образ. Исследования модели (4) показали, что в симметричном случае, т.е. при ак = а и Гк =ГЫ =Г(0) = Го, процесс выбора символа неустойчив. Это значит, что при активации образа из т нейронов 0т(0) = 1, к = 1...т, в результате нелинейного обучения связей вида (5), малейшее (случайное!) преимущество одного из них провоцирует его экспансию и подавление остальных.

Исследования модели проводились как аналитически, так и методом вычислительного эксперимента. Детальное аналитическое исследование возможно лишь в простейшем случае т = 2. Для этого случая строился фазовый портрет системы, анализировались возможные режимы поведения, проводился параметрический анализ и определение бифуркационных значений параметров Г0 и а.

В случае т >> 2 аналитические выводы могут быть только обобщены, а основным результатом является компьютерный эксперимент.

Анализ процесса формирования символа образа из двух нейронов

В этом случае модель (4) сводится к двум уравнениям для переменных G1 и G2; задача симметрична: а1 = а2 = а и Г12 = Г21 =Г (0) =Го. В начальном состоянии {1,1} оба нейрона активны; оно соответствует образу. В процессе формирования символа должен победить один из них, и конечным состоянием должно быть {1,0} или {0,1}.

Исследования проводились поэтапно. На первом этапе анализировался фазовый портрет системы без учета обучения.

Топология фазового портрета определяется поведением изоклин. Вертикальные изоклины = 0) задаются условиями:

о = 0;о =-(а-1) + аО, -О -Г0 • О (6) Изоклины горизонталей (ё02/& = 0) имеют вид:

02 = 0; 01 = -(а - 1) + а02 - 022 - Г0 • 02 (7) Точки пересечения изоклин соответствуют стационарным состояниям. При этом вырожденные изоклины G1 = 0 и G2 = 0 порождают тривиальные, или «чистые» стационары {1,0}, {0,1} и {0,0} (на рис. 2 они помечены "1", "2", "3" соответственно), которые всегда являются устойчивыми узлами. Пересечения параболических изоклин порождают и другие стационары состояния, что приводит к нетривиальным эффектам. Из уравнений (6) и (7) следует, что симметричные состояния G* равны

0 = 0 = 0+г = 1/2(а- Г) ±у(а-Г )2/4 - (а-1), (8)

т.е. существуют в той области параметров, где дискриминант системы Б не отрицателен:

Б = (а-Г0)2 -4• (а-1) >0.

(9)

Это условие накладывает довольно сильное ограничение на параметр Г0:

Г0 <а-2•л/а-1 (10)

Другая параметрическая бифуркация связана с устойчивостью симметричных состояний. Меньший стационар всегда является неустойчивым седлом; устойчивость большего стационара определяется числами Ляпунова:

=-(а-1) + 2 • (а-Г0) • о; - 3 • (О;)2, (11)

^ -2• Г • О*.

(12)

Меньшее из них всегда отрицательно, но ^шах может принимать различные значения. На Рис. 2а-в представлены три возможных варианта топологии фазового портрета. Рассмотрим их последовательно.

* ч ч ч ч ч

h К Ч X f /А

Рис. 2. Фазовый портрет системы (4) при различных соотношениях параметров (см. в тексте). Сплошные линии соответствуют изоклинам, стрелками указано направление движения изображающей точки

I. В области {Б < 0} параболические изоклины не пересекаются вообще. Состояния «1» и «2» являются чистыми, т.е. в них возбужден только один нейрон. Эти состояния представляют собой устойчивые узлы. Области притяжения их разделены сепаратрисой, которая в силу симметрии является биссектрисой.

Состояние "3" также является устойчивым узлом; в нем все нейроны пассивны.

Состояния "4" и "5" являются седлами, через них проходят сепаратрисы (на рисунке не показаны), отделяющие области притяжения состояний "1" и "2" от области

С С О 55

притяжения состояния "3".

Начальное состояние G1 = G2= 1 (образ) находится в области притяжения стационара "3". Изображающая точка из начального состояния быстро движется по биссектрисе к точке {0,0} и остается в ней. Это означает, что предъявленный образ «гаснет» и символ не образуется.

Случай D = 0 является предельным: параболические изоклины не пересекаются, но касаются в точке G*^^^-^). Эта точка представляет собой сложную бифуркацию «седло-узел» и не может обеспечить выбор символа.

II. В области параметров {D > 0, ^тах< 0} возникает сразу несколько новых стационаров, отмеченных на рис. 2б цифрами "6"-"9". При этом состояния "8" и "9", в которых переменные Gi и G2 имеют промежуточные значения, являются седлами. Симметричное состояние "7", в котором G1 = G2 = G*+, определенное формулой (8), становится в этом случае устойчивым узлом, в область притяжение которого попадает начальное состояние {1,1} (т.е. образ). Изображающая точка движется по сепаратрисе к состоянию "7" и там остается. Это означает, что символ не образуется, а все нейроны, составляющие образ, переходят в полу-возбужденное («патологическое») состояние.

III. В довольно узкой области параметров {D > 0, Amax > 0}, где D и Amax определяются формулами (9) и (11), соответственно (рис. 2в). Здесь фазовый портрет приобретает именно те свойства, которые необходимы для процесса выбора символа. Состояния "7", "8", "9" сливаются, и "7" становится неустойчивым седлом. В таком режиме изображающая точка из начального состояния {1,1} быстро движется по биссектрисе к значению Gi = G2 = G +, где «застревает». Случайное отклонение приводит ее в область притяжения состояний "1" или "2". В компьютерном эксперимен-

те считалась зависимость О^) в процессе выбора символа-победителя при нескольких предъявлениях образа (в силу симметрии задачи 02(^) ведет себя антисимметрично). Было показано, что в 50% реализаций изображающая точка из начального положения {1,1} уходит в стационар {0,1} (что означает, что победил 02(^)), а в других 50% — в стационар {1,0}.

Таким образом, мы заключаем, что режим, обеспечивающий формирование символа, в параметрическом пространстве занимает узкую область между режимами, при которых символ образоваться не может. Смысл этого результата в том, что при слабом взаимном подавлении (малых Г0) выживают все нейроны образа, хотя и в полу-возбужденном состоянии. При слишком сильном взаимном подавлении гаснут вообще все нейроны. Только при определенном соотношении параметров Г0 и а выбор символа возможен. Ниже будет показано, что учет обучения связей Г согласно формуле (5) значительно расширяет ту область параметров, где процесс формирования символа возможен. Само по себе обучение связей необходимо для того, чтобы выбранный символ запомнился и при следующем предъявлении того же образа активировался бы сразу (минуя стадию выбора). Заметим, что, согласно (5), обучение связей Г антисимметрично, так что соблюдается условие Г12+Г21=2Г0; иначе говоря, эти связи обучаются не независимо. Согласно анализу, проведенному выше, обучение следует рассматривать как процесс, одновременный с выбором символа. Действительно, поскольку начальное состояние {1,1} (образ) попадает в область притяжения седла "7", система быстро достигает этой точки и затем долгое время проводит в ее окрестности. Это дает нам возможность представить переменные в виде:

01=0*+ + 02 =0*+ + л , Г = Г0+5, и исследовать малые отклонения л и 5 от стационарных значений. Легко показать, что уравнения для отклонений имеют вид

(Хтах-Г0^-Г0а;л-(а;)25; (13)

т

Л (Лтах - ГоС+>-Го^ + (0*)25 (14)

Ш

— к х- + 0+л) т

(15)

где О + и Хтах заданы уравнениями (8) и (11) соответственно; параметр х=т°/тГ характеризует интенсивность обучения связей. Легко показать, что детерминант этой системы преобразуется к виду:

|-х+(Аи| - 2Го<)1 - И-Н+и - 2х-(Ф4]. (16)

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Из (16) следует, что одно из трех чисел Ляпунова X = Хтах-2Г00*= Хтщ отрицательно и совпадает с таковым в отсутствие обучения (12). Два других определяются из условия:

К = 1 -Хх ± 1 -Х + 8-х-(С+)4, (17)

т.е. одно всегда отрицательно, второе же всегда положительно. Иными словами, при одновременном выборе символа и обучении связей, состояние 0+* всюду в области его существования является седлом, т.е. неустойчиво.

Физический смысл этого прост: учет обучения одновременно с выбором символа включает положительную обратную связь малого отклонения изображающей точки от биссектрисы, что усугубляет неустойчивость и приводит к быстрому выбору аттрактора (устойчивого узла). Время активации выбранного символа при этом существенно меньше, чем до обучения.

Эти выводы можно распространить и на случай образа из т >> 1 нейронов. Аналитические вычисления при этом затруднительны, но качественные выводы остаются в силе. Основной вывод заключается в том, что процессор, способный преобразовывать достаточно сложные образы т >> 1, должен обладать определенной «эластичностью», т.е. начальные значения силы связи Г0 должны быть малы.

Отметим, что время, необходимое для выбора нейрона-победителя, зависит, разумеется, от параметра х, но, кроме того, растет с ув еличением сложности образа, т.е. числа (т-1).

Математическая модель всего процесса формирования символа

Конструкция искусственной мыслительной системы АМ рассматривалась в работах [5]. Ее важным элементом является блок формирования символа типичного образа. Отвлекаясь от других элементов конструкции, рассмотрим подробно модель, способную описать этот процесс.

Самоорганизованный процесс формирования символа типичного образа происходит последовательно, в несколько стадий (см. рис. 3).

Рис.3. Стадии процесса формирования символа (см. в тексте).

На первой стадии (рис. 3а) образ, т.е. набор т активных нейронов с пластины типичных образов Нур (типа Хопфилда), передается прямыми межпластинными связями у на пластину типа Гроссберга т.е. возбуждает соответствующий (тот же самый) набор нейронов в процессоре локализации. Начало этого процесса примем за точку отсчета ( = 0).

На второй стадии (рис. 3б) происходит конкурентная борьба и обучение внутри-пластинных связей в процессоре локализации Г, в результате которой побеждает (остается активным) только один нейрон, выбранный случайно. Именно этот нейрон становится символом образа, как рассмотрено в предыдущем разделе. Но этого недостаточно: символ должен обладать способностью декомпозиции, т.е. активировать именно свой образ на пластине Нур.

На третьей стадии (рис. 3в) устанавливаются межпластинные (семантические) связи Т, обеспечивающие декомпозицию и устойчивую связь символ^образ. К этому моменту прямые межпластинные связи у

должны исчезнуть, иначе связь с символом будет искажена.

Наконец, на последней стадии должна происходить специализация нейрона-символа: нейрон, ставший символом данного образа, не должен участвовать в конкурентной борьбе за право стать символом другого. Этот эффект может быть обеспечен параметрически, за счет увеличения параметра а (т.е. увеличения порога возбуждения) нейрона, выбранного на роль символа - в этом случае конкурентная способность данного нейрона падает.

Все стадии процесса можно описать двумя связанными наборами уравнений вида:

с-о°м) 1

— Т

=—{-а) -1) • о: а) • от -

- (О0)3 -£гИ • оо + г(о +

1*к

(18)

+¥кНГ ВД-} к

=~я №+д • ((и* )2 -1) - (яг )3 ]+

— Т

п т

г# ] к

. (19)

Член 2(1)Ск(0 в (18) соответствует учету случайного фактора («шума»): 2(1) есть амплитуда шума, Ск(0 - случайная функция

(0< С <1).

Обучение прямых межпластинных связей у должно приводить к их угасанию к тому времени, когда начнется конкурентная борьба, т.е. достаточно быстро:

У = +0, (20)

где должно выполняться условие ту <тг, т° Обучение связей Г происходит согласно

(5).

После окончания процесса конкуренции нейронов на пластине и обучения связей Г должен начаться процесс формирования семантических межпластинных связей Т^, который можно представить в виде: -Т 1

-Т = ^Т,к(Ттх -ТкОН +1), (21)

т 2т

причем должно выполняться условие

Т^ Г у Т >Т , Ту.

Наконец, после усиления связей Т до

достаточно высокого уровня (¥~¥тах), должна быть обеспечена специализация нейрона-символа: нейрон, выбранный на роль символа данного образа, в дальнейшем не должен участвовать в конкурентной борьбе за право стать символом какого-либо другого образа. Один из возможных вариантов обучения параметра ак. На стадии выбора символа все пороги активации а должны быть не велики, иначе нарушается условие (10): при а = 2 процесс выбора символа становится невозможен (Г0 < 0). Таким образом, если после завершения процесса выбора параметр ак приближается к своему максимальному значению, такой символ более неконкурентоспособен. Процесс обучения параметра можно представить в виде:

= (Датах - Дак),

дХ

х„

(22)

где Дак — отклонение параметра ак от его первоначального значения а0, та — характерное время обучение параметра а. Это уравнение имеет явное решение:

Да к (Х) =

Да

т - Х

1 + ехр[ Датах —а-]

Х а , (23)

т =-О- 1п Да

Да Да

та[ и

Значения параметров должны быть ограничены условиями:

- величина Даги мала, на уровне флюк-туаций, не препятствующих образованию символа (в компьютерных расчетах — на уровне точности).

- величина Датах велика, так, что выводит символ из конкурентной борьбы при предъявлении другого образа.

- время Та больше времени формирования символа, но меньше времени его затухания (последнее в модели сколь угодно

велико); это ограничивает величину та снизу.

Временная зависимость связей у, Г, ¥ и

параметра а проиллюстрирована на рис. 4.

*

При ^ > Т весь процесс можно считать завершенным.

Таким образом, уравнения (18-23) пред-

ставляют собой замкнутую математическую модель процесса формирования символа. Подчеркнем, что в данной модели самоорганизация проявляется в том, что смена стадий всего процесса формирования символа не подразумевает включения/выключения дополнительных механизмов взаимодействия, а происходит за счет различия характерных времен обучения связей разного типа, т.е. параметров ху,

Г ¥ т X , X и Та.

Рис. 4. Динамика обучения связей у, Г, ¥ и параметра а.

Заключение

Естественно-конструктивистский подход к моделированию процесса мышления имеет несколько существенных особенностей. Среди них наиболее важными являются:

• использование континуальных представлений нейропроцессоров;

• оперирование образной и символьной информацией;

• учет случайного фактора (шума).

Именно эти особенности позволяют

предлагать различные варианты моделей, в частности, процесса формирования символа. Рассмотренный вариант, как показано в данной работе, действительно может обеспечить процесс выбора и запоминания символа, причем лишь в определенной области параметров. Этот факт позволяет обеспечить параметрически и специализацию нейронов-символов, т.е. его связь только с одним, соответствующим ему, образом.

Основным свойством представленной модели является тот факт, что процесс выбора символа неустойчив, и поэтому результат случаен. Именно эффект случайного выбора в искусственных системах может имитировать эффект индивидуальности живых систем.

Важно, что эти результаты получены на основе концепции динамического формального нейрона и континуальной динамической модели, в которой можно детально проследить путь перехода нейрона из одного стационарного состояния в другое, учитывая поведение процессора в промежуточных состояниях 0 < G < 1. В дискретных системах динамический анализ невозможен.

Литература

1. Анохин К.В., Бурцев М.С., Ильин В.А., Киселев И.И., Кукин К.А., Лахман К.В., Параскевич А.В., Рыбка Р.Б. Современные подходы к моделированию активности культур нейронов in vitro. // Математическая биология и биоинформатика. 2012. -Т.7. -№2. -с. 372-397.

2. Ежов А.А., Шумский С.А. Нейроком-пьютинг и его применения. М.: МИФИ. 2008. - 222 с.

3. Станкевич Л.А. Моделирование когнитивных функций навигационного поведения в интеллектуальной системе робота.// Труды 3-й конференции «Нелинейная динамика в когнитивных исследованиях», Нижний Новгород, 2013. -с. 159-161.

4. Чернавская О.Д., Чернавский Д.С., Карп В.П., Никитин А.П. О роли понятий «образ» и «символ» в моделировании процесса мышления средствами нейрокомпьютинга // Известия вузов. Прикладная Нелинейная Динамика. 2011. - Т.19. - № 6. - с. 5-20.

5. Чернавская О.Д., Чернавский Д.С., Карп В.П., Никитин А.П., Рожило Я.А. Процесс мышления в контексте динамической теории информации. Часть I: Основные цели и задачи мышления // Сложные Системы. 2012. - № 1. - С. 25-41; Часть II: Понятия «образ» и «символ» как инструменты моделиро-

вания процесса мышления средствами нейрокомпьютинга // Сложные Системы. 2012. - №2. - С. 47-67; Часть III: Один из вариантов конструкции нейро-процессоров для моделирования процесса мышления // Сложные Системы. 2012. - №3. - С. 25-36.

6. Чернавский Д.С. Синергетика и информация: Динамическая теория информации. М.: УРСС. - 2004. - 287 с.

7. Шамис А.С. Пути моделирования мышления. М.: КомКнига, 2006. - 445 с.

8. Fitz Hugh R. Impulses and physiological states in theoretical models of nerve membrane // Biophys. J. 1961. - V.1. - P. 445.

9. Grossberg S. Studies of Mind and Brain. Boston, Riedel, 1982; Nonlinear neural networks: principles, mechanisms, and architecture // Neural networks, 1988. -V.1. - р. 17.

10. Hodgkin A.L., Huxley A.F. A quantitative description of membrane current and its application to conduction and excitation in nerve // The Journal of physiology. 1952. -V. 117. - No.4. -P. 500-544.

11. Hopfield J.J. Neural networks and physical systems with emergent collective computational abilities // PNAS, 1982. - V. 79. -р. 2554.

12. Kohonen T. Self-organizing Maps. Springer Verlag, Heidelberg. - 2001. -655 р.

13. Laird J.E. The Soar Cognitive Architecture. MIT Press. 2012. - 368 p.

14. McCulloch W.S., Pitts W. A Logical Calculus of the Ideas Immanent in Nervous Activity. // Bulletin of Mathematical Biophysics 1943.- v. 5. - p. 115.

15. Nagumo J., Arimoto S., Yashizawa S. An active pulse transmission line simulating nerve axon // Proc. IRE. 1962. - V. 50. -P. 2062.

NATURAL-CONSTRUCTIVE APPROACH IN THINKING MODELLING:

DYNAMIC MODEL OF SYMBOL GEN-

ERATION5

Chernavsky D.S., Schepetov D.S., Chernavskaya O.D., Nikitin A.P.

Within the framework of the natural-constructive approach in thinking modelling we consider the conception of dynamic formal neuron that allows tracing the dynamics of all processes with a neuron. The mathematical model of symbol generation based on the conception is proposed. The dynamics of the competitive activity in location is researched. Moreover, 'semi-firing' neurons and their stability play an important role. Time dependence of interlamellar bonding providing self-organization of the process is analyzed.

Keywords: neuroprocessor, model, image, symbol, inner- and interlamellar bonding, self-organization.

5 Статья подготовлена к публикации по итогам третьей всероссийской конференции «Нелинейная динамика в когнитивных исследованиях» и представляет собой дополненный по итогам дискуссии доклад, представленный на этой конференции.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.