Научная статья на тему 'Дискретное моделирование с помощью стохастических клеточных автоматов'

Дискретное моделирование с помощью стохастических клеточных автоматов Текст научной статьи по специальности «Математика»

CC BY
403
119
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
СТРОКОВЫЕ ПЕРЕЗАПИСЫВАЮЩИЕ СИСТЕМЫ / STRING REWRITING SYSTEMS / СТОХАСТИЧЕСКИЕ КЛЕТОЧНЫЕ АВТОМАТЫ / STOCHASTIC CELLULAR AUTOMATA / БЛОЧНЫЕ КЛЕТОЧНЫЕ АВТОМАТЫ / BLOCK CELLULAR AUTOMATA / ВОЗБУДИМАЯ СРЕДА / EXCITABLE MEDIUM / НЕЙРОННЫЕ СЕТИ / NEURAL NETWORKS

Аннотация научной статьи по математике, автор научной работы — Ершов Николай Михайлович, Кравчук Андрей Владимирович

В работе рассматривается новый подход к низкоуровневому дискретному моделированию естественных (прежде всего, биологических) систем с помощью стохастических блочных клеточных автоматов. Вводятся понятие марковской системы, являющейся частным случаем строковых перезаписывающихся систем. Ключевой особенностью марковских систем по сравнению с другими строковыми перезаписывающими системами является стохастическая процедура разбиения строки на подстроки и стохастическое параллельное применение системы подстановок ко всем полученным подстрокам. На основе модели марковской системы строится понятие двумерного марковского автомата, являющегося частным случаем понятия блочного стохастического клеточного автомата. В таких автоматах пространство клеток образует матрицу, разбиение клеток на горизонтальные и вертикальные блоки происходит вероятностным образом. Рассматриваются свойства и выразительные возможности такого рода систем. В качестве приложения рассматривается задача построения низкоуровневой модели нейронной сети. Для этого строится модель возбудимой среды, с поддержкой механизмов торможения и возбуждения, но основе которой уже строится модель искусственного нейрона, включая систему коммуникации (аксоны, дендриты, синапсы). Рассматривается и численно исследуется пример простой нейронной сети прямого распространения, реализующий логическую операцию строгой дизъюнкции.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по математике , автор научной работы — Ершов Николай Михайлович, Кравчук Андрей Владимирович

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Discrete Modeling Using Stochastic Cellular Automata

New approach to low-level discrete simulation of natural (especially biological) systems using stochastic block cellular automata is considered. The notion of a Markov system, which is a special case of the string rewriting systems, is introduced. A key feature of Markov systems compared with other string rewriting systems are the stochastic procedure of the splitting the string into substrings and stochastic simultaneous application of the substitutions system to all obtained substrings. In such automata cellular space forms a matrix, and block decomposition into horizontal and vertical components occurs in probabilistic way. Based on a Markov system model the notion of two-dimensional Markov automata, which is a special case of block stochastic cellular automata, is constructed. The characteristics and expressive capabilities of such systems are considered. As an application, the problem of constructing neural network low-level model is considered. With this purpose a model of excitable medium, supporting the inhibition mechanism of excitation, is proposed. Based on this model an artificial neuron, including a system of communication (axons, dendrites, synapses) is constructed. Simple feedforward neural network, that implements the logical operation of exclusive disjunction, is considered and numerically investigated.

Текст научной работы на тему «Дискретное моделирование с помощью стохастических клеточных автоматов»

УДК 004.94

Дискретное моделирование с помощью стохастических

клеточных автоматов

Н. М. Ершов*, А. В. Кравчук

* Факультет вычислительной математики и кибернетики Московский государственный университет им. М.В. Ломоносова ГСП-1, Ленинские горы, 1-52, Москва, Россия, 119991 ^ Кафедра прикладной математики и информатики Международный университет природы, общества и человека «Дубна» ул. Университетская, д. 19, Дубна, Московская область, Россия, 141980

В работе рассматривается новый подход к низкоуровневому дискретному моделированию естественных (прежде всего, биологических) систем с помощью стохастических блочных клеточных автоматов. Вводятся понятие марковской системы, являющейся частным случаем строковых перезаписывающихся систем. Ключевой особенностью марковских систем по сравнению с другими строковыми перезаписывающими системами является стохастическая процедура разбиения строки на подстроки и стохастическое параллельное применение системы подстановок ко всем полученным подстрокам.

На основе модели марковской системы строится понятие двумерного марковского автомата, являющегося частным случаем понятия блочного стохастического клеточного автомата. В таких автоматах пространство клеток образует матрицу, разбиение клеток на горизонтальные и вертикальные блоки происходит вероятностным образом. Рассматриваются свойства и выразительные возможности такого рода систем.

В качестве приложения рассматривается задача построения низкоуровневой модели нейронной сети. Для этого строится модель возбудимой среды, с поддержкой механизмов торможения и возбуждения, но основе которой уже строится модель искусственного нейрона, включая систему коммуникации (аксоны, дендриты, синапсы). Рассматривается и численно исследуется пример простой нейронной сети прямого распространения, реализующий логическую операцию строгой дизъюнкции.

Ключевые слова: строковые перезаписывающие системы, стохастические клеточные автоматы, блочные клеточные автоматы, возбудимая среда, нейронные сети.

1. Введение

Рассматривается задача дискретного низкоуровневого моделирования естественных (химических и биологических) систем [1]. Классические средства в этой области - это клеточные автоматы [2], системы Линденмайера (или Ъ-системы) [3] и мембранные системы [4]. Однако особенности клеточных автоматов и Ъ-систем не позволяют естественным образом моделировать, например, химические процессы, т. к. в них отсутствует механизм согласованного изменения состояний отдельных элементов, а основным предназначением мембранных систем является все же не моделирование, а анализ вычислительных возможностей микробиологических систем.

В настоящей работе вводится в рассмотрение новая модель, которую будем называть марковской системой. В основе этой модели лежит набор подстановок вида а ^-[р] ¡3, где а и /3 цепочки символов в заданном алфавите, р — вероятность применения подстановки. Набор может включать в себя несколько подстановок с одинаковой левой частью, но их суммарная вероятность не должна превышать единицы. Процесс применения подстановок состоит в последовательном выполнении следующего алгоритма:

1) текущая цепочка случайным образом разделяется на подцепочки;

2) каждая полученная подцепочка заменяется на новую согласно заданному набору подстановок с учётом их вероятностей;

3) все подцепочки, полученные в результате второго шага, соединяются и образуют новую текущую цепочку.

Статья поступила в редакцию 30 декабря 2013 г.

Если правая и левая части каждого правила заданной системы подстановок имеют равные длины, то такую марковскую систему можно трактовать как блочный стохастический клеточный автомат, в котором состояния клеток меняются согласованно в рамках каждого блока, а сами блоки формируются случайным образом. Такой клеточный автомат будем называть автоматом с марковской окрестностью.

2. Двумерные марковские автоматы

Двумерные марковские автоматы представляют собой прямоугольную решётку (матрицу) размера п х т, в каждую ячейку которой помещён символ заданного алфавита. Состояние такого автомата меняется со временем по следующему алгоритму: на каждом шаге эволюции с вероятностью 1/2 выбирается способ разбиения матрицы символов на цепочки - вертикально (на столбцы) или горизонтально (на строки), после чего каждая цепочка преобразуется стандартным (вышеописанным) образом.

Марковские автоматы обладают широким спектром типов поведения. Если набор подстановок содержит в себе перемешивающие подстановки вида аЬ —^ Ьа и вероятности применения всех остальных подстановок много меньше в, то можно показать, что состояние системы в каждый момент времени описывается системой дифференциальных уравнений, аналогичных кинетическим уравнениям, используемых при описании динамики химических реакций.

С другой стороны, также несложно показывается, что марковские автоматы являются алгоритмически универсальными системами, способны реализовывать сколь угодно сложные алгоритмы и демонстрировать упорядоченное поведение. Использование специальных символов-разделителей позволяет совместить в рамках одной системы сразу несколько типов поведения. Это открывает возможность к моделированию простейших биологических систем — клеток, окружённых мембраной и помещённых в некоторую среду.

3. Моделирование возбудимой среды

Рассмотрим следующую систему подстановок:

хХ — Хх,

ххХ XXX, (1)

хХ АЛ.

При условии, что вероятности р и ц много меньше вероятности перемешивания в, эволюция данного автомата может быть описана дифференциальным уравнением вида

х = ах2(1 — х) — Ьх(1 — х),

параметры которой определяются вероятностями р и Это дифференциальное уравнение имеет три точки покоя: х\ =0, = 1 и хз = Ь/а. Если выполнено условие Ь < а, то первые две точки являются устойчивыми, а последняя -неустойчивой.

При значительной степени перемешивания для гарантированного возбуждения системы необходимо существенно превысить порог возбуждения Ь/а, причём это превышение должно носить глобальный характер. Однако если перемешивание производится не столь активно, то возможна ситуация, когда локальное превышение порога в некоторой ограниченной подобласти приводит к возникновению волны возбуждения, результатом чего является переход всей системы в возбуждённое состояние.

Ершов Н. М., Кравчук А. В. Дискретное моделирование с помощью .

361

Наряду с процессами возбуждения в нейронных сетях важную роль играют и процессы торможения, которые фактически меняют (повышают) порог возбуждения нейрона. Для моделирования торможения добавим к системе 1 символ у (ингибитор) и следующие две подстановки: ух —т- у\ и у А.

4. Модель нейронной сети

Будем представлять искусственный нейрон в виде некоторой двумерной области, состоящей из символов Л (возбудимая среда). Нейрон передаёт своё возбуждение другим нейронам с помощью аксона, представленного цепочкой символов а. Распространение сигнала по аксону описывается подстановками ха ^ хх и ха ^ хх, первая из которых инициирует возбуждение аксона, вторая отвечает за распространение возбуждения вдоль аксона.

Передача возбуждения с аксона на другой нейрон выполняется с помощью синапса, представляющего собой некоторую область, отделённую от нейрона прослойкой символов 8, моделирующей синоптическую щель. Синапс заполнен символами А или В, представляющих собой нейромедиаторы в неактивной форме. После того, как возбуждение аксона достигло синапса, все его нейромедиаторы переводятся в активное состояние (а или Ь) и переносятся в нейрон через синоптическую щель, возбуждая нейрон или тормозя его возбуждение.

Хотя нейроны в предложенной модели способны только возбуждаться, а сбрасывать возбуждение не могут, тем не менее, из таких нейронов можно строить нейронные сети прямого распространения, например, многослойные перцептро-ны со ступенчатой функцией активации нейронов. В качестве примера была построена простая сеть, состоящая из трёх нейронов и реализующая логическую функцию строгой дизъюнкции.

5. Заключение

Несмотря на вероятностный характер применения подстановок, марковские системы являются алгоритмически универсальными системами. Это значит, что в принципе они способны к сколь угодно сложному (алгоритмическому) поведению. С другой стороны, та же вероятностная природа подстановок позволяет легко и просто моделировать и стохастические «массовые» процессы, в частности, процессы диффузионного типа (например, процесс дендритного роста), поведение которых по аналогии с химическими реакциями может быть описано дифференциальными кинетическими уравнениями. Комбинируя указанные два типа поведения, оказывается возможным строить сколь угодно сложно структурированные модели, например, модели биологических клеток.

В результате выполненной работы получены следующие результаты: введено понятие двумерного марковского автомата; построена и проанализирована би-стабильная марковская система с двумя устойчивыми состояниями, рассмотрено влияние пространственной организации на процесс возбуждения системы, предложен механизм торможения возбуждения; описана модель искусственного нейрона; рассмотрен и численно исследован пример простой нейронной сети прямого распространения.

Литература

1. Dittrich P., Ziegler J., Banzhaf W. Artificial Chemistries - a Review // Artif. Life. — 2001. — Vol. 7, No 3. — Pp. 225-275.

2. Toffoli T., Margolus N. Cellular Automata Machines: a New Environment for Modeling. — Cambridge, MA: MIT Press, 1987.

3. Prusinkiewicz P., Lindenmayer A. The Algorithmic Beauty of Plants. — New York: Springer, 1996.

4. Paun G., Rozenberg G., Salomaa A. The Oxford Handbook of Membrane Computing. — New York: Oxford University Press, Inc., 2010.

UDC 004.94

Discrete Modeling Using Stochastic Cellular Automata N. M. Ershov*, A. V. Kravchuk

* Faculty of Computational Mathematics and Cybernetics

Lomonosov Moscow State University GSP-1, 1-52, Leninskiye Gory, Moscow, Russia, 119991 ^ Department of Applied Mathematics and Informatics Dubna International University for Nature, Society and Man 19, Universitetskaya str., Dubna, Moscow region, Russia, 141980

New approach to low-level discrete simulation of natural (especially biological) systems using stochastic block cellular automata is considered. The notion of a Markov system, which is a special case of the string rewriting systems, is introduced.

A key feature of Markov systems compared with other string rewriting systems are the stochastic procedure of the splitting the string into substrings and stochastic simultaneous application of the substitutions system to all obtained substrings. In such automata cellular space forms a matrix, and block decomposition into horizontal and vertical components occurs in probabilistic way. Based on a Markov system model the notion of two-dimensional Markov automata, which is a special case of block stochastic cellular automata, is constructed. The characteristics and expressive capabilities of such systems are considered.

As an application, the problem of constructing neural network low-level model is considered. With this purpose a model of excitable medium, supporting the inhibition mechanism of excitation, is proposed. Based on this model an artificial neuron, including a system of communication (axons, dendrites, synapses) is constructed. Simple feedforward neural network, that implements the logical operation of exclusive disjunction, is considered and numerically investigated.

Key words and phrases: string rewriting systems, stochastic cellular automata, block cellular automata, excitable medium, neural networks.

i Надоели баннеры? Вы всегда можете отключить рекламу.