НЕЙРОДИНАМИЧЕСКАЯ МОДЕЛЬ ТВОРЧЕСКОГО ПОЗНАНИЯ РЕЛЯЦИОННЫХ СЕТЕЙ С ЧЕТНЫМ ЦИКЛИЧЕСКИМ ТОРМОЖЕНИЕМ Текст научной статьи по специальности «Компьютерные и информационные науки»

Нелинейная

^^^^^^^^ динамика и нейронаука

Известия высших учебных заведений. Прикладная нелинейная динамика. 2022. Т. 30, № 3 Izvestiya Vysshikh Uchebnykh Zavedeniy. Applied Nonlinear Dynamics. 2022;30(3)

Научная статья УДК 57.011

DOI: 10.18500/0869-6632-2022-30-3-331-357

Нейродинамическая модель творческого познания реляционных сетей с четным циклическим торможением

В. Д. Цукерман

Академия биологии и биотехнологии имени Д. И. Ивановского Южного Федерального университета, Ростов-на-Дону, Россия E-mail: vtsukerman17@gmail.com Поступила в редакцию 17.11.2021, принята к публикации 24.03.2022, опубликована 31.05.2022

Аннотация. Целью исследования является изучение нейродинамических основ творческой деятельности мозга. Современные системы искусственного интеллекта, использующие обучение глубоких нейронных сетей, требуют больших объемов входных данных, высоких вычислительных затрат и длительного времени обучения. Напротив, мозг может обучаться на небольших наборах данных в кратчайшие сроки и, что принципиально важно, кардинально отличается наличием творческих способностей. Методы. Исследование выполнено посредством вычислительных экспериментов с нейронными сетями, содержащими 5 и 7 осцилляторных слоёв (контуров), обученных представлять абстрактные концепты определенного класса животных. Схема нейронных сетей с четным циклическим торможением (ECI-сетей) содержит только билатеральные тормозные связи и состоит из двух субсетей: референтной некодирующей сети, являющейся аналогом нейронной сети режима мозга по умолчанию и основной информационной сети, получающей временные градиентные последовательности входных сигналов и контекстных входов. После обучения считывание популяционных фазовых кодов выполнялось простым линейным декодером. Результаты и обсуждение. Концептуальное обучение сети приводит к генерации ряда пространственных абстрактных изображений, отличающихся наиболее выраженными признаками релевантной линейки животных. В вычислительных экспериментах получен широкий набор изоморфных представлений концептов посредством: а) преобразований пространств изображений в широком диапазоне временных шкал обучающего входного потока сигналов; б) внутренней регуляции временных масштабов ментальных представлений концептов; в) подтверждения на модели зависимости психологической близости концептов от семантической дистанции; г) вызова из памяти (декодирования) распределенных групп нейронов концептов животных, которым сеть не была обучена. Заключение. В настоящей работе впервые показано, как используя небольшой набор входных событийных данных (последовательность четырех CCW- и двух CW-сигналов) и весьма ограниченные вычислительные ресурсы, сети с чётным циклическим торможением проявляют креативные начала познания на основе реляционных отношений, концептуального обучения и обобщения знаний.

Ключевые слова: концептуальное обучение, воображение, семантическое пространство, обобщение.

Для цитирования: Цукерман В. Д. Нейродинамическая модель творческого познания реляционных сетей с четным циклическим торможением//Известия вузов. ПНД. 2022. T. 30, № 3. С. 331-357. DOI: 10.18500/0869-6632-2022-30-3331-357

Статья опубликована на условиях Creative Commons Attribution License (CC-BY 4.0).

Article

DOI: 10.18500/0869-6632-2022-30-3-331-357

Neurodynamic model for creative cognition of relational networks with even cyclic inhibition

V.D. Tsukerman

Academy of Biology and Biotechnology of Southern Federal University, Rostov-on-Don, Russia E-mail: vtsukerman17@gmail.com Received 17.11.2021, accepted 24.03.2022, published 31.05.2022

Abstract. The purpose of this work is study of the neurodynamic foundations of the creative activity of the brain. Modern AI systems using deep neural network training require large amounts of input data, high computational costs and long training times. On the contrary, the brain can learn from small datasets in no time and, crucially, it is fundamentally creative. Methods. The study was carried out through computational experiments with neural networks containing 5 and 7 oscillatory layers (circuits) trained to represent abstract concepts of a certain class of animals. The scheme of neural networks with even cyclic inhibition (ECI networks) contains only bilateral inhibitory connections and consists of two subnets: a reference noncoding network, which is an analogue of the default brain mode neural network, and the main information network that receives time sequences of environmental signals and contextual inputs. After training, the reading of the population phase codes was performed with a simple linear decoder. Results. Conceptual learning of the network leads to the generation of a number of spatial abstract images that are distinguished by the most pronounced features of the relevant line of animals. In computational experiments, a wide set of isomorphic representations of concepts was obtained through: a) transformations of image spaces in a wide range of time scales of the training input signal flow, b) internal regulation of the time scales of mental representations of concepts, c) confirmation on the model of the dependence of psychological proximity of concepts on semantic distance; d) calling from memory (decoding) distributed groups of neurons of animal concepts, which the network has not been trained in. Conclusion. This paper shows for the first time how, using a small set of event input data (a sequence of 4 CCW and 2 CW signals) and very limited computational resources, ECI networks exhibit creative cognitions based on relational relationships, conceptual learning and generalization of knowledge.

Keywords: conceptual learning, imagination, semantic space, generalization.

For citation: Tsukerman VD. Neurodynamic model for creative cognition of relational networks with even cyclic inhibition. Izvestiya VUZ. Applied Nonlinear Dynamics. 2022;30(3):331-357. DOI: 10.18500/0869-6632-2022-30-3-331-357

This is an open access article distributed under the terms of Creative Commons Attribution License (CC-BY 4.0).

Введение

В последние годы активно развивается новое направление наук о мозге — нейронаука творческой деятельности. Основу этого направления составляют достижения психологических исследований последних десятилетий и новейшие результаты нейробиологических исследований. Предполагается, что ментальные механизмы на нейросетевом уровне, поддерживающие творческое мышление и творческое познание, возникают из взаимодействия когнитивных процессов более низкого уровня [1]. Креативное познание и креативное мышление — это сложные процессы, включающие в себя компоненты внимания, когнитивного контроля, воображения, обобщения и памяти [2]. Вместе с тем, базисом этих творческих процессов служит реляционное мышление, то есть способность мозга устанавливать связи между, казалось бы, несвязанными концептами. Различные аспекты творческого мышления поддерживаются эпизодической и семантической памятью. Семантическая память обеспечивает базовые знания фактов и концептов, которые можно комбинировать для решения творческих задач и генерации новых идей [3], что подтверждается когнитивными и fMRI (Functional magnetic resonance imaging, функциональная магнитно-резонансная томография) исследованиями семантической памяти [4]. Важными понятиями в теориях о роли семантической памяти в творческом мышлении являются концептуальные пространства и семантическая дистанция. В последние годы растёт число доказательств наличия

общих нейронных механизмов, лежащих в основе навигации как в физическом, так и семантическом пространстве, используя в обоих случаях коды направления и расстояния между местами, даже если они являются категорическими и обозначенными символами [5].

Точка зрения, что люди могут использовать одни и те же нейронные механизмы для поддержки представления как пространственной, так и непространственной информации организацией концептов и памяти с помощью пространственных кодов получила прямое экспериментальное подтверждение участия в этом медиальной префронтальной коры и правой энторинальной коры. После тренировки оба региона кодировали расстояния между концептами, что позволяло восстановить точное двумерное представление семантического пространства прямо из их многомерных паттернов активности, при этом правая энторинальная кора (ЕС) демонстрировала периодическую модуляцию как функцию пройденного направления. Эти результаты показывают, что области мозга и схемы кодирования, поддерживающие отношения и движения между пространственными местоположениями у млекопитающих, «повторно используются» в организме человека для представления двумерного мультисенсорного концептуального пространства во время задачи символической категоризации [5].

Концептуальное знание частично организовано в низкомерные геометрии — «когнитивные карты», которые являются аналогами ориентированных на мир представлениями окружения, и ассоциируются с гиппокампальной формацией мозга и «пространствами изображений», которые являются аналогами эгоцентрических пространственных отношений и главным образом ассоциируются с теменной (париетальной) корой. Когнитивные карты — это информация о расстояниях между местоположениями, которые ранее были показаны только в навигационных задачах для физического пространства. Гиппокамп кодирует аналогичным образом расстояния между точками в абстрактном семантическом пространстве непрерывными стимульными признаками, которые были актуальны для приобретения нового концепта [6,7]. Когнитивные карты и пространства изображений могут быть конкретными проявлениями более общей склонности человеческого мозга организовывать знания в низкомерных пространствах [8]. Схемы изображений более абстрактны, чем обычные визуальные ментальные образы, и состоят из динамических пространственных паттернов, которые лежат в основе пространственных отношений и движений, обнаруживаемых в частных реальных изображениях. Низкомерные когнитивные карты и пространства изображений играют ключевую роль в замечательной способности человека проводить аналогии в разных областях. В принципе, проведение аналогий предполагает игнорирование многих различий и сосредоточение внимания на нескольких сходствах между объектами. Кроме того, низкомерные когнитивные карты могут быть важны для создания аналогий между объектами и событиями, которые далеки в нашем опыте, но которые можно сравнить лишь по нескольким выбранным измерениям [8].

Генеративность — важнейшая для когнитивных функций мозга способность, в том числе для планирования будущего, воображения, принятии решений и творческой деятельности. Генеративность дает вклад в поведение предсказанием будущего результата, что явно направляет текущее поведение и творческий потенциал, и указывает на унифицированную роль в познании. Как реализуется генеративность в мозге на нейронном уровне, каковы кандидатные паттерны нейронной активности, кодирующие возможный будущий сценарий? Экспериментально установлено, что гиппокамп представляет альтернативные гипотетические сценарии поочередно и циклически приблизительно каждые 125 мс, что соответствует тета-ритму, то есть мозг моделирует все возможные сценарии поведения, а не только реализуемые в будущем! При этом лежащие в основе паттерны активности имели эквивалентную временную структуру среди различных местоположений и направлений движения, подразумевая общий процесс циклического кодирования. Более того, цикл запускался на всех уровнях: от одиночных клеток до их популяций [9].

В процессе эволюции природа создала организмы, способные отвлекать свое внимание от настоящего момента для создания личного ментального пространства, в котором может быть

реализовано бесконечное количество возможностей. Содержимое этого ментального пространства может принимать разные формы: от фантазий до повторных переживаний прошлого события или воображения того, как может разворачиваться будущее событие. Всё это является актом творческого мышления, ментальным представлением того, что не существует в данный момент [10]. Отметим, что определение «imagination» — «воображение» данное Oxford English Dictionary, звучит как «... способность формировать внутренние образы или идеи объектов и ситуаций, которые на самом деле не воспринимаются органами чувств». Какие нейродинамические феномены лежат в основе этой способности мозга — один из основных вопросов настоящего исследования.

Наконец, важнейшей проблемой изучения творческого мышления является понимание языка (кода) мыслей, без которого невозможно представить реализацию огромного когнитивного потенциала мозга. Первое широкое экспериментальное исследование языка мышления для объяснения представления зрительно-пространственных последовательностей провели M. Amalric с соавторами [11]. Исследование взрослых французов, дошкольников, а также людей из группы коренных народов Амазонии — Мундуруку — с ограниченным числовым и геометрическим лексиконом и доступом к школьному образованию, показало возникающие спонтанно примитивы симметрии и вращения. Более того, испытуемые легко комбинировали эти геометрические формы примитивов в иерархически организованные выражения. Теоретическая модель авторов говорит о том, что «испытуемые "сжимали" пространственные последовательности в минимальное внутреннее правило или программу» [11].

Подводя итог настоящего обзора, вкратце отметим следующее. Высокоуровневая когнитивная обработка основана на замечательной способности мозга концептуализировать информацию, то есть выделять один или несколько признаков, свойственных другим объектам окружения. Эти признаки соответствуют абстрактным когнитивным переменным или концептам, знание которых позволяет обобщить и сразу сделать выводы о вновь встреченном предполагаемом объекте или событии. Высокоуровневая когнитивная обработка предполагает наличие языка (кода) мыслей, ментальное сжатие перцептуальной информации, гибкую рекомбинацию более простых частей, использование низкомерных семантических пространств, простых геометрических примитивов и правил. Язык мышления основан на способности мозга устанавливать связи между, казалось бы, несвязанными понятиями (концептами), что определяет реляционную природу нашего мышления. Используя рассмотренные выше фундаментальные характеристики мозговой деятельности, в данной работе впервые представлена нейродинамическая модель творческого познания реляционных нейронных сетей с четным циклическим торможением, включая следующие серии экспериментов.

• Исследование потенциала когнитивных возможностей ECI-сетей.

• Исследование диапазона временных шкал, релевантных генерации абстрактных образов животных.

• Масштабные преобразования объектов посредством внутренней регуляции фазового тайминга событий контекстным входом сети.

• Исследование основ творческого познания нейронных сетей с четным циклическим торможением.

Приведенные серии вычислительных экспериментов являются дальнейшим развитием исследований сетей с четным циклическим торможением, см. работы [12, 13], в которых были впервые подробно описаны математическая модель и архитектура этих сетей с указанием динамических режимов, фазовых переходов, демонстрирующих генезис тета-гамма ритмической активности в базовом модуле — основной информационной единице сети, а также основы фазового кодирования сенсорных событий в мозге. Очередным этапом развития идеи фазового кодирования в осцилляторных сетях стало её применение к навигационному поведению организмов, где были описаны векторно-фазовый и топологический подход автора при вычислительном моделировании данной проблемы [14]. Важным итогом данного периода исследований явилась дифференциация и функциональная специализация информационных единиц на топологические и дирекциональные группировки в каждом ансамбле внешних контуров сети, а также постепенный

переход ансамблей внутренних слоев сети к чисто топологическим. Этот впервые описанный в модели ECI-сетей (neural networks with Even Cyclic Inhibition — ECI networks) нейродинамический феномен имел важный поведенческий функционал: внутренние ансамбли сети определяли местоположение виртуального навигатора, внешние — его пространственную траекторию движения в аллоцентрическом пространственном окружении [14].

Этот результат интересен еще тем, что открытые впервые у грызунов (крыс) гиппокампаль-ные клетки места [15] и энторинальные решетчатые клетки (сетки) [16] получили в модельном нейросетевом исследовании свою роль на популяционном уровне кодирования пространственного поведения. Референтная координатная система ECI-сети определяет схему, в которой пространственная информация, то есть позиция объекта, может быть представлена относительно начальной точки. В зависимости от закрепления начала координатной системы, одна и та же информация может быть закодирована как эгоцентрически, так и аллоцентрически. Если референтная система связана с телом навигатора или частью его тела, например, головой, то представление будет по определению эгоцентрическим. Если начало координат является фиксированной точкой окружения (например, угол комнаты), то представление будет аллоцентрическим. Ясно, что одна и та же пространственная информация, представленная идиотетическими сигналами, например, вестибулярными, может использоваться для описания информации о собственном движении либо эгоцентрически, то есть относительно тела или части тела навигатора, либо аллоцентрически. Вместе эти типы информации дают организмам, совершающим навигацию, ментальную карту пространственного окружения, которая кодирует пространственную информацию в аллоцентрических координатах [7,17].

Обращаясь вновь к описанному выше тезису о том, что концептуальное знание частично организовано в низкомерные геометрии — «когнитивные карты», которые ассоциируются с гиппокампальной формацией мозга и «пространствами изображений», отметим, что последние определенно относятся к аналогам эгоцентрических пространственных отношений. Добавим также, что когнитивные карты позволяют уйти от так называемой проблемы «проклятия размерности», связанной с тем, что объекты характеризуются многочисленными пространствами признаков, кодирование и распознавание которых в ряде жизненных ситуаций было бы неприемлемо долгим во времени. Поэтому когнитивные карты и пространства абстрактных изображений могут быть конкретными проявлениями более общей склонности человеческого мозга организовывать знания в низкомерных пространствах. Важно, что процесс абстракции решает эту проблему, создавая абстрактные переменные, описывающие признаки, совместно используемые разными конкретными объектами, уменьшая размерность и делая возможным обобщение в новых ситуациях [18].

Исходя из идеи пространственных абстрактных представлений в ментальной деятельности мозга здесь представлены материалы исследования нейродинамической модели построения эгоцентрических пространственных изображений объектов. Результатом этих исследований явилась разработка нейронного кода «мыслей» для обучения и пространственных представлений ряда объектов живых организмов в виде широкомасштабных символьных записей во временном измерении. В ряде современных работ подчеркивается, что люди могут использовать один и тот же нейронный механизм для поддержания представлений как пространственной, так и непространственной информации, организации понятий и воспоминаний с использованием пространственных кодов. Эта точка зрения предсказывает, что одни и те же схемы нейронного кодирования, характеризующие навигацию в физическом пространстве, основанную на расстоянии и направлении, должны лежать в основе навигации по абстрактным семантическим пространствам.

Недавно эта точка зрения получила прямое экспериментальное подтверждение в работе S. Vigano и M. Piazza [5]. Используя fMRI мозга и анализ репрезентативного сходства на основе модели прожектора, авторы обнаружили доказательства реакции мозга как на расстояние, так и на направление. Области, обычно участвующие в пространственной навигации — это медиальная префронтальная кора mPFC и правая энторинальная кора (EC). После тренировки участников

исследования обе области закодировали расстояния между понятиями, что позволило восстановить точное двумерное представление семантического пространства непосредственно из их многомерных паттернов активности, тогда как правая EC демонстрировала также периодическую модуляцию в зависимости от пройденного направления [5]. Эти результаты показывают, что области мозга и схемы кодирования, поддерживающие отношения и движения между пространственными местоположениями у млекопитающих, используются также для представления двумерного мультисенсорного концептуального пространства во время задачи символической категоризации у людей.

1. Методы

1.1. Пространственная организация и математическая модель сетей с четным циклическим торможением. Все экспериментальные серии, представленные в данной работе, были выполнены на осцилляторных нейронных сетях с четным циклическим торможением, впервые описанных в работах автора данной статьи [12, 14]. Схема ECI-сетей содержит только рекуррентные тормозные связи и состоит из двух субсетей: референтной некодирующей, являющейся аналогом Default Mode Network (DMN) — нейронной сети оперативного покоя, иначе говоря, сетью пассивного режима работы или сетью режима мозга по умолчанию (различные переводы с английского языка) [4,19,20] и основной информационной сети, получающей временные последовательности внешних информационных сигналов и контекстного входа.

В общем виде математическая модель свободно масштабируемой ECI-сети выглядит следующим образом:

' dx- п

Ti-г^ = -Xi - biZi -Y, aijVj + Soi + Si(t), dt j=i

rri dzi

T = - * + Уг, (I)

= ( k(xi - pi), Xi > pi, У = \0, хг < рг, i = 1,...,N.

В частности, ее отдельный модуль — осцилляторный узел ECI-сети можно записать в виде следующей системы уравнений:

' dxi , . 0

т-х—тт = -Xi - biZi - а21У2 + Soi, at

rp dzi

П— = -z 1+уь

= -X2 - b2Z2 - ai2УI+S02, (2)

rr, dZ2

T2— = - Z2 + У2,

ik(xi,2 -p 1,2), для X,2 >P 1,2,

У1'2 = n , , , ^ ,

[0, для x\,2 ^ P\,2,

где xi — мембранные потенциалы нейронов; Zi — глубина или степень адаптации этих нейронов к постоянному уровню входного воздействия; т — постоянные времени входа нейрона; Tj, bi — параметры, определяющие постоянные времени и уровень адаптации нейронов; pi — пороги нейронов; a^- — веса тормозных связей; Soi и Si(t) — постоянный и переменный входы нейронов, соответственно; уi — выходная активность нейронов; k — коэффициент усиления; п — число осцилляторных узлов сети.

При определенных параметрах и соотношениях амплитуд внешних входов нейронов отдельный осцилляторный модуль способен к автономной генерации двух ритмов — высокочастотного

(гамма-подобного) и медленноволнового (тета-подобного). Генерация этих ритмов запускается постоянными, но разными уровнями возбуждения и постоянных времени обоих нейронов, а все фазовые манипуляции с высокочастотными пачками осцилляций осуществляются коротким возбуждающим импульсным входом на нейрон с малой постоянной времени входа. Особенностью ритмогенеза в таком модуле является наличие различных режимов генерации колебаний и существование фазовых переходов между ними, в частности, от непрерывного высокочастотного к двухчастотному режиму, то есть медленноволновому, перемежающемуся высокочастотными пачками осцилляций. В такой сети энергия паттернов входных импульсных сигналов приводит к фазовым смещениям высокочастотных гамма-пачек. Вычислительные эксперименты показывают, что фазовая динамика нейронов сети имеет сложную зависимость от целого ряда факторов: состояния сети, энергии входных сигналов, матрицы весов тормозных связей, постоянных времени входов и адаптации нейронов. Ритмогенез отдельного модуля определяется несколькими различными факторами: а) разностью потенциалов покоя обоих нейронов модуля — Sen; б) величиной адаптационного параметра нейрона — Ьа; в) соотношением постоянных времени входов обоих нейронов — тi и Ti.

В вычислительных экспериментах решение вышеуказанных систем уравнений производилось численным методом Рунге-Кутты 4-порядка с шагом интегрирования, равным 0.01. Во всех вычислительных экспериментах были приняты следующие численные значения параметров нейронов для адаптивного нейрона модуля: ti = 0.01; Т1 = 30; Ъ1 = 10; Soi = 0.083; ai2 = a21 = 2.27; для условного осцилляторного нейрона: т2 = 0.5; Т2 = 0.8; Ъ2 = 27; S02 = 1; к = 1; pi,2 = 0. Все величины — безразмерные. Величина рекуррентных тормозных межнейронных связей aij составляла постоянную величину, равную 0.001. Различие осцилляторных единиц референтной и информационной субсетей состоит лишь в том, что информационные единицы обладают внешними модулирующими входами Si(t), а референтные единицы таких входов не имеют. Во всех вычислительных экспериментах перечисленные параметры оставались неизменными, изменялись только внешние информационные входы. Величины тормозных внут-римодульных связей между адаптивным и условным осцилляторным нейронами составляют 2.27, а веса сетевых межмодульных тормозных связей — 0.001, то есть сильно различаются. Таким образом, функциональная единица ритмогенеза состоит из двух отделов, обладающих существенной асимметрией настройки своих временных параметров, высокими значениями внутримодульных весовых коэффициентов связи и различием амплитуд постоянных входов Soi и S02, что влияет на динамическое поведение осцилляторного модуля в целом, которое отличается сильной нелинейностью. В итоге подчеркнем, ECI-сети — это сети слабосвязанных нелинейных осцилляторов, что придает большую нейродинамическую свободу последним. Важно также отметить, что референтная система осцилляторов, генерирующих когерентный тета-ритм, образует систему отсчетов внутрисетевого времени, которая и служит для измерения относительных фазовых смещений информационных осцилляторов, а также времени подачи вызывающих эти смещения внешних контекстных и информационных входов. Внешний возбуждающий вход нейронов Si(t), представляет собой комбинацию «контекстного» входа для всех единиц сети и специфического «дифференциального» входа для единиц с чувствительностью к различного рода вращениям сети относительно вертикальной оси, перпендикулярной плоскости рис. 1. Данные входы различаются временем подачи на вход, амплитудой и длительностью сигналов, и это различие учитывалось в интерфейсе с программой вычислений.

Комбинированные воздействия сигналов трансляционной и угловой скорости поворотов ECI-сети приводят к модификации кривых фазовых ответов и их сжатому последовательному порядку представления от внешнего контура к внутреннему в референтном тета-цикле. Присутствие в семействах фазовых кривых сетей любой размерности шести ступенек локальной фазовой когерентности [16] говорит об устойчивости этого нейродинамического феномена и согласуется с выводом о трех направлениях пространственной симметрии, кодируемых «решетчатыми»

Рис. 1. Пространственная организация многослойных сетей нелинейных осцилляторов с четным циклическим торможением (a и b — эквивалентные схемы). В любом слое (контуре) сети содержится четное число тормозных связей, отсюда название even cyclic inhibitory networks (ECI-сети). Большими черными кружками обозначены осциллятор-ные некодирующие модули, образующие референтную систему фазовых отсчетов; большими цветными кружками — информационные осцилляторные модули, на которые поступают внешние возбуждающие входы; малыми черными кружками — тормозные синапсы между осцилляторными модулями. На рис. c показан базовый двухкомпартментный элемент, расположенный в узлах решетки ECI-сети — осцилляторный модуль, состоящий из двух нейронов. Вверху — аналоговый адаптивный нейрон с реакцией на ступенчатый вход, показанной внутри нейрона; внизу — условно осцилляторный нейрон с быстро затухающими осцилляциями. Горизонтальные связи между соседними узлами ос-цилляторной решетки опосредуются между аналоговыми адаптивными нейронами [по 14]. Дальнейшие пояснения в тексте (цвет online)

Fig. 1. Spatial organization of multilayer networks of nonlinear oscillators with even cyclic inhibition (a and b — equivalent circuits). In any layer (contour) the network contains an even number of inhibitory connections, hence the name even cyclic inhibitory networks (ECI networks). Large black circles indicate oscillatory non-coding modules that form a reference system of phase counts; large colored circles indicate information oscillator modules that receive external exciting inputs; small black circles indicate inhibitory synapses between oscillator modules. Figure c shows a basic two-component element located in the nodes of the ECI-network — an oscillator module consisting of two neurons. At the top: an analog adaptive neuron with a step input response shown inside the neuron; at the bottom: a conditionally oscillatory neuron with rapidly decaying oscillations. Horizontal connections between neighboring nodes of the oscillator array are mediated between analog adaptive neurons [14] (color online)

клетками энторинальной коры, экспериментально подтвержденными как на животных, так и на человеке. Поясним этот вывод подробнее. Замечательный признак энторинальной карты, обнаруженный экспериментально у грызунов (крыс) состоит в ее исключительно регулярной организации, с решетками соседних клеток, имеющими общий шаг (расстояние между полями активности клеток) и общую ориентацию. Однако эти решетки пространственно смещены, но не повернуты друг относительно друга [16]. Теоретически, если мозг человека также включает в себя решетчатые клетки, то наша энторинальная кора в целом должна быть более активной, когда мы движемся вдоль осей симметрии наших решеток, и менее активной при пересечении этих осей в движении. Исходя из того, что у крысы обнаружено три таких главных оси, и что можно двигаться «вперед» либо «назад» вдоль каждой из них, что определяет шесть направлений, можно предсказать, что активность энторинальной коры человека также должна коррелировать с направлением движения 6-кратной дирекциональной симметрией подобно этой. С. ЭоеПег с соавторами [21] использовали виртуальную реальность и изучали интегральную нейронную активность во время «ходьбы» испытуемых по генерированному компьютером ландшафту и смотрели на области монитора, где активность имела подобный описанному выше паттерн. Оказалось, что энторинальная кора человека действительно показывает этот решетчатый паттерн активности и соответствующие ей три оси симметрии у большинства волонтеров.

Экспериментально показано, что нейронами направления головы млекопитающих могут управлять периферические входы, главным образом, вестибулярный, зрительный, и вспомогатель-

ные афференты угловой скорости вращения головы [22-24]. «Клетки пространственного обзора» (spatial view cells), обнаруженные у приматов, характеризуются тем, что их активация происходит только в том случае, когда животное смотрит в определенное место пространства [25,26]. Высокоразвитое зрение и глазодвигательная система приматов позволяют им исследовать и запоминать извне то, что находится в том или ином месте окружения, даже не посещая этих мест. Такие клетки пространственного обзора могут быть полезны как часть системы пространственной памяти, в которой они должны обеспечить представление части пространства, независимо от того, где точно находилась обезьяна или человек, и что может ассоциироваться с событиями, происходящими в этих местах. Пространственные представления приматов должны быть также полезны в запоминании траекторий при осуществлении навигационных задач и т. д.

Интеграл скорости по времени определяет положение тела в пространстве. Та же операция интегрирования траектории реализуется в гиппокампально-энторинальной системе мозга, используя для этой операции сигналы собственного движения тела при навигации. В рассматриваемой модели эта имплицитная операция интегрирования траектории реализуется следующим образом. На вход всех информационных единиц сети в третьем тета-цикле после запуска процесса интегрирования поступает сигнал трансляционной (линейной) скорости с длительностью 5 у.е. времени и шагом амплитуды 2 ■ 10-5 в диапазоне нормированных амплитуд [0.00084...0.0014]. Затем в следующем, четвертом тета-цикле поступают сигналы угловой скорости вращения на клетки, чувствительные к независимым переменным — CCW- и CW- сигналам с длительностью 3 у.е. и шагом градиента амплитуд 1 ■ 10-5, распределенным между релевантными клетками. Все символьные записи обучающих наборов данных, представленные в настоящей статье, включали в себя различные величины относительных временных интервалов между CCW/CW событиями в широком диапазоне временных шкал. Пример интерфейса с программным комплексом приведен на рис. 2.

Рис. 2. Снимок с экрана компьютера интерфейс программного комплекса Expert-2013 на примере начала символьной записи первого события концепта CAT: 5k6s-[-7].0.77.2.25

Fig. 2. A screenshot of the computer interface of the Expert-2013 software package on the example of the beginning of the symbolic recording of the first event of the CAT concept: 5k6s -[-7].0.77.2.25

Представленная на рис. 2 последовательность пяти численных значений обучающего набора данных, ограниченных точками в записи, означает величины временных межсобытийных интервалов, а сами сигналы имеют стандартную длительность в 3 у.е. времени. Знак минус в первом межсобытийном интервале означает временное перекрытие второго сигнала CCW с первым сигналом CCW на 7 у.е. во внутренней шкале времени нейронной сети, а значение «0» — что окончание второго и начало третьего события совпадают во времени. Такая форма записи есть выражение временной последовательности сигналов на разработанном автором символьном языке «мыслей» — формы записи, которая показана в нижней части каждого представленного в статье графика или схемы и которая была «понятна» обучаемой нейронной сети. Слово «понятна» является производным от слова «понятие» или «концепт», отсюда реляционное концептуальное обучение — нейродинамический процесс обучения нейронной сети, в результате которого было получено сетевое представление семантического пространства живых организмов. Подчеркнем также, что комбинированные воздействия сигналов трансляционной и угловой скорости на сеть в нейродинамическом смысле становятся взаимозависимыми, поэтому получаемые в итоге направления и дистанции также взаимозависимы, что хорошо видно на представлениях пространственных траекторий образов объектов, полученных в результате декодирования популяционных фазовых кривых информационных единиц сети.

1.2. Популяционное фазовое кодирование и временное сжатие в процессе обучения сети. Схема ЕО-сети, благодаря своей симметричной билатеральной организации, может быть привязана к «схеме тела» виртуального организма-навигатора. В частности, если правую диагональ схемы структурной организации нейронной сети жестко связать с фронтальным направлением тела, то в системе референтности правосторонняя субсеть (см. ниже, рис. 4, показанные двумя цветами клетки) будет соответствовать правой стороне тела, а субсеть клеток, расположенных слева от той же диагонали — левой стороне тела. Чтобы получить полное представление о возможности нейронной сети интегрировать траектории движения в любом направлении, а именно, во фронтальном направлении (прямо вперед), вправо, то есть по часовой стрелке (CW), или влево, против часовой стрелки (CCW), были проведены вычислительные эксперименты, в которых был определен диапазон нормированных значений амплитуд этих дирекциональных сигналов. Интегральные кривые фазовых ответов обеих популяций дирекционально чувствительных единиц сети к CCW- и CW-сигналам, строились машинным алгоритмом последовательными сегментами в каждом следующем за сигналом общей трансляционной скорости тета-цикле.

Паттерны импульсных воздействий определенной амплитуды (в нормированном диапазоне значений) и их длительности вызывают соответствующую фазовую развертку в тета-цикле, следующем за окончанием обучающего набора. Импульсный входной сигнал угловой скорости, распределенный среди релевантных входов ЕО-сети, интегрируется сетью на каждом шаге величины приращения амплитуды контекстного входа трансляционной скорости и сохраняется в кратковременной памяти в виде прямолинейного сегмента фазовой траектории — вектора, направление и длина которого представлены в двух интегральных семействах противоположно направленных кривых фазовых ответов. Вся история обучения сети информационному набору сигналов в широком диапазоне временных масштабов пошагово сжимается и сохраняется в референтном тета-цикле, следующем за последним тета-циклом, в котором поступала входная информация.

Таким образом, весь процесс обучения в ЕО-сетях состоит из трех временных окон: раннего, среднего и позднего после включения входного обучающего набора в символьном виде, что хорошо видно на всех графиках кривых фазовых ответов (рис. 3, 4, 5). На раннем этапе процесса происходит кодирование и сильно сжатое фазовое имплицитное представление обоих CCW- и CW-сигналов в референтном тета-цикле. На втором этапе благодаря шаговому прира-

щению амплитуды контекстного входа трансляционной скорости наблюдаются ортогональные представления обоих сигналов угловой скорости и, наконец, их постепенное преобразование к параллельным представлениям на поздней стадии обучения. При этом каждый шаг модификации фазовых представлений СС"- и С"-сигналов под действием контекстного входа сохраняется в буферной памяти и в виде отдельных сегментов кривых фазовых ответов всех информационных единиц представляется в графическом виде.

1.3. Представление пространственной траектории — «ментальный» след памяти концептуальных представлений сети в эгоцентрическом пространстве. Специфическая организация ЕС1-сети кодирует относительный пространственный порядок полей активности информационных единиц, а не зависимость той или иной информационной единицы от определенного местоположения или частного события. Важно, что относительный порядок в нейросетевом пространстве может быть зафиксирован, поскольку сеть обладает локальной фазовой когерентностью и референтной некодирующей системой осцилляторов. Таким образом, в основе феномена «восприятия» пространства в данной нейросетевой модели лежит не пассивное отражение пространственной организации внешних стимулов, а активное построение собственного внутреннего представления пространства. И здесь важную роль играет решетчатая активность информационных единиц сети, которые коллективно «набрасывают» своеобразную координатную сетку (подобно энторинальным решетчатым полям активности) на исследуемое пространственное окружение. Непрерывная аттракторная нейросетевая модель может поддерживать активность своих нейронов для представления любого местоположения вдоль любого физического измерения, например, зрительного пространственного обзора или заданного пространственного окружения. ЕС1-сеть может сохранять пакет нейронной активности постоянным, где бы она ни стартовала для представления текущего состояния (направления головы, позиции и т. д.) [14].

Для того чтобы получить графическое пространственное представление траектории движения, необходимо получать форвардные фазовые значения на каждом шаге изменения вектора скорости, которые затем переводятся в соответствии с описанным выше алгоритмом в сегменты (прямолинейные отрезки) пространственной траектории в эгоцентрической системе координат. Таким образом, представление траектории происходит в соответствии с векторной стратегией: направление и длина каждого последующего вектора вычисляются, исходя из разности фазовых представлений клеток с С"- и СС"-чувствительностью на каждом шаге приращения величины контекстного входа (горизонтальная ось на графиках кривых фазовых ответов). Общее время процесса фазового кодирования и обучения сети в данных экспериментальных сериях составляло 600-1200 тета-циклов при длительности одного тета-цикла приблизительно 97 у.е. времени в зависимости от временного масштаба обучающего набора сигналов (вертикальная ось на графиках кривых фазовых ответов). Тестовое эгоцентрическое пространство имело четыре фиксированных направления. По горизонтальной оси откладывались амплитуды контекстного входа с тем же шагом, что и при построении фазовых кривых; по вертикальной оси — величина разности взвешенных фазовых значений С"-клеток (со знаком минус в нижней полуплоскости) и СС"-клеток (со знаком плюс в верхней полуплоскости). Эта величина определяла направление вектора движения в текущий момент времени с точностью до постоянного коэффициента [27].

2. Результаты и обсуждение

В представленных далее модельных экспериментах показан ряд результатов, определяющих когнитивную нейродинамику сети, и, в частности, формирование концептуального пространства ЕС1-сети, используя синтезированный язык (код) «мыслей». Прежде всего, однако, необходимо отметить нейродинамическое сходство и различия кривых фазовых ответов при обучении каждого

Рис. 3. Семантическое пространство 7 абстрактных изображений животных (сверху вниз: BORZ, DOG, BEA, CAM, BUL, miniBUL и CAT), созданное обучающими входными потоками сигналов, синтезированных автором вручную. Обучающий набор каждого концепта состоит из 6 событий (4 CCW- и 2 CW-сигналов), разделенных временными интервалами различной длительности (здесь и далее показано внизу каждого изображения). В каждом ряду, слева-направо: схема ECI-сети, обученная тому или иному концепту; в центре — кривые фазовых ответов всех нейронов сети в референтном тета-цикле, показанном вдоль оси ординат графиков и обозначенном REF (означающими начало и конец тета-ритма); многочисленные вертикальные линии — шаг градиента контекстного входа, равный 2 • 10-5; справа — вызов из памяти сети — декодирование популяционного векторно-фазового кода каждого концепта (подробнее см. в работе [12] и ранних работах автора). На схеме сети: большими черными кружками показаны 4 кластера осцилляторных нейронов, чувствительных к вращениям сети против часовой стрелки (CCW), а серым цветом — 4 кластера нейронов — к вращениям по часовой стрелке (CW). Правая диагональ сети, оканчивающаяся стрелкой, привязана к фронтальному направлению схемы тела организма. Решетка малых черных кружков в схеме сети — некодирующая референтная субсеть осцилляторных нейронов. Все связи в сети — билатеральные рекуррентные тормозные; кластеры информационных нейронов, показанные большими черными кружками, получают возбуждающие информационные сигналы с различными временными интервалами и, соответственно, генерируют гамма пачки с различными фазами в тета-цикле. Нейроны схемы, обозначенные малыми черными кружками, получают постоянные входы и генерируют когерентный референтный тета-ритм

Fig. 3. Semantic space of 7 abstract images of animals (top-down: BORZ, DOG, BEA, CAM, BUL, miniBUL and CAT), created by training input signal streams synthesized by the author manually. The training set for each concept consists of 6 events (4 CCW and 2 CW signals), separated by time intervals of different lengths (hereinafter shown at the bottom of each image). In each row, from left to right: an ECI network diagram trained on a particular concept; in the center — curves of phase responses of all neurons in the network in the reference theta cycle, shown along the ordinate axis of the graphs and denoted by REF (meaning the beginning and end of the theta rhythm); numerous vertical lines — the step of the gradient of the contextual input equal to 2 • 10-5; on the right — a call from the network memory — decoding of the population vector-phase code of each concept (for more details, see [12] and early works of the author). On the network diagram: large black circles show 4 clusters of oscillatory neurons that are sensitive to counterclockwise rotation of the network (CCW), and in gray — 4 clusters of neurons — to clockwise rotation (CW). The right diagonal of the net, ending with an arrow, is tied to the frontal direction of the body diagram of the organism. The lattice of small black circles in the network diagram is a noncoding reference subnetwork of oscillatory neurons. All connections in the network are bilateral recurrent inhibitory; clusters of information neurons, shown by large black circles, receive excitatory information signals at different time intervals and, accordingly, generate gamma bursts with different phases in the theta cycle. Small black circles receive constant inputs and generate a stable reference theta rhythm

объекта данного класса обучающими наборами входных данных (см. рис. 3). Интересно, что полученные различия данных кривых определяются лишь последним временным интервалом в обучающем наборе, вызывающем заметную перестройку всей цепочки последовательных сегментов пространственной траектории. Такая координированная векторно-фазовая перестройка вызывает смену наблюдаемых концептов. Другой важный пример динамической фазовой перестройки, результатом которой стал многочисленный набор изоморфных концептов каждого объекта, был получен при считывании кода из малых распределенных групп нейронов с исходной селективной CW- и CCW-настройкой (см. в работе [28]). Вычислительные эксперименты были проведены в соответствии со следующим планом исследования когнитивной нейродинамики представлений концептов:

а) экспериментальное модельное исследование зависимости психологической близости концептов от семантической дистанции — известного факта в когнитивной психологии (см. рис. 3);

б) исследования диапазона временных шкал обучающих наборов сигналов, релевантных генерации пространственных представлений образов животных (см. рис. 4);

в) исследование масштабных преобразований воображаемых объектов (см. рис. 5);

г) изучение творческих возможностей и демонстрация при вызове из памяти (декодировании) концептов животных, которым сеть не была обучена (рис. 6).

2.1. Экспериментальное исследование на модели ECI-сети зависимости психологической близости концептов от семантической дистанции. Зависимость психологической близости концептов от семантической дистанции — известный факт в когнитивной психологии.

Однако, как решается эта проблема на нейросетевом уровне, в настоящее время не известно. В этой связи одной из задач настоящих серий модельных экспериментов являлся поиск пространственных представлений объектов (животных), отличающихся, с одной стороны, наиболее выраженными признаками релевантных животных (длина и ширина морды, форма ушей или их отсутствие). С другой стороны, в связи с временным кодированием паттернов входных сигналов, принятых нами ранее в исследованиях нейродинамики ECI-сетей, необходимо было найти такую форму символьной записи на языке «мыслей», в которой определяющей переменной в межсобытийных CW/CCW-интервалах было бы внутреннее время сети, определяющее пространственное представление того или иного концепта. Напомним, что описанная в Методах референтная субсеть позволяет производить высокоточную оценку временных интервалов как во входной обучающей последовательности сигналов, так и во временном коде (относительных фазовых сдвигах информационных единиц) при обучении сети. Кроме того, была принята исходная селективная настройка четырех кластеров информационных единиц к поступающим входным сигналам против часовой стрелки (CCW) и столько же с селективной настройкой к сигналам по часовой стрелке (CW). Соответствующие настройки кластеров клеток показаны черным и серым цветом, а также обозначены соответствующими направлениями стрелок в верхнем углу схемы ECI-сетей на рис. 3. В данной серии экспериментов использовались символьные записи обучающих наборов сигналов с временными интервалами вида 5k6s-94.93.76.100.115 — ... 5k6s-94.93.76.100.121 с последовательно изменяющимися на единицу времени последним интервалом, как это показано сверху вниз в каждом ряду на рис. 3. Представленные здесь символьные записи кодируют временную программу подачи входных сигналов в сеть, что, в конечном итоге, после декодирования имплицитных фазовых представлений сети позволяет наблюдателю увидеть относительное изменение длин и направлений векторов, последовательно строящих пространственную траекторию того или иного объекта, начиная от лап и заканчивая хвостом.

Видно, что в результате концептуального обучения сети и декодирования популяционного фазового кода была получена серия из 7 пространственных абстрактных изображений, отличающихся наиболее выраженными признаками животных с условными названиями BORZ, DOG, BEA, CAM, BUL, miniBUL и CAT, а именно формой морды и ушей или их отсутствия. Таким образом, используя минимальный набор характерных признаков, в результате данной серии вычислительных экспериментов получено семантическое пространство, содержащее семь вышеперечисленных животных. Каждое пространственное представление определенного концепта из данной линейки животных характеризуется суммарной величиной межсобытийных временных интервалов во входной обучающей последовательности. При этом пространственные границы частных представлений концептов обусловлены различием в последнем временном интервале, составляющем в данном случае 1 у.е. Отметим, однако, важную деталь, что относительные представления концептов происходят не дискретно, а непрерывно (аналоговым образом) изменяясь во временном измерении, и различие в 1 у.е. не является пороговым значением, а отражает лишь наиболее явное различие между представлениями концептов в семантическом пространстве. Иными словами, непрерывная последовательность пространственных представлений объектов проходит от наиболее опознаваемых концептов к неопределенным и, вновь возвращаясь, но уже к новым образам из представленной на рис. 3 линейки объектов. Кроме того, зависимость психологической близости концептов от семантической дистанции, которая наблюдается в данной серии экспериментов, описываемых символьными записями, отличающимися друг от друга лишь 1 у.е. времени в последнем временном интервале, может быть легко расширена и на другие многочисленные обучающие наборы, несколько примеров которых будут рассмотрены в следующем разделе.

В заключение отметим, в частности, что концепт DOG явно перцептивно отличается от концепта miniBUL больше, чем концепт miniBUL от концепта CAT, и это вполне соответствует их

расстояниям в семантическом пространстве. В первом случае такое расстояние составляет 4 у.е. времени, а во втором — 1 у.е. времени, откуда явно следует, что «движущей силой» перцептуальных различий объектов в семантическом пространстве является относительное время и связанные с ним нейродинамические перестройки в сети. Так, концепты BORZ и CAT, находящиеся на противоположных концах семантической линейки категории животных, представленных сетью, отличаются большой величиной относительного времени. В этой связи отметим мнение S. Bernardi et al. [18], что, чем дальше человек удаляется от концепта в пространстве семантической памяти, тем более новым или креативным будет этот новый концепт.

2.2. Исследование диапазона временных шкал обучающих наборов, релевантных генерации пространственных представлений образов животных. Представленный выше обучающий набор данных, различающийся только последним временным интервалом, является лишь одним из примеров генерации концептуальных пространственных представлений животных, поэтому далее будет исследован диапазон и дана оценка временных шкал, релевантных генерации пространственных представлений концептов животных. Кроме того, будет рассмотрена применимость полученной выше оценки восприятия перцептивной близости объектов в зависимости от семантической дистанции в исследованном диапазоне временных шкал. В верхних двух рядах рисунка временной масштаб обучающего набора данных всех трех концептов DOG, BUL и CAT, представленных в символьной записи, составляет, соответственно 92, 96 и 97 у.е., то есть все три временных масштаба обучающих сигналов полностью укладываются в тета-цикл, длительность которого в модели составляет чуть больше 97 у.е. времени. В следующих, 3 и 4 рядах того же рисунка временной масштаб обучающих наборов сигналов концептов DOG, BUL и CAT составляет уже 189, 193 и 194 у.е., тем не менее, пространственные представления данных концептов перцептуально изоморфны первоначальным представлениям в сжатой до отдельного тета-цикла обучающей последовательности межсобытийных интервалов. Экспериментальные исследования модели показали широкий набор временных шкал обучающих сигналов вплоть до десятикратного их увеличения. Наконец, в последних двух рядах рис. 4 показаны хорошо заметные искажения кривых фазовых ответов и соответствующие им пространственные представления концептов DOG, BUL и CAT во временном масштабе, соответственно 1060, 1061 и 1063 у.е., свидетельствующие о верхней границе диапазона.

Интересно отметить несколько важных результатов данной серии экспериментов. Во-первых, это строгое соответствие каждого концепта приписываемой ему суммарной величине временных интервалов данной символьной последовательности сигналов. Во-вторых, полученная десятикратная оценка величины диапазона временных масштабов входных обучающих сигналов, релевантная получению изоморфных пространственных представлений выбранной линейки концептов животных. Подобно тому, как скорость произношения слов может значительно различаться, но при этом существует ограниченный физиологический диапазон скоростей, доступных для перцептивного восприятия речи. В-третьих, получено еще одно доказательство правильности методического подхода к моделированию когнитивной нейродинамики в осцилляторных сетях с четным циклическим торможением, выражающееся в данном случае в простой количественной оценке дистанции между концептами, которая отражает психологическую близость объектов (перцептивное сходство) в семантическом пространстве: большему сходству пространственных представлений концептов животных соответствуют меньшие относительные расстояния, меньшему сходству — большие расстояния.

В заключение подчеркнем, что перечисленное выше было достигнуто несмотря на то, что временная шкала входных обучающих наборов сигналов, релевантных генерации пространственных представлений образов животных была очень широка, перекрывая почти десятикратный временной диапазон от верхней до нижней границы допустимых значений суммарных межсобытийных временных интервалов в символьных записях.

Рис. 4. Концептуальные пространственные представления на примере трёх животных DOG, BUL и CAT в широком диапазоне временных шкал обучающих наборов сигналов, поступающих на информационные входы сети. В первых двух рядах видно, что временные межсобытийные интервалы столь коротки, что суммарно все последовательности сигналов составляют 92, 96 и 97 у.е. времени для трех концептов, соответственно. Знак минус в данном выражении означает перекрытие 1-го и 2-го межсобытийных временных интервалов, а ноль — что между 2-м и 3-м событийными сигналами нет временного разрыва. Во втором случае сумма временных межсобытийных событийных интервалов составляла 189, 193 и 194 у.е., а в последнем — 1060, 1061 и 1063 у.е. Отметьте, что в последнем случае становятся заметны десинхронизированные фазовые кривые информационных единиц, что естественно сказывается на появляющихся искажениях пространственных изображений концептов (нижний ряд)

Fig. 4. Conceptual spatial representations using the example of three animals DOG, BUL and CAT in a wide range of time scales of training sets of signals arriving at the network inputs. In the first two rows of the figure, it can be seen that the time intervals between events are so short that in total all signal sequences are 92, 96, and 97 conventional units time for the three concepts, respectively. The minus sign in this expression means the overlap of the 1-st and 2-nd inter-event time intervals, and zero means that there is no time gap between the 2nd and 3rd event signals. In the second case, the sum of time inter-event event intervals was 189, 193, and 194 conventional time units, and in the latter — 1060, 1061 and 1063 conventional time units. Note that in the latter case, desynchronized curves of phase responses of information units begin to appear, which naturally affects the emerging distortions of spatial images of concepts (bottom row)

В заключение отметим, что определение расстояния обеспечивает внутреннюю меру подобия, принимая расстояние в концептуальном пространстве как индикатор семантического сходства. Понятие сходства — важная конструкция для моделирования категоризации и формирования концептов.

2.3.Регуляция временных масштабов ментальных представлений концептов. Понимание того, как связаны между собой различные объекты нашего физического окружения, а также обобщение этих знаний в разных контекстах, составляет одну из фундаментальных проблем человеческого познания. Такое обобщение является сложной задачей, когда реляционные паттерны входных сигналов совместно используются в разных контекстах и представлены в разных физических масштабах. В настоящем разделе показаны результаты исследования нейродинамики разномасштабных пространственных представлений модели, выполняющей задачу сравнения объектов, с целью обобщения понятий «больше» или «меньше» в контексте перцептивного восприятия «дальше» или «ближе». Особо подчеркнем, что здесь речь идет не о сравнительных амплитудах и временных параметрах входных информационных сигналов об объектах (символьные записи об объектах оставались неизменными).

Здесь показано, что общее управление механизмом временной гибкости, то есть управление переменным таймингом нейронов (в нашей модели ECI-сетей управление фазами высокочастотных пачек в референтном тета-цикле), опосредуется общим нейросетевым контекстным входом. Амплитуда этого входа определяет общую продолжительность временного интервала контекстного входа, что приводит к модуляции скорости (см. рис. 5). Таким образом, современный и надежный вывод по многочисленным экспериментам заключается в том, что продуцирование временных интервалов опосредуется внутренним временным масштабированием нейронных сигналов, то есть контекстных сигналов вне зависимости от внешних сенсорных сигналов. В предыдущем разделе уже было показано, что сеть «понимает» поступающие входные сигналы в широком диапазоне временных шкал, что отражено в многочисленных изоморфных представлениях, полученных в вычислительных экспериментах (здесь показано на примере трех концептов). Фундаментальный признак ментальных способностей мозга, таких как воображение, ожидание, размышления состоит в том, что они не привязаны непосредственно к сенсорным или моторным событиям и могут разворачиваться в разных временных масштабах. Примерами такого гибкого поведения является управление координацией собственных движений у спортсменов или ораторов, которые могут контролировать темп своей речи. Люди могут точно внутренне управлять временем своих движений и быстро вносить изменения в соответствии с текущими потребностями или

Рис. 5. Внутренние масштабные преобразования пространственных представлений объектов на примере трех концептов, при сохранении во всех трёх случаях амплитуд и межсобытийных временных интервалов внешних входов. Когда в сети устанавливаются более длинные временные интервалы, популяционная активность развивается в соответствии с тем же концептом по инвариантной нейронной траектории, но с меньшей скоростью. Диапазон величин контекстного входа для всех трёх концептов составлял слева направо: [0.0008...0.0024], [0.0008...0.0018], [0.0008...0.0015] с шагом амплитуд 2 • 10-5 (см. вертикальные линии на графиках кривых фазовых ответов нейронов)

Fig. 5. Internal large-scale transformations of imaginary objects using the example of three concepts, while maintaining in all three cases the amplitudes and inter-event time intervals of external inputs. When longer time intervals are established in the network, population activity develops in accordance with the same concept along an invariant neural trajectory, but at a lower rate. The range of contextual input values for all three concepts was from left to right: [0.0008...0.0024], [0.008...0.0018], [0.0008...0.0015] with an amplitude step of 2 • 10-5 (see the vertical lines on the graphs of the phase responses of neurons)

инструкциями. Чтобы поддерживать такую временную гибкость, мозг должен контролировать динамику текущих паттернов нейронной активности, то есть тайминг (время) будущих движений, регулируя внутреннюю команду скорости. Таким образом, когнитивный контроль внутренних состояний может обеспечивать простой и общий механизм придания временной гибкости не только сенсомоторным, но и когнитивным функциям мозга [29,30].

В рекуррентных нейросетевых моделях временное масштабирование возникает из-за нели-нейностей в сети, а степень масштабирования контролируется силой внешнего входа. Ранее этот феномен экспериментально на животных также был установлен в соответствии с общим принципом временного масштабирования, который был очевиден как на одноклеточном, так и на популяционном уровне. В частности, на более длинных временных интервалах популяционная активность животных развивалась по инвариантной нейронной траектории, но с меньшей скоростью. Чтобы исследовать механизмы, лежащие в основе такого гибкого управления скоростью, авторы проанализировали нейродинамику рекуррентных сетей, используя градиентный вход для продуцирования различных временных интервалов. Анализ этих моделей показал, что степень масштабирования контролировалась входом, действующим на нелинейную функцию активации отдельных нейронов в сети [29].

Аналогичным образом в наших модельных экспериментах масштабные преобразования концептов DOG, BUL и CAT в контексте «дальше-ближе» были получены в результате обучения при сохранении во всех трёх случаях амплитуд и межсобытийных временных интервалов внешних входов (см. рис. 5), но популяционная активность развивалась в соответствии с тем или иным концептом по инвариантной нейронной траектории, однако с меньшей скоростью. Таким образом, масштабные преобразования концептуальных представлений реализуются за счет изменений ширины фазового окна в референтном тета-цикле сети, определяемом диапазоном величин контекстного входа, что физически приводит к пространственному представлению объекта «дальше-ближе».

2.4. Демонстрация творческих возможностей реляционных нейронных сетей с четным циклическим торможением. Путь к пониманию нейрокогнитивных составляющих творческого мышления лежит в создании модели, отвечающей определенным критериям и количественным измерениям ряда важных характеристик, относящихся к творческой деятельности мозга, в том числе реляционных отношений концептов, семантического пространства образов, семантической дистанции, масштабных преобразований, генерации распределенных в пространстве и времени нейросетевых представлений, вышеуказанные аспекты которых были описаны и продемонстрированы на сопровождающих рисунках здесь и в ранее представленном докладе на конференции НДКИ-2021 в Н. Новгороде. Подчеркнем, что фундаментальной проблемой остаются нейросе-тевые механизмы творческого познания мозга, на которых мы остановимся ниже. Важно, что решение данной проблемы будет опираться на большой когнитивный и нейроимиджинговый задел данных, свидетельствующий о том, что эпизодическая и семантическая память — память

автобиографических событий и концептуальных знаний, соответственно, — поддерживают различные аспекты творческого мышления и познания. Предполагается, что семантическая память поддерживает творческое мышление, обладая базой знаний фактов и концептов, которые можно комбинировать для решения творческих задач и генерации новых идей, независимо от времени и контекста [3], тогда как эпизодическая память хранит автобиографические воспоминания, которые зависят от времени и контекста [4]. Эпизодическая система считается конструктивной: вместо того, чтобы просто повторно активировать треки памяти в том виде, в котором они было закодированы, вызов эпизодической памяти включает в себя рекомбинацию эпизодических деталей для восстановления прошлого события. Считается, что эти гибкие рекомбинаторные процессы поддерживают эпизодическое мышление о будущем — воображение возможного будущего опыта, который еще не произошел — путем сходного вызова и комбинирования элементов прошлого опыта [34].

Как реализованы эти важные теоретические положения в нашем модельном исследовании, представлено в следующей серии экспериментов, где креативные возможности ECI-сети, обученной единственному образу животного, демонстрирует «воображение» (в отсутствие внешних информационных входов) множества абстрактных представлений концептов (см. рис. 6). В отличие от ранее представленных серий экспериментов, где строго соблюдалась дирекциональная избирательность кластеров клеток, отмеченных черным и серым цветом на схеме сети как при обучении, так и декодировании при вызове из памяти, в данной серии экспериментов была реализована смешанная селективность нейронов, проще говоря, места в «одноцветных» кластерах клеток сети при вызове из памяти могли замещаться клетками с противоположной дирекцио-нальностью. Таким образом, феномен творческого познания обусловлен тем, что «ментальное воображение» сети реализуется вследствие рекомбинации элементов события или концептуальных признаков, таких как нос (клюв), форма морды животного, переходящая в лицо и т. д. Отсюда можно заключить, что расширение семантического пространства нейросетевых представлений происходит не благодаря расширению обучающего набора входных данных (при обучении использовался единственный входной набор сигналов концепта BUL), а за счет внутренней рекомбинации фрагментов изображений, использования смешанной селективности нейронов, рекрутирования при вызове из памяти распределенных групп информационных единиц сети, что, в свою очередь, повышает уровень категоризации и, следовательно, обобщения ментальных представлений на более широкий класс объектов, несмотря на однократное обучение сети, как в данном примере.

Следующий важный атрибут, определяющий нейродинамику креативных возможностей ECI-сетей — их структурная организация, включающая референтную систему некодирующих нейронов. Функциональное назначение этой субсети нейронов многозначно: а) эти нейроны обеспечивают устойчивость режимов генерации сетей с положительными обратными связями, сформированными вследствие известного феномена «торможение торможения»; б) эти нейроны генерируют внутреннее время сети (часовой механизм) когерентной тета-ритмической активностью, представленной на оси ординат графиков кривых фазовых ответов началом и концом референтного тета-цикла; в) диапазон фаз значений кривых фазовых ответов всех информационных нейронов ограничен референтным тета-циклом независимо от размерности сети (см. на примере 5-контурных и 7-контурных ECI-сетей; г) эта субсеть участвует в координации доступа к хранилищу семантических знаний, обеспечивая последним связанность нейронов в распределенных группах.

Важно подчеркнуть координирующую роль данной субсети нейронов в вызове памяти, отметив при этом, что подобная система в мозге была впервые обнаружена и описана Marcus Raichle в 2015 году [31], получив названия Default Mode Network (DMN) — нейронная сеть оперативного покоя, сеть режима мозга по умолчанию (в переводе с англ.). В целом, в многочисленных исследованиях было показано, что DMN состоит из дискретных, билатеральных

Рис. 6. Воображение многочисленных образов рекрутированием распределенных групп нейронов. Обученная набором данных концепта BUL, 7k ECI-сеть «ментально» представляет различными группами меченных нейронов на схеме сети в 1 и 3 ряду рисунка многочисленные концепты животных, птиц и даже человека (2 и 4 ряд рисунка). Генерация воображаемых образов сетью, обученной единственному концепту BUL, свидетельствует о её способности к обобщениям на целый класс живых организмов, тем самым значительно расширяя собственное семантическое концептуальное пространство. Обратите внимание, что такое расширение семантического пространства произошло из-за нарушения исходной избирательности нейронов к право- и левосторонним поворотам при обучении (см. верхний ряд рисунка) и первые три серии экспериментов, то есть благодаря смешанной селективности при считывании из памяти выделенных групп нейронов

Fig. 6. Imagination of multiple images by recruiting distributed groups of neurons. Trained by the BUL concept dataset (Fig. 1), the 7k ECI network "mentally" represents various groups of labeled neurons on the network diagram in rows 1 and 3 of the figure, numerous concepts of animals, birds, and even humans (rows 2 and 4 of the figure). The generation of imaginary images by a network trained in a single BUL concept testifies to its ability to generalize to a whole class of living organisms, thereby significantly expanding its own semantic conceptual space. Please note that such an expansion of the semantic space occurred due to a violation of the initial selectivity of neurons for right- and left-sided turns during learning (see the top row of the figure) and the first three series of experiments, i.e. due to the mixed selectivity when reading the selected groups of neurons from the memory

и симметричных областей в париетальной, префронтальной, энторинальной коре и гиппокам-пе [4,19,31,32]. В процессах вызова эпизодической и семантической памяти мозга участвуют обширные и в значительной степени перекрывающиеся сетевые регионы режима по умолчанию и различаются, главным образом, разными вкладами гиппокампальных и парагиппокампальных регионов в вызове эпизодической памяти [19].

Один из характерных признаков нейродинамики, хорошо заметный на всех графиках кривых фазовых ответов, свидетельствует о том, что паттерны активности информационных единиц группировались в два синхронизированных противоположно направленных (CCW и CW) кластера. Предполагается, что кластеризация — это геометрическая структура, позволяющая использовать важную и ясную форму обобщения, которую можно использовать для определения, когда нейронный ансамбль представляет переменную в абстрактном формате. Этот формат поддерживает способность обобщать на новые ситуации. Способность обобщать в новых условиях аналогична возможности декодировать переменную в экспериментальных условиях, которые не использовались для обучения [18]. Поясним это заключение нашими примерами. Наш линейный декодер отслеживал фазовые изменения двух противоположных кластеров клеток на каждом шаге изменения контекста (вертикальные линии на всех фазовых графиках), продуцируя результирующее пространственное представление концепта, которому исходно обучалась сеть (см. рис. 6, верхний ряд). Затем в новых условиях смешанной селективности декодер считывал фазовые значения рекрутированных клеток с измененной фазовой ориентацией в тета-цикле (то есть смещениями к началу вместо конца тета-цикла или наоборот), что в результате представляло собой новую ситуацию для декодера. В этих условиях группированное геометрическое расположение точек пространственных представлений концептов было обеспечено успешным обобщением декодера на новые условия «ментальных» экспериментов, поскольку исходный обучающий набор данных был направлен на получение единственного концепта BUL.

2.5. Абстрактные пространственные представления воображаемых концептов — внутренняя ментальная модель обобщения объектов. Современные представления о том, как формируются новые знания, воображение и творческое мышление основаны на двух фундаментальных процессах структурирования знаний в виде когнитивных карт и когнитивных графов. Когнитивные карты и когнитивные графы могут сосуществовать у одних и тех же людей, причем их доступность и использование зависят от характеристик окружающей среды и целевых потребностей организма. Когнитивные карты и когнитивные графы создаются частично различными, но частично перекрывающимися нейронными системами в гиппокампальной формации, фронтальных (лобных) долях и избирательных к сценам кортикальных областях. Обе системы представлений, вероятно, могут поддерживать абстрактное мышление [7,17]; когнитивные карты релевантны концептуальным представлениям, изменяющимся вдоль непрерывных измерений, тогда как когнитивные графы — представлениям переходов между состояниями и дискретными ассоциациями между элементами [33]. Что даёт нам знание абстрактных «когнитивных» переменных или концептов, примеры которых были приведены в результате рассмотренных выше модельных исследований? Знание абстрактных переменных позволяет обобщить и сразу сделать выводы о вновь встреченных жизненных обстоятельствах. Гиппокамп и энторинальная кора мозга образуют реляционные когнитивные карты, которые способствуют не только эпизодической памяти, но также поддерживают формирование концептов, представляя релевантные признаки для различения связанных понятий. Кроме того, функция памяти не только в запоминании важных деталей индивидуального опыта, но и в способности связывать новую информацию между событиями, чтобы создавать новое знание. Навигация внутри гиппокампальных когнитивных карт, которые руководствуются решетчатым гексагональным кодированием в энторинальной коре и реализованное моделированием в ECI-сетях, способствует воображению концептов, представленных в настоящем исследовании и дальнейшему развитию исследований в данном направлении.

Заключение

Результаты экспериментов свидетельствуют о широком разнообразии полученных абстрактных концептуальных представлений в семантическом пространстве реляционных нейронных сетей с четным циклическим торможением. Показано, что феномен творческого познания обусловлен тем, что «ментальное» воображение этих сетей реализуется вследствие: а) понимания языка (кода) «мыслей», на котором были представлены входные обучающие последовательности; б) возможности рекомбинации элементов концептуальных признаков объектов посредством рекрутирования малых распределенных групп нейронов сети; в) расширения семантического пространства за счет смешанной селективности при вызове из памяти распределенных групп нейронов; г) наличия в структуре ECI-сетей субсети некодирующих, референтных нейронов — аналога сети режима по умолчанию (Default Mode Network, DMN) в мозге — выполняющих объединяющую роль при вызове из памяти распределенных информационных единиц сети. Подчеркнем также, что рассмотренная модель ECI-сетей обучается представлениям, которые адаптируются и компактно фиксируют важные детали кодированных объектов без какой-либо семантики, встроенной изначально в архитектуру сетей. Задачей будущих исследований является дальнейшее развитие творческого потенциала ECI-сетей, которое включает: 1. Расширение языка «мыслей» на различные классы физических объектов и зрительных сцен; 2. Комбинаторное обучение, воображение и понимание зрительных сцен, как следствие понимания языка «мыслей», на котором должны быть представлены входные обучающие последовательности сигналов.

Список литературы

1. Abraham A. The promises and perils of the neuroscience of creativity // Front. Hum. Neurosci. 2013. Vol. 7. P. 246. DOI: 10.3389/fnhum.2013.00246.

2. Benedek M., Fink A. Toward a neurocognitive framework of creative cognition: the role of memory, attention, and cognitive control // Curr. Opin. Behav. Sci. 2019. Vol. 27. P. 116-122. DOI: 10.1016/j.cobeha.2018.11.002.

3. Kenett Y.N., Faust M. A semantic network cartography of the creative mind // Trends Cogn. Sci. 2019. Vol. 23, no. 4. P. 271-274. DOI: 10.1016/j.tics.2019.01.007.

4. Beaty R.E., Chen Q., Christensen A. P., Kenett Y.N., Silvia P. J., Benedek M., Schacter D.L. Default network contributions to episodic and semantic processing during divergent creative thinking: A representational similarity analysis // NeuroImage. 2020. Vol. 209. P. 116499. DOI: 10.1016/j.neuroimage.2019.116499.

5. Vigano S., Piazza M. Distance and direction codes underlie navigation of a novel semantic space in the human brain // J. Neurosci. 2020. Vol. 40, no. 13. P. 2727-2736.

DOI: 10.1523/JNEUROSCI.1849-19.2020.

6. Theves S., Fernandez G., Doeller C. F. The hippocampus maps concept space, not feature space // J. Neurosci. 2020. Vol. 40, no. 38. P. 7318-7325. DOI: 10.1523/JNEUROSCI.0494-20.2020.

7. Behrens T. E. J., Muller T. H., Whittington J. C. R., Mark S., Baram A. B., Stachenfeld K. L., KurthNelson Z. What is a cognitive map? Organizing knowledge for flexible behavior // Neuron. 2018. Vol. 100, no. 2. P. 490-509. DOI: 10.1016/j.neuron.2018.10.002.

8. Bottini R., Doeller C. F. Knowledge across reference frames: Cognitive maps and image spaces // Trends Cogn. Sci. 2020. Vol. 24, no. 8. P. 606-619. DOI: 10.1016/j.tics.2020.05.008.

9. Kay K., Chung J.E., Sosa M, Schor J. S., Karlsson M. P., Larkin M. C., Liu D. F., Frank L. M. Constant sub-second cycling between representations of possible futures in the hippocampus // Cell. 2020. Vol. 180, no. 3. P. 552-567. DOI: 10.1016/j.cell.2020.01.014.

10. Raffaelli Q., Wilcox R., Andrews-Hanna J. The neuroscience of imaginative thought: An integrative framework // In: Abraham A. (Ed.) The Cambridge Handbook of the Imagination. Cambridge: Cambridge University Press, 2020. P. 332-353. DOI: 10.1017/9781108580298.021.

11. Amalric M., Wang L., Pica P., Figueira S., Sigman M., Dehaene S. The language of geometry:

12.

13.

14.

15.

16.

17.

18.

19.

20.

21.

22.

23.

24.

25.

26.

27.

28.

354

Fast comprehension of geometrical primitives and rules in human adults and preschoolers // PLoS Comput. Biol. 2017. Vol. 13, no. 1. P. e1005273. DOI: 10.1371/journal.pcbi.1005273. Цукерман В. Д., Чешков Г. Н.Основы нелинейной динамики сенсорного восприятия. I. Фазовое кодирование в осцилляторных сетях // Нейрокомпьютеры: разработка, применение. 2002. № 7-8. С. 65-72.

Цукерман В. Д. Математическая модель фазового кодирования событий в мозге // Математическая биология и биоинформатика. 2006. Т. 1, № 1. С. 97-107. DOI: 10.17537/2006.1.97. Цукерман В. Д., Еременко З. С., Каримова О. В., Кулаков С. В., Сазыкин А. А. Когнитивная нейродинамика двух стратегий навигационного поведения организмов // Известия вузов. ПНД. 2011. Т. 19, № 6. С. 96-108. DOI: 10.18500/0869-6632-2011-19-6-96-108. O'Keefe J., Dostrovsky J.The hippocampus as a spatial map. Preliminary evidence from unit activity in the freely-moving rat // Brain Res. 1971. Vol. 34, no. 1. P. 171-175. DOI: 10.1016/0006-8993(71)90358-1.

Hafting T., Fyhn M., Molden S., Moser M.-B., Moser E. I. Microstructure of a spatial map in the entorhinal cortex // Nature. 2005. Vol. 436, no. 7052. P. 801-806. DOI: 10.1038/nature03721. Bellmund J. L. S., Gardenfors P., Moser E. I., Doeller C. F. Navigating cognition: Spatial codes for human thinking // Science. 2018. Vol. 362, no. 6415. P. eaat6766. DOI: 10.1126/science.aat6766. Bernardi S., Benna M. K., Rigotti M., Munuera J., Fusi S., Salzman C. D. The geometry of abstraction in hippocampus and prefrontal cortex // Cell. 2020. Vol. 183, no. 4. P. 954-967. DOI: 10.1016/j.cell.2020.09.031.

Kim H. Default network activation during episodic and semantic memory retrieval: A selective meta-analytic comparison // Neuropsychologia. 2016. Vol. 80. P. 35-46. DOI: 10.1016/j.neuropsychologia.2015.11.006.

Marron T.R., Lerner Y, Berant E., Kinreich S., Shapira-Lichter I., Hendler T., Faust M. Chain free association, creativity, and the default mode network // Neuropsychologia. 2018. Vol. 118. P. 40-58. DOI: 10.1016/j.neuropsychologia.2018.03.018.

Doeller C. F., Barry C., Burgess N. Evidence for grid cells in a human memory network // Nature. 2010. Vol. 463, no. 7281. P. 657-661. DOI: 10.1038/nature08704.

Sharp P. E., Blair H. T., Cho J. The anatomical and computational basis of the rat head-direction cell signal // Trends Neurosci. 2001. Vol. 24, no. 5. P. 289-294. DOI: 10.1016/S0166-2236(00)01797-5. Sargolini F., Fyhn M., Hafting T., McNaughton B. L., Witter M.P., Moser M.-B., Moser E. I. Conjunctive representation of position, direction, and velocity in entorhinal cortex // Science.

2006. Vol. 312, no. 5774. P. 758-762. DOI: 10.1126/science.1125572.

Taube J. S. The head direction signal: Origins and sensory-motor integration // Annu. Rev. Neurosci.

2007. Vol. 30. P. 181-207. DOI: 10.1146/annurev.neuro.29.051605.112854.

Rolls E. T., Stringer S. M. Spatial view cells in the hippocampus, and their idiothetic update based on place and head direction // Neural Networks. 2005. Vol. 18, no. 9. P. 1229-1241. DOI: 10.1016/j.neunet.2005.08.006.

Rolls E. T, XiangJ.-Z. Spatial view cells in the primate hippocampus and memory recall // Rev. Neurosci. 2006. Vol. 17, no. 1-2. P. 175-200. DOI: 10.1515/REVNEURO.2006.17.1-2.175. Цукерман В. Д., Харыбина З. С., Кулаков С. В. Математическая модель пространственного кодирования в гиппокампальной формации. II. Нейродинамические корреляты ментальных траекторий и проблема принятия решений // Математическая биология и биоинформатика. 2014. Т. 9, № 1. С. 216-256. DOI: 10.17537/2014.9.216.

Цукерман В. Д. К творческому познанию: креативные начала реляционных нейронных сетей с четным циклическим торможением // Труды VII Всероссийской конференции «Нелинейная динамика в когнитивных исследованиях-2021». Нижний Новгород, 20-24 сентября 2021. Нижний Новгород: ИПФ РАН, 2021. С. 186-189.

29. Wang J., Narain D., Hosseini E.A., Jazayeri M. Flexible timing by temporal scaling of cortical responses //Nat. Neurosci. 2018. Vol. 21, no. 1. P. 102-110. DOI: 10.1038/s41593-017-0028-6.

30. Egger S. W., Remington E. D., Chang C.-J., Jazayeri M. Internal models of sensorimotor integration regulate cortical dynamics // Nat. Neurosci. 2019. Vol. 22, no. 11. P. 1871-1882.

DOI: 10.1038/s41593-019-0500-6.

31. Raichle M. E. The brain's default mode network // Annu. Rev. Neurosci. 2015. Vol. 38. P. 433-447. DOI: 10.1146/annurev-neuro-071013-014030.

32. Higgins C., Liu Y, Vidaurre D., Kurth-Nelson Z, Dolan R., Behrens T., Woolrich M. Replay bursts in humans coincide with activation of the default mode and parietal alpha networks // Neuron. 2021. Vol. 109, no. 5. P. 882-893. DOI: 10.1016/j.neuron.2020.12.007.

33. Peer M., Brunec I. K., Newcombe N. S., Epstein R. A. Structuring knowledge with cognitive maps and cognitive graphs // Trends Cogn. Sci. 2021. Vol. 25, no. 1. P. 37-54.

DOI: 10.1016/j.tics.2020.10.004.

34. Schacter D. L., Addis D. R., Buckner R. L. Remembering the past to imagine the future: the prospective brain // Nat. Rev. Neurosci. 2007. Vol. 8, no. 9. P. 657-661. DOI: 10.1038/nrn2213.

References

1. Abraham A. The promises and perils of the neuroscience of creativity. Front. Hum. Neurosci. 2013;7:246. DOI: 10.3389/fnhum.2013.00246.

2. Benedek M, Fink A. Toward a neurocognitive framework of creative cognition: the role of memory, attention, and cognitive control. Curr. Opin. Behav. Sci. 2019;27:116-122.

DOI: 10.1016/j.cobeha.2018.11.002.

3. Kenett YN, Faust M. A semantic network cartography of the creative mind. Trends Cogn. Sci. 2019;23(4):271-274. DOI: 10.1016/j.tics.2019.01.007.

4. Beaty RE, Chen Q, Christensen AP, Kenett YN, Silvia PJ, Benedek M, Schacter DL. Default network contributions to episodic and semantic processing during divergent creative thinking: A representational similarity analysis. NeuroImage. 2020;209:116499.

DOI: 10.1016/j.neuroimage.2019.116499.

5. Vigano S, Piazza M. Distance and direction codes underlie navigation of a novel semantic space in the human brain. J. Neurosci. 2020;40(13):2727-2736. DOI: 10.1523/JNEUROSCI.1849-19.2020.

6. Theves S, Fernandez G, Doeller CF. The hippocampus maps concept space, not feature space. J. Neurosci. 2020;40(38):7318-7325. DOI: 10.1523/JNEUROSCI.0494-20.2020.

7. Behrens TEJ, Muller TH, Whittington JCR, Mark S, Baram AB, Stachenfeld KL, Kurth-Nelson Z. What is a cognitive map? Organizing knowledge for flexible behavior. Neuron. 2018;100(2):490-509. DOI: 10.1016/j.neuron.2018.10.002.

8. Bottini R, Doeller CF. Knowledge across reference frames: Cognitive maps and image spaces. Trends Cogn. Sci. 2020;24(8):606-619. DOI: 10.1016/j.tics.2020.05.008.

9. Kay K, Chung JE, Sosa M, Schor JS, Karlsson MP, Larkin MC, Liu DF, Frank LM. Constant subsecond cycling between representations of possible futures in the hippocampus. Cell. 2020;180(3): 552-567. DOI: 10.1016/j.cell.2020.01.014.

10. Raffaelli Q, Wilcox R, Andrews-Hanna J. The neuroscience of imaginative thought: An integrative framework. In: Abraham A, editor. The Cambridge Handbook of the Imagination. Cambridge: Cambridge University Press; 2020. P. 332-353. DOI: 10.1017/9781108580298.021.

11. Amalric M, Wang L, Pica P, Figueira S, Sigman M, Dehaene S. The language of geometry: Fast comprehension of geometrical primitives and rules in human adults and preschoolers. PLoS Comput. Biol. 2017;13(1):e1005273. DOI: 10.1371/journal.pcbi.1005273.

12. Tsukerman VD, Cheshkov GN. Fundamentals of nonlinear dynamics of sensory perception. I. Phase coding in oscillatory networks. Neurocomputers: Development, Application. 2002; (7-8):65-72 (in Russian).

13.

14.

15.

16.

17.

18.

19.

20.

21.

22.

23.

24.

25.

26.

27.

28.

29.

30.

31.

356

Tsukerman VD. Mathematical model of phase coding of events in the brain. Mathematical Biology

and Bioinformatics. 2006;1(1):97-107 (in Russian). DOI: 10.17537/2006.1.97.

Tsukerman VD, Eremenko ZS, Karimova OV, Kulakov SV, Sazykin AA. Cognitive neurodynamics

two strategies navigation behavior of organisms. Izvestiya VUZ. Applied Nonlinear Dynamics.

2011;19(6):96-108 (in Russian). DOI: 10.18500/0869-6632-2011-19-6-96-108.

O'Keefe J, Dostrovsky J. The hippocampus as a spatial map. Preliminary evidence from

unit activity in the freely-moving rat. Brain Res. 1971;34(1):171-175. DOI: 10.1016/0006-

8993(71)90358-1.

Hafting T, Fyhn M, Molden S, Moser MB, Moser EI. Microstructure of a spatial map in the entorhinal cortex. Nature. 2005;436(7052):801-806. DOI: 10.1038/nature03721. Bellmund JLS, Gardenfors P, Moser EI, Doeller CF. Navigating cognition: Spatial codes for human thinking. Science. 2018;362(6415):eaat6766. DOI: 10.1126/science.aat6766. Bernardi S, Benna MK, Rigotti M, Munuera J, Fusi S, Salzman CD. The geometry of abstraction in hippocampus and prefrontal cortex. Cell. 2020;183(4):954-967. DOI: 10.1016/j.cell.2020.09.031. Kim H. Default network activation during episodic and semantic memory retrieval: A selective meta-analytic comparison. Neuropsychologia. 2016;80:35-46. DOI: 10.1016/j.neuropsychologia.2015.11.006.

Marron TR, Lerner Y, Berant E, Kinreich S, Shapira-Lichter I, Hendler T, Faust M. Chain free association, creativity, and the default mode network. Neuropsychologia. 2018;118:40-58. DOI: 10.1016/j.neuropsychologia.2018.03.018.

Doeller CF, Barry C, Burgess N. Evidence for grid cells in a human memory network. Nature. 2010;463(7281):657-661. DOI: 10.1038/nature08704.

Sharp PE, Blair HT, Cho J. The anatomical and computational basis of the rat head-direction cell signal. Trends Neurosci. 2001;24(5):289-294. DOI: 10.1016/S0166-2236(00)01797-5. Sargolini F, Fyhn M, Hafting T, McNaughton BL, Witter MP, Moser MB, Moser EI. Conjunctive representation of position, direction, and velocity in entorhinal cortex. Science. 2006;312(5774):758-762. DOI: 10.1126/science.1125572.

Taube JS. The head direction signal: Origins and sensory-motor integration. Annu. Rev. Neurosci. 2007;30:181-207. DOI: 10.1146/annurev.neuro.29.051605.112854.

Rolls ET, Stringer SM. Spatial view cells in the hippocampus, and their idiothetic update based on place and head direction. Neural Networks. 2005;18(9):1229-1241. DOI: 10.1016/j.neunet.2005.08.006.

Rolls ET, Xiang JZ. Spatial view cells in the primate hippocampus and memory recall. Rev. Neurosci. 2006;17(1-2):175-200. DOI: 10.1515/REVNEURO.2006.17.1-2.175. Tsukerman VD, Kharybina ZS, Kulakov SV. A mathematical model of hippocampal spatial encoding. II. Neurodynamic correlates of mental trajectories and decision-making problem. Mathematical Biology and Bioinformatics. 2014;9(1):216-256 (in Russian). DOI: 10.17537/2014.9.216.

Tsukerman VD. Towards creative cognition: the creative beginnings of relational neural networks with even cyclic inhibition. In: Proceedings of the VII All-Russian Conference «Nonlinear Dynamics in Cognitive Research-2021». Nizhny Novgorod, 20-24 September 2021. Nizhny Novgorod: IAP RAS; 2021. P. 186-189 (in Russian).

Wang J, Narain D, Hosseini EA, Jazayeri M. Flexible timing by temporal scaling of cortical

responses. Nat. Neurosci. 2018;21(1):102-110. DOI: 10.1038/s41593-017-0028-6.

Egger SW, Remington ED, Chang CJ, Jazayeri M. Internal models of sensorimotor integration

regulate cortical dynamics. Nat. Neurosci. 2019;22(11):1871-1882. DOI: 10.1038/s41593-019-

0500-6.

Raichle ME. The brain's default mode network. Annu. Rev. Neurosci. 2015;38:433-447. DOI: 10.1146/annurev-neuro-071013-014030.

32. Higgins C, Liu Y, Vidaurre D, Kurth-Nelson Z, Dolan R, Behrens T, Woolrich M. Replay bursts in humans coincide with activation of the default mode and parietal alpha networks. Neuron. 2021;109(5):882-893. DOI: 10.1016/j.neuron.2020.12.007.

33. Peer M, Brunec IK, Newcombe NS, Epstein RA. Structuring knowledge with cognitive maps and cognitive graphs. Trends Cogn. Sci. 2021;25(1):37-54. DOI: 10.1016/j.tics.2020.10.004.

34. Schacter DL, Addis DR, Buckner RL. Remembering the past to imagine the future: the prospective brain. Nat. Rev. Neurosci. 2007;8(9):657-661. DOI: 10.1038/nrn2213.

Цукерман Валерий Давидович - родился в Баку (1945). После окончания средней школы (1963) служил в Советской армии (1964-1967). Окончил физический факультет Ростовского государственного университета с отличием по специальности физик-биофизик (1973). После окончания университета работал в НИИ нейрокибернетики им. А. Б. Когана Ростовского университета. Защитил диссертацию на соискание ученой степени кандидата биологических наук по специальности биофизика (Ленинградский государственный университет, 1982). Был руководителем лаборатории Математического моделирования биологических навигационных систем. Опубликовал более 70 научных работ в отечественной и зарубежной печати. Почетный работник высшего образования России. В настоящее время внештатный сотрудник Академии биологии и биотехнологии имени Д. И. Ивановского Южного федерального университета.

Россия, 344090 Ростов-на-Дону, пр. Стачки 194/1 Академия биологии и биотехнологии имени Д. И. Ивановского Южного Федерального университета E-mail: vtsukerman17@gmail.com AuthorlD (eLibrary.Ru): 109808