CC BY
18
УДК 004.832.2
doi:10.21685/2307-4205-2022-2-6
ДЕРЕВЬЯ РЕШЕНИЙ НА ОСНОВЕ ТЕХНОЛОГИИ МЕМРИСТОРОВ
А Ю. Доросинский1, О. В. Прокофьев2, М. А. Линкова3, И. Ю. Семочкина4
1 Научно-производственное предприятие «Сонар», Пенза, Россия 2' 3' 4 Пензенский государственный технологический университет, Пенза, Россия 1 antik_r13@mail.ru, 2 prokof_ow@mail.ru, 3 т_linkova@mail.ru, 4 ius1961@gmail.com
Аннотация. Актуальность и цели. Несмотря на значительный прогресс к нейробиологии в последнее время, понимание принципов и механизмов, лежащих в основе сложных функций мозга и познания, остается неполным. Моделирование и физическая реализация центра принятия решений, аналогичного естественным процессам мозга, являются средством построения киберфизической системы для широкого круга прикладных задач, связанных с поддержкой принятия решений. Материалы и методы. Открытие мемристоров, выявление технической возможности запоминания и хранения аналоговой информации служат технологической платформой для создания деревьев принятия решений. Нейроны, участвующие в обработке информации и хранении данных, динамически устанавливающие связи между собой, также реализуются мемристорами, управляемыми напряжением. Методы нейробиологии, сетевые модели и методы расчетов схем микроэлектроники на базе мемристоров используются здесь в едином комплексе для запоминания, обработки информации и принятия решений. Результаты. Открываемые преимущества позволяют не только применять устройства хранения информации большей емкости, вытесняющие традиционную флеш-память, но и применять деревья принятия решений с узлами ветвления, реализованными на уровне молекул. В заключении обоснован вывод о возможности создания систем поддержки принятия решений нового поколения, сочетающих современные средства визуализации деревьев и применения библиотек решений. Выводы. Таким образом, возможно объединение преимуществ советующей, объясняющей системы и экспертной системы, самостоятельно вырабатывающей решение, если того потребует задача в предметной области. Разработка микроэлектронных мемристоров позволяет разработать интеллектуальные системы поддержки принятия решений нового поколения, имитирующие биологические процессы человеческого мозга, в которых процессы обучения, создания, запоминания и хранения деревьев решений реализуются на единой технологической и схемотехнической базе.
Ключевые слова: деревья решений, мемристоры, поддержка принятия решений
Для цитирования: Доросинский А. Ю., Прокофьев О. В., Линкова М. А., Семочкина И. Ю. Деревья решений на основе технологии мемристоров // Надежность и качество сложных систем. 2022. № 2. С. 53-60. (^эгЮ^бВЗШОУ^ОЗ-2022-2-6
DECISION TREES BASED ON MEMRISTOR TECHNOLOGY
A.Yu. Dorosinskiy1, O.V. Prokofev2, M.A. Linkova3, I.Yu. Sеmochkina4
1 Research and production enterprise «Sonar», Penza, Russia 2' 3' 4 Penza State Technological University, Penza, Russia 1 antik_r13@mail.ru, 2 prokof_ow@mail.ru, 3 m_linkova@mail.ru, 4 ius1961@gmail.com
Abstract. Background. Despite significant progress in neuroscience recently, understanding of the principles and mechanisms underlying complex brain functions and cognition remains incomplete. Modeling and physical implementation of the decision-making center, similar to the natural processes of the brain, is a means of building a cyber-physical system for a wide range of applied tasks related to decision support. Matherials and methods. The discovery of memristors, the identification of the technical possibility of memorizing and storing analog information serve as a technological platform for creating decision trees. Neurons involved in information processing and data storage, dynamically establishing connections among themselves, are also implemented with voltage-controlled memristors. Neurobiology methods, network models and methods for calculating microelectronics circuits based on memristors are used here in a single complex for memorizing, processing information and making decisions. Results. The advantages that are being discovered allow not only to use information storage devices of higher capacity, replacing traditional flash memory, but also to use decision trees with branching nodes implemented at the molecular level. In conclusion, the inference is substantiated about the possibility of creating a new generation of decision support systems combining modern visualization tools of trees and the use of decision libraries. Conclusions. Thus, it is possible
© Доросинский А. Ю., Прокофьев О. В., Линкова М. А., Семочкина И. Ю., 2022. Контент доступен по лицензии Creative Commons Attribution 4.0 License / This work is licensed under a Creative Commons Attribution 4.0 License.
to integrate the advantages of an advisory, explanatory system and an expert system that independently develops a solution if a task in the subject area requires it. The development of microelectronic memristors makes it possible to develop intelligent decision support systems of a new generation that simulate the biological processes of the human brain, in which the processes of learning, creating, memorizing and storing decision trees are implemented using a single technological and circuit-based base.
Keywords: decision trees, memristors, decision support
For citation: Dorosinskiy A.Yu., Prokofev O.V., Linkova M.A., Sеmochkina I.Yu. Decision trees based on memristor technology. Nadezhnost' i kachestvo slozhnykh sistem = Reliability and quality of complex systems. 2022;(2):53-60. (In Russ.). doi:10.21685/2307-4205-2022-2-6
Нейробиологический метод сетевого моделирования познания
Человеческий мозг представляет собой сложный парадокс: несмотря на фиксированную анатомию, характеризующуюся связностью, его функциональный репертуар обширен, позволяя действовать, осуществлять восприятие и познание. Это контрастирует с такими органами, как сердце, которые имеют динамическую анатомию, но имеют только одну функцию. Разрешение этого парадокса может заключаться в сетевой архитектуре мозга, которая организует локальные взаимодействия, чтобы справиться с разнообразными требованиями окружающей среды, обеспечивая адаптивность, надежность, устойчивость к повреждениям, эффективную передачу сообщений и разнообразную функциональность при наличии фиксированной структуры. Каким образом разнообразные функции возникают из статической нейронной архитектуры? Объяснение может заключаться в том, что появление динамической функциональной связности из статических структурных связей требует формальных (вычислительных) подходов к обработке нейронной информации, которые могут разрешить диалектику между структурой и функцией. Во многом наше понимание взаимосвязей мозга основывается на способе их измерения и моделирования [1]. Подход к их описанию основан на теории графов, целью которой является построение сетевой топологии (ненаправленных) соединений того типа, который измеряется неинвазивной визуализацией анатомических связей и функциональной связности (корреляции) между удаленными участками мозга. Это сравнивается с основанными на моделях определениями контекстно-зависимой (направленной) эффективной связи, которые основаны на биофизике взаимодействий нейронов. Топологический сетевой анализ цепей мозга показывает, что модульные и иерархические структурные сети особенно подходят для функциональной интеграции локальных (функционально специализированных) нейронных операций, лежащих в основе познания. Измерения спонтанной активности выявляют паттерны функциональной связи, аналогичные структурной связности, предполагая, что структурные сети ограничивают функциональные сети. Однако ответы, связанные с задачами, которые требуют контекстно-зависимой интеграции, выявляют расхождение между функцией и структурой, которое, по-видимому, основано преимущественно на дальнодействующих связях. В отличие от методов, которые феноменологически описывают топологию сети, теоретические и вычислительные подходы, основанные на моделях, сосредотачиваются на механизмах взаимодействия нейронов, которые обеспечивают динамическую реконфигурацию эффективного соединения. Существует соответствие между иерархическими топологиями (основанными на структурной и функциональной связности) и эффективными связями, которые потребуются для иерархической передачи сообщений того типа, который предлагается вычислительной нейробиологией. Нейроморфное оборудование, а также искусственные нейронные сети представляют собой чрезвычайно упрощенные модели того, как мозг работает или обрабатывает информацию, с гораздо меньшей сложностью с точки зрения размера и функциональной технологии и гораздо более регулярной структурой с точки зрения возможности подключения. Сравнение нейроморфных чипов с мозгом - очень грубое сравнение, подобное сравнению самолета с птицей только потому, что у них обоих есть крылья и хвост. Дело в том, что нейронные когнитивные системы на много порядков более энергоемкие и вычислительные, чем современный искусственный интеллект, и нейроморфная инженерия - это попытка сократить этот разрыв. Как показали исследования [2-5], вопрос о физической реализации процессов, аналогичных существующим в области мозга, можно решить на основе технологии мемристоров.
Мемристоры как компонент элементной базы
Чуа в своей статье в 1971 г. определил теоретическую симметрию между нелинейным резистором (напряжение в зависимости от тока), нелинейным конденсатором (напряжение в зависимости от заряда) и нелинейным индуктором (связь магнитного потока в зависимости от тока) [2].
Из этой симметрии он вывел характеристики четвертого фундаментального элемента нелинейной схемы, связывающего магнитный поток и заряд, который он назвал мемристором. В отличие от линейного (или нелинейного) резистора мемристор имеет динамическую взаимосвязь между током и напряжением, включая память о прошлых напряжениях или токах. Мемристор - это электрический компонент, который имеет сопротивление электрическому току, но сопротивление изменяется в зависимости от направления тока. Когда ток не течет, мемристор сохраняет последнее состояние, в котором он был, поэтому, по сути, представляет собой аналоговую схему памяти. Мемристоры могут выполнять как логические операции, так и операции хранения [3]. Чуа вывел закон о существовании мемристоров из математических соотношений между элементами схемы. Четыре величины контура (заряд, ток, напряжение и магнитный поток) могут быть связаны друг с другом шестью способами. Две величины регулируются основными физическими законами, а три - известными элементами схемы (резистор, конденсатор и индуктор). Это оставляет одно возможное отношение неучтенным. Основываясь на этой реализации, Чуа предложил мемристор использовать для математических моделей как класс схемных элементов, основанных на соотношении между зарядом и потоком (рис. 1).
I--1
•—ЛЛЛ—• pi •—I I—•
тЗ
Resistor Ц Capacitor
di/ = Rd¡ s, dq = Cdv
4 I _ ▼
--M HIH
•JUUlr*í
Inductor Memristor
dip = Ldi dip = Mdq
> i
—--
Memristive systems Рис. 1. Базовый набор элементов электротехники по Чуа [4]
Устройство на мемристорах в своей работе довольно отчетливо напоминает функционирование синапсов, т.е. точек контакта между нервными клетками у живых организмов вообще и в мозге в частности. Хотя тайны работы мозга пока что нельзя называть постигнутыми, работа памяти определяется тем, какие нейроны мозга связаны друг с другом и насколько эти связи сильны. Соответственно, процесс запоминания трактуется как изменение силы этих связей под действием ощущений, порождающих сигналы в нейронной сети мозга. Увидев аналогию для данных процессов в работе своего устройства, в HP Labs [5] предположили, что можно попытаться скопировать структуру мозга, построив нейроны из транзисторов, а синапсы заменив мемристорами. О первом успехе на данном направлении стало известно, когда объявили о разработке образцов ячеек со стороной 3 нм и скоростью переключения порядка одной наносекунды. Попутно ученым удалось создать из таких элементов компактный 3Б-массив на чипе, способный выполнять логические операции и работающий аналогично синапсам, т.е. сигнальным линиям между клетками нейронов в человеческом мозге. Аналогию работы поясняют так. Скорость передачи сигнала по синапсу зависит от времени активации нейронов: чем меньше временной промежуток между активациями, тем быстрее передается сигнал по синапсу. Точно так же работает и массив мемристоров: при подаче тока с интервалами 20 мс сопротивление мемристора вдвое меньше, чем при интервалах 40 мс.
Молекулярный процессор на технологии мемристоров
Обильные дендритно-синаптические взаимосвязи между нейронами в неокортексе включают сложные логические структуры, позволяющие принимать сложные решения, которые значительно
Кр
превышают любые искусственные электронные аналоги. Физическая сложность намного превосходит существующие технологии изготовления схем: более того, сеть в мозге динамически реконфи-гурируется, что обеспечивает гибкость и адаптируемость к изменяющимся условиям. Напротив, современные полупроводниковые логические схемы основаны на пороговых переключателях, которые жестко подключены для выполнения заранее определенных логических функций. Чтобы повысить производительность логических схем, разработчики [6] предложили основные элементы электронных схем, выражая сложную логику в свойствах материалов в нанометровом масштабе. При этом используется управляемая напряжением условная логическая взаимосвязь между пятью различными молекулярными окислительно-восстановительными состояниями металлоорганического комплекса, чтобы встроить «заросли» деревьев решений (состоящих из нескольких условных операторов ¡^-Шеп-е^е), имеющих 71 узел в одном мемристоре. Результирующая вольт-амперная характеристика этого молекулярного мемристора («резистора памяти», глобального пассивного элемента схемы резистивного переключателя, который аксиоматически дополняет набор конденсаторов, катушка индуктивности и резистор) демонстрирует восемь рекуррентных и зависящих от истории энергонезависимых переходов переключения между двумя уровнями проводимости за один цикл развертки. Идентичность каждого окислительно-восстановительного состояния молекул была определена с помощью спектроскопии комбинационного рассеяния на месте и подтверждена квантово-химическими расчетами, раскрывающими механизм переноса электронов. Используя схемы, состоящие только из этих элементов, экспериментально доказана работа динамически реконфигурируе-мой, коммутативной и некоммутативной логики с отслеживанием состояния в многомерных деревьях решений, которые выполняются за один временной шаг и могут, например, применяться в качестве локального интеллекта в граничных вычислениях (рис. 2).
Рис. 2. Многомерные деревья принятия решений в молекулярном процессоре [6]
В отличие от традиционной цифровой логической схемы, пороговые переключатели обеспечивают двоичные состояния, соединенные в различных конфигурациях для создания логических вентилей и вычислительных схем, предложен другой подход: закрепление сложных логических возможностей в свойствах материала отдельного элемента схемы и динамическом выборе тех из них, которые необходимы. Задача заключалась в том, чтобы раскрыть физический механизм, который мог бы обеспечить множественные немонотонные условные переходы переключения. Выявлен молекулярный окислительно-восстановительный механизм, который может предоставить удобную платформу для реализации такой функциональности. На рис. 3 показана молекулярная структура материала элемента схемы.
Рис. 3. Структура молекулярного процессора [6]
Нет необходимости в промежуточной операции чтения для преобразования проводимости в ток или для перемещения бит в другое место - все операции выполняются внутри памяти в определенных ячейках с измененной схемой записи в память. Таким образом уменьшаются затраты времени и электроэнергии. Применение этих элементов схемы может охватывать широкий диапазон областей принятия решений, в том числе в автономных устройствах, в периферийных и мобильных устройствах, в случаях нестабильного источника питания. Вычисления с отслеживанием состояния в памяти с использованием оксидных мемристоров уже показывают более высокую энергоэффективность и компактность.
Пять различных окислительно-восстановительных состояний в молекулярных пленках условно взаимосвязаны посредством приложения напряжения, и конкретный переход между состояниями определяется историей приложенного напряжения. Принимая во внимание эти условия, вольтам -перную характеристику элемента схемы можно описать как «чащу решений» (рис. 4), определяемую как набор деревьев решений, каждое из которых состоит из выражений «если-то-иначе».
Нет необходимости в промежуточной операции чтения для преобразования проводимости в ток или для перемещения бит в другое место - все операции выполняются внутри памяти в определенных ячейках с измененной схемой записи в память. Таким образом уменьшаются затраты времени и электроэнергии. Применение этих элементов схемы может охватывать широкий диапазон областей принятия решений, в том числе в автономных устройствах, в периферийных и мобильных устройствах, в случаях нестабильного источника питания. Вычисления с отслеживанием состояния в памяти с использованием оксидных мемристоров уже показывают более высокую энергоэффективность и компактность. Основываясь на логическом параллелизме, избыточности и реконфигурируемости, элементы схемы могут обеспечить дальнейший прогресс в эффективности вычислений за счет существенного снижения количество шагов вычисления, количества устройств и затрачиваемой энергии.
Рис. 4. Деревья решений в пределах одного элемента схемы молекулярной пленки
Заключение
Нейронные взаимодействия реализуют собой динамику фиксированной структурной связи, которая лежит в основе познания и поведения. Такое отклонение функции от структуры, возможно, является наиболее неизученным свойством мозга и требует интенсивных исследований в будущем. Изучая динамику и самоорганизацию функциональных сетей, мы можем понять истинную природу мозга как воплощения разума. Диапазон возможностей функциональных сетей основан на скрытой структурной архитектуре соединений, которая обеспечивает иерархическую функциональную интеграцию. Для понимания этих сетей потребуются теоретические модели нейронной обработки данных, лежащей в основе познания.
Рассматривая новые тенденции в сетевой нейробиологии, можно отметить перспективность пути к лучшему пониманию мозга как многомасштабной сетевой системы. Исследуя механизмы познания, сетевая нейробиология ищет новые способы описания топологии, записи, анализа и моделирования элементов структуры мозга. В основе этого подхода лежат две параллельные тенденции: доступность новых эмпирических инструментов для создания всеобъемлющих карт и регистрации динамических паттернов между молекулами, нейронами, областями мозга и теоретическая основа, вычислительные инструменты, информационные сетевые модели. Конвергенция эмпирических и вычислительных достижений открывает новые горизонты научных исследований, включая динамику сети, изучение и контроль сетей мозга, а также привязки сетевых процессов к пространственно-временным областям.
Технический аналог участков мозга, отвечающих за обработку информации и запоминание, имеет теоретическое обоснование, сверхкомпактную реализацию в области физики атомов, обладает воспроизводимостью и сохраняемостью характеристик. Основываясь на логическом параллелизме, избыточности и реконфигурируемости, элементы мемристорной схемы могут обеспечить дальнейший прогресс в эффективность вычислений за счет существенного снижения количества шагов вычисления, количества устройств и затрачиваемой энергии. Таким образом, определена предпосылка создания обучаемых систем, осуществляющих поддержку принятия решений и выработку рекомендаций на основе гибкой формируемой структуры деревьев решений [7]. В сочетании с современны -
ми способами визуализации деревьев [8] подобная мозгу мемристорная структура становится новой перспективной возможностью для разработчиков повышения эффективности интеллектуальных информационных систем.
Возникшая возможность создания гибридных систем поддержки принятия решений [9] позволит перейти к итеративным решениям задачи, сложной для восприятия человеком, совместно искусственным интеллектом и человеком, причем они будут обладать сопоставимой степенью приоритета. Таким образом, сочетание безусловной памяти, высокой скорости процессов и человеческой интуиции может дать более высокий уровень результатов.
Индивидуализация и персонификация искусственного интеллекта позволит создать «цифрового аватара», понимаемого как набор данных, создаваемых человеком в цифровом мире. Аватаропо-добная технология может помочь в поиске высококвалифицированных специалистов для решения прикладных задач. Метрологические когнитивные технологии позволят создать более полные наборы данных для обучения систем искусственного интеллекта, для проверки результатов обучения на новых данных. Станет возможным составление «наилучшей» модели машинного обучения, представляющей собой композицию библиотек, методов, алгоритмов из значительного числа вариантов. Таким образом, творческое начало в решении прикладных задач на базе известных методов машинного обучения может быть применено при работе с большими данными. Станет доступным решение задач генеративного дизайна сущностей реального мира, когда, например, технологию производства можно будет проектировать вместе с графиком работы, требованиями к персоналу, порядком найма и обучения сотрудников. Перечисленное открывает множество новых направлений работы для разработчиков систем принятия решений нового поколения.
Список литературы
1. Park H.-J., Friston K. Structural and Functional Brain Networks: From Connections to Cognition // Science. 2013. Vol 342, iss. 6158. doi: 10.1126/science.1238411
2. Chua L. Memristor -The missing circuit element // IEEE Transactions on Circuit Theory. 1971. Vol. 18. P. 507-519. doi:10.1109/TCT.1971.1083337
3. Clark J. Memristors' one-year delay will hit IT in the wallet. 2012. URL: https://www.zdnet.com/article/ memristors-one-year-delay-will-hit-it-in-the-wallet/
4. Adee S. The Mysterious Memristor Researchers at HP have solved the 37-year mystery of the memory resistor, the missing 4th circuit element. 2008. URL: https://spectrum.ieee.org/the-mysterious-memristor
5. Киви Б. Мемристоры: пора ли переписывать учебники? // 3DNews. 2014. URL: https://3dnews.ru/906763
6. Goswami, S., Pramanick, R., Patra, A. [et al.]. Decision trees within a molecular memristor // Nature. 2021. Vol. 597. P. 51-56. URL: https://doi.org/10.1038/s41586-021-03748-0
7. Михеев М. Ю., Прокофьев О. В., Семочкина И. Ю. Древовидные карты для повышения качества поддержки решений // Надежность и качество сложных систем. 2021. № 1. С.76-86. doi:10.21685/2307-4205-2021-1-8
8. Михеев М. Ю., Прокофьев О. В., Семочкина И. Ю. Способы применения древовидных карт для поддержки принятия решений // Труды Международного симпозиума Надежность и качество. 2020. Т. 1. С. 76-78.
9. Эксперт: гибрид человека и искусственного интеллекта появится в 2022 году // РИА Новости. 05.01.2022. URL: https://ria.ru/20220105/ii-1766599568.html
References
1. Park H.-J., Friston K. Structural and Functional Brain Networks: From Connections to Cognition. Science. 2013;342(6158). doi:10.1126/science.1238411
2. Chua L. Memristor -The missing circuit element. IEEE Transactions on Circuit Theory. 1971;18:507-519. doi:10.1109/TCT.1971.1083337
3. Clark J. Memristors' one-year delay will hit IT in the wallet. 2012. Available at: https://www.zdnet.com/article/memristors-one-year-delay-will-hit-it-in-the-wallet/
4. Adee S. The Mysterious Memristor Researchers at HP have solved the 37-year mystery of the memory resistor, the missing 4th circuit element. 2008. Available at: https://spectrum.ieee.org/the-mysterious-memristor
5. Kivi B. Memristors: Is it time to rewrite textbooks? 3DNews. 2014. (In Russ.). Available at: https://3dnews.ru/906763
6. Goswami, S., Pramanick, R., Patra, A. [et al.]. Decision trees within a molecular memristor. Nature. 2021;597:51-56. Available at: https://doi.org/10.1038/s41586-021-03748-0
7. Mikheev M.Yu., Prokofev O.V., Semochkina I.Yu. Tree maps for improving the quality of decision support.
Nadezhnost' i kachestvo slozhnykh sistem = Reliability and quality of complex systems. 2021;(1):76-86. (In Russ.). doi:10.21685/2307-4205-2021-1-8
8. Mikheev M.Yu., Prokofev O.V., Semochkina I.Yu. Methods of using tree maps to support decision-making. Trudy Mezhdunarodnogo simpoziuma Nadezhnost' i kachestvo = Proceedings of the International Symposium Reliability and Quality. 2020;1:76-78. (In Russ.)
9. Expert: a hybrid of man and artificial intelligence will appear in 2022. RIA Novosti = RIA News. 05.01.2022. (In Russ.). Available at: https://ria.ru/20220105/ii-1766599568.html
Информация об авторах / Information about the authors
Антон Юрьевич Доросинский
кандидат технических наук, генеральный директор,
Научно-производственное предприятие «Сонар» (Россия, г. Пенза, ул. Центральная 1В) E-mail: antik_r13@mail.ru
Олег Владимирович Прокофьев
кандидат технических наук, доцент, доцент кафедры информационных технологий и систем, Пензенский государственный технологический университет
(Россия, г. Пенза, пр. Байдукова / ул. Гагарина, 1а/11) E-mail: prokof_ow@mail.ru
Марина Алексеевна Линкова
магистрант,
Пензенский государственный технологический университет
(Россия, г. Пенза, пр. Байдукова / ул. Гагарина, 1а/11) E-mail: m__linkova@mail.ru
Ирина Юриевна Семочкина
кандидат технических наук, доцент, доцент кафедры информационных технологий и систем, Пензенский государственный технологический университет
(Россия, г. Пенза, пр. Байдукова / ул. Гагарина, 1а/11) E-mail: ius1961@gmail.com
Anton Yu. Dorosinskiy
Candidate of technical sciences, general manager,
Scientific and production enterprise «Sonar» (1V Tsentralnaya street, Penza, Russia)
Oleg V. Prokofev
Candidate of technical sciences, associate professor, associate professor of the sub-department of informational technologies and systems, Penza State Technological University (1a/11 Baidukov's passage /Gagarina street, Penza, Russia)
Marina A. Linkova
Master degree student,
Penza State Technological University
(1a/11 Baidukov's passage /Gagarina street, Penza,
Russia)
Irina Yu. Semochkina
Candidate of technical sciences, associate professor, associate professor of the sub-department of informational technologies and systems, Penza State Technological University (1a/11 Baidukov's passage /Gagarina street, Penza, Russia)
Авторы заявляют об отсутствии конфликта интересов / The authors declare no conflicts of interests.
Поступила в редакцию/Received 15.12.2021 Поступила после рецензирования/Revised 10.01.2022 Принята к публикации/Accepted 15.02.2022
