Научная статья на тему 'Приоритетные отечественные разработки многофункциональных искусственных нейронов и нейрокомпьютеров'

Приоритетные отечественные разработки многофункциональных искусственных нейронов и нейрокомпьютеров Текст научной статьи по специальности «Общие и комплексные проблемы естественных и точных наук»

CC BY
27
4
Поделиться

Аннотация научной статьи по общим и комплексным проблемам естественных и точных наук, автор научной работы — Потапов Виктор Ильич

Псвещаются отечественные приоритеты в создании многофункциональных искусственных нейронов и нейрокомпьютеров.

Похожие темы научных работ по общим и комплексным проблемам естественных и точных наук , автор научной работы — Потапов Виктор Ильич,

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Текст научной работы на тему «Приоритетные отечественные разработки многофункциональных искусственных нейронов и нейрокомпьютеров»

В настоящее время предложенная методика используется при разработке политики безопасности корпоративной сети банка.

Литература

1. Лукацкий A.B. Обнаружение атак. - СПб.: БХВ -Петербург, 2001. - 624 е.: ил.

2. Мельников В.В. Защита информации в компьютерных системах. - М.: Финансы и статистика; Электрон-информ, 1997. - 368 е.: ил.

3. Кристофидес Н. Теория графов - Алгоритмический подход. - М.; Мир, 1978. -432 с ил.

4. Волков И.К., Загоруйко Е.А. Исследование операций: Учеб. для вузов / Под ред. B.C. Зарубина, А.П. Кри-щенко. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2000. -436 с.

ФОФАНОВ Алексей Владимирович, аспирант. ШАХОВ Владимир Григорьевич, кандидат технических наук, профессор.

<

X «

X

в и ПОТАПОВ ПРИОРИТЕТНЫЕ

ОТЕЧЕСТВЕННЫЕ РАЗРАБОТКИ МНОГОФУНКЦИОНАЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОНОВ И НЕЙРОКОМПЬЮТЕРОВ_

ОСВЕЩАЮТСЯ ОТЕЧЕСТВЕННЫЕ ПРИОРИТЕТЫ В СОЗДАНИИ МНОГОФУНКЦИОНАЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОНОВ И НЕЙРОКОМПЬЮТЕРОВ.

Омский государственный технический университет

УДК 621.382

В последние десять-пятнадцать лет в научной и технической литературе по информатике и вычислительным системам все чаще используются такие понятия, как нейрокомпьютер, нейросистема, нейронная сеть, нейрочип, искусственный нейрон и другие близкие по своей сути указанным выше понятия [1-7].

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

В связи с тем, что нейрокомпьютеры являются междисциплинарным предметом исследования [1] единого определения нейрокомпьютера до сих пор не существует. Поэтому сформировать понятие нейрокомпьютера возможно, используя адекватные определения из взаимосвязанных направлений науки.

Так, например, с позиций математической логики и теории автоматов нейрокомпьютеры - это информационные системы, в которых алгоритм решения задачи представлен логической сетью искусственных нейронов соответствующей конфигурации, где каэедый искусственный нейрон представляет собой автомат с внутренней памятью в виде настраиваемых значений весовых коэффициентов входов нейронов и порогов срабатывания.

С позиций вычислительной техники нейрокомпьютер-это вычислительная система с архитектурой аппаратного и программного обеспечения на основе искусственной нейронной сети, адекватной выполнению алгоритмов, представленных в нейросетевом логическом базисе. При этом роль процессоров выполняют многофункциональные искусственные нейроны с существенно усложненными связями между ними, а программирование такой вычислительной структуры состоит в изменении весовых связей между процессорными элементами.

С позиций вычислительной математики в отличие от классических методов решения задач нейрокомпьютеры реализуют алгоритмы решения задач, представленные в виде искусственных нейронных сетей соответствующей конфигурации. Это позволяет во многих случаях разрабатывать алгоритмы, потенциально более параллельные, чем любая мыслимая их физическая реализация.

Складывается мнение, что множество нейросетевых алгоритмов решения задач составляет новый, по-видимому, перспективный раздел вычислительной математики, который условно можно назвать нейроинформа-тикой [1].

Из сказанного следует, что основным компонентом нейрокомпьютера является сеть искусственных нейронов, являющаяся аналогом процессора и оперативной памяти, причем искусственные нейроны сети должны быть многофункциональными, т.е. программируемыми (настраиваемыми) за счет целенаправленного изменения их параметров - весов входов и порога срабатывания [3, 5, 6].

В настоящее время нейрокомпьютеры разрабатываются либо универсальными с ориентацией на эффективную реализацию искусственной нейронной сети любой структуры, либо проблемно-ориентированными на отдельный класс задач (обработку изображений, управление динамическими системами, создание экспертных систем и пр.). В последние годы наметилась тенденция разработок проблемно-ориентированных нейрочипов для решения отдельных классов задач, таких как сжатие и сегментация изображений, выделение движущихся целей, обработка стерео изображений, решение задач оптимизации, управление динамическими системами, управление роботами, ассоциативная память и др.

В сферу разработки и производства перспективных нейрокомпьютеров и нейрочипов рынком вовлечены крупнейшие фирмы США и Японии: National Seminductor, Jn-tel, Texas Jnstruments, JBM, Bell, Hitachi, Toshiba, Mitsubishi, и др. Разработкой искусственных нейронных сетей и нейрочипов занимаются Колумбийский, Аризонский, Пен-сельванский, Иллинойский университеты США и несколько десятков японских университетов. Для создания супернейрокомпьютеров обработки изображений разрабатываются клеточные нейрочипы с фиксированными и настраиваемыми многоразрядными весовыми коэффициентами [7].

По прогнозам ведущих организаций и фирм США и Японии, годовой рынок современных нейронных сетей, нейрочипов и нейрокомпьютеров в 2000 году составил более одного миллиарда долларов и имеет тенденцию к быстрому росту [2].

К сожалению, в настоящее время на мировом рынке нейрочипов и нейрокомпьютеров отечественных конкурентоспособных разработок выявить не удалось. Однако приоритетные разработки нейрокомпьютеров и нейрочипов в виде многофункциональных искусственных ней-

ронов с кодовой перестройкой весовых коэффициентов входов и порогов срабатывания нейронов были созданы в СССР-России (в Московском авиационном институте имени Серго Орджоникидзе и в Омском политехническом институте) в 60-е и 70-е годы и защищены авторскими свидетельствами СССР на изобретение [8 - 14].

Сохранились также акты приемки - сдачи заказчику (НИИ приборостроения, г. Москва) впервые созданных в России, а возможно, и в мировой практике, опытных образцов нейрокомпьютерных специализированных вычислительных устройств на базе сетей искусственных нейронов с кодовой перестройкой логики, разработанных на кафедре ЭВМ (ИВГГ) Омского политехнического института (Омского государственного технического университета) под руководством и при непосредственном участии автора данной статьи в 1973-1976 годах.

Разработка первых в нашей стране адаптивных к отказам нейронов нейрокомпьютерных вычислительных систем на базе функционально устойчивых искусственных нейронных сетей, защищенных авторскими свидетельствами [8-10], проводилась на кафедре вычислительной техники Московского авиационного института, руководимой членом-корреспондентом Академии наук СССР Борисом Степановичем Сотсковым, который являлся идейным руководителем всех проводимых научно-исследовательских работ.

Перейдем теперь к рассмотрению результатов этих разработок.

Нейрокомпьютерное адаптивное вычислительное устройство [9] с приоритетом от 30 мая 1967 года выполнено в виде одной функционально устойчивой к отказам нейронов искусственной нейронной сети. Решение логической задачи в каждом цикле вычисления выдается по большинству из нечетного числа решений для одного и того же набора входных переменных при различных наборах порогов искусственных нейронов из диапазона, обеспечивающего функциональную устойчивость нейронной сети. При несовпадении результатов решений задачи ведется сигнал в узел регулировки порогов искусственных нейронов и начинается процесс адаптации нейронной сети к отказу без прекращения выдачи решения по большинству на выход нейрокомпьютерного устройства.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Данное нейрокомпьютерное вычислительное устройство функционирует устойчиво (надежно), если разрушительное действие отказов в искусственной нейронной сети таково, что правильные решения получаются не менее чем при (т + 1)/2, т=3,5... следующих друг за другом выбранных для работы наборов порогов нейронов из диапазона функциональной устойчивости нейронной сети. При этом цикл работы нейрокомпьютерного устройства осуществляется за п тактов, из которых т тактов составляют активную часть цикла, а (п - т) тактов -пассивную (адаптацию сети к отказам).

В течение активной части цикла происходит вычисление заданной функции от одних и тех же значений входных переменных т различными способами (каждое изменение набора порогов нейронов приводит к изменению логических взаимосвязей в искусственной нейронной сети). В течение пассивной части цикла проводится подготовка (настройка) нейронной сети к очередному циклу вычислений.

Нейрокомпьютерные адаптивные вычислительные устройства [8] с приоритетом от 18 ноября 1966 года и [10] с приоритетом от 14 ноября 1968 года выполнены в виде двух параллельно работающих функционально устойчивых искусственных нейронных сетей, реализующих одну и ту же функцию от входных переменных, выходы которых (сетей) управляют работой устройства адаптации и выдают решение задачи.

Если в процессе работы в одной из нейронных сетей произошел отказ, приведший к искажению значения реализуемой сетью функций хотя бы на одном наборе

входных переменных, то это является признаком отказа в одной из нейронных сетей и сигналом к перестройке логики в обоих сетях, то есть к адаптации нейрокомпьютерного вычислительного устройства к отказу. Процесс адаптации будет продолжаться до тех пор, пока отказ не будет компенсирован за счет логической избыточности искусственных нейронных сетей. Цикличность, заложенная в систему управления процессом адаптации, обеспечивает большую гибкость системы управления нейрокомпьютерного вычислительного устройства, так как при наличии различных сочетаний отказов в обоих нейронных сетях позволяет осуществить их компенсацию на наборах порогов нейронов, обеспечивающих функциональную устойчивость сетей.

Одним из преимуществ данной нейрокомпьютерной системы является отсутствие необходимости диагностики отказавшей сети и отказавшего элемента (нейрона). Это значительно сокращает время адаптации и повышает коэффициент готовности адаптивного вычислительного устройства. Время адаптации можно еще более сократить, если в качестве начального настроечного кода выбрать такой, при котором в нейронных сетях компенсируется максимальное число одиночных отказов, а систему перестройки логики сетей организовать так, чтобы при наличии двух- и более кратных отказов она сразу же формировала настроечный код, обеспечивающий наибольшую вероятность компенсации отказов соответствующей кратности.

Из принципа работы рассматриваемой нейрокомпьютерной системы следует, что в течение процесса адаптации выдача решений прекращается и возобновляется только после восстановления отказавшей искусственной нейронной сети. Это ограничивает область применения подобных адаптивных нейрокомпьютерных вычислительных устройств системами, в которых допускается «потеря» одного или нескольких решений, например, в некоторых системах управления и распознавания.

Отмеченный недостаток может быть устранен, если в нейрокомпьютерной системе использовать три и более параллельно работающие функционально устойчивые искусственные нейронные сети и ввести дополнительное оборудование для диагностики отказавшей сет» при раздельной кодовой перестройке логики. В такой нейрокомпьютерной системе, при условии отсутствия отказа одновременно в двух нейронных сетях, «потеря» решений не происходит, так как выдача результата решения осуществляется по большинству в каждом цикле вычисления, и производится адаптация только отказавшей нейронной сети.

Разработанные впервые в нашей стране под руководством автора статьи на кафедре ЭВМ Омского политехнического института в период с 1970 по 1974 год и защищенные авторскими свидетельствами СССР [11-14] многофункциональные искусственные нейроны с кодовой перестройкой логики (путем цифрового изменения в заданных пределах весов входов и порогов срабатывания нейронов), созданные на основе матито-диодных, маг-нито-тиристорных и транзисторно-транзисторных переключателях тока, явились, в современной терминологии, первыми отечественными нейрочипами. Возможно, что эти нейрочипы, выполненные по технологии Московского института приборостроения, были первыми в мире практически реализованными и нашедшими применение в специализированных нейрокомпьютерных вычислительных устройствах.

По сохранившимся актам приемки - сдачи заказчику -НИИ приборостроения сотрудниками кафедры ЭВМ ОмПИ следует, что в 1973 году был создан макет ассоциативного множительного устройства на многофункциональных искусственных нейронах с кодовой перестройкой лотки. А в 1974 году было разработано и передано заказчику специализированное вычислительное устройство на много-

функциональных нейрочипах с кодовой перестройкой логики работы. Принятое заказчиком действующее специализированное нейрокомпьютерное устройство с микропрограммным управлением было выполнено на магнито-диодных многофункциональных нейрочипах с кодовой перестройкой логики искусственных нейронов.

Арифметическое устройство нейрокомпьютерного вычислителя было выполнено в виде однородной нейронной сети с распределенным «плавающим» резервом, автоматическое включение которого вместо отказавших искусственных нейронов осуществлялось с помощью разработанной встроенной системы диагностических тестов.

В дальнейшем работы по созданию многофункциональных искусственных нейронов были перенесены на технологию магнитоодноосновных материалов с цилиндрическими магнитными доменами.

На этом приоритетные разработки нейронов и нейрокомпьютеров заканчиваются.

Литература

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

1. Галушкин А.И. Теория нейронных сетей. Нейрокомпьютеры и их применение. - М.: ИПРЖ «Радиотехника». - 2000. - 416 с.

2. Бубенников А.Н., Бубенников A.A. Технологические проблемы создания сибмикронных нейронов и нейро-систем на пластинах//информационные технологии.-

1997. - №5. - с. 21-28.

3. Миркес Е.М. Нейрокомпьютер. Проект стандарта.-Новосибирск: Наука, Сибирская издательская фирма РАН,

1998.-337с.

4. Нейроинформатика/А.Н.Горбань, В.Л.Дунин-Бар-ковский, А.Н.Кирдин, Е.М. Миркес, А.Ю.Новоходько, Д.А.Россиев, С.А.Терехов, М.Ю.Сенашова, В.Г.Царегра-дуев. - Новосибирск: Наука, Сибирская издательская фирма РАН, 1998. - 296 с.

5. Потапов В.И., Потапов И.В. Математические модели и функциональные возможности искусственных нейронов/ Омский государственный технический университет. -

Омск, 2001. -12 е., библ. 13 назв.-Деп в ВИНИТИ 03.05.01, № 1140-В2001.

6. Потапов В.И., Потапов И.В. О структурной сложности искусственных нейронов с пресинаптическим взаимодействием и реализации функций от большого числа пере-менных//Доклады СО АН ВШ. - 2002. - № 1(5). - с. 84-91.

7. Галушкин А.И. Некоторые исторические аспекты развития элементной базы вычислительных систем с массовым параллелизмом (80-и 90-е годы)//Информаци-онные технологаи. - 2000. - №8. - с. 2-10.

8. A.C. 200883 СССР, МПК G 06f. Адаптивное вычислительное устройство/В.И.Потапов (СССР).- 1113676/2624. - Заявлено 18.11.66. - опубл. 15.08.67. - Бюлл. №17.

9. A.C. 226302 СССР МПК G 06f. Адаптивное вычислительное устройство/В.И.Потапов (СССР).-1163597/26-24. - Заявлено 30.05.67. - опубл. 8.01.68. - Бюлл. №28.

10. A.C. 260968 СССР, МПК G 06f. Адаптивное вычислительное устройство/В.И.Потапов, А.А.Маслов (СССР). - 1282453/18-24. - Заявлено 14.11.68. - Опубл. 06.01.70. - Бюлл. №4.

11. A.C. 332575 СССР, МПК НОЗК 19/00. Многофункциональный пороговый элемент/В.И.Потапов, П.В.Миренков, Л.В.Воронкова (СССР). - 1468217/26-9. -Заявлено 13.07.79. - опубл. 14.03.72. - Бюлл. №10.

12. A.C. 473293 СССР МПК НОЗК 5/08. Пороговый логический элемент/В.И.Потапов, М.С, Куприянов (СССР). -1902492/26-21. - Заявлено 03.04.73,- Опубл. 05.06.75. -Бюлл. №21.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

13. A.C. 493030 СССР. МПК НОЗК 19/08. Многофункциональный пороговый модуль/В.И.Потапов, М.С. Куприянов (СССР). - 1977185/26-21. - Заявлено 14.12.73. -Опубл. 25.11.75. - Бюлл. №43.

14. А.С.493031 СССР, МПК НОЗК 19/16. Многофункциональный пороговый модуль с кодовой перестройкой логики/В.И.Потапов, И.А.Пальянов (СССР). - 2007119/2621. - Заявлено 18.03.74. - Опубл. 25.11.75. - Бюлл.№41.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой ИВТ.

В. И. ПОТАПОВ И. В. ПОТАПОВ

Омский государственный технический университет

УДК 621.38

ПОСТРОЕНИЕ ПРОВЕРЯЮЩИХ ТЕСТОВ ДЛЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ БЕЗ ОБРАТНЫХ СВЯЗЕЙ ИЗ МОНОФУНКЦИОНАЛЬНЫХ И МНОГОФУНКЦИОНАЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОНОВ

ИЗЛАГАЕТСЯ ПРОЦЕДУРА СИНТЕЗА МИНИМИЗИРОВАННЫХ ПРОВЕРЯЮЩИХ ТЕСТОВ ДЛЯ ТРЕХ ВИДОВ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ИЗ МОНОФУНКЦИОНАЛЬНЫХ И МНОГОФУНКЦИОНАЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОНОВ.

0

1

s

ь

Многофункциональным искусственным нейроном (ИН) с переменными весовыми коэффициентами ю1С входов (/ = 1,2.....п) и переменным порогом тД^ = 1,2.....м) будем называть такой нейрон, выходные функции которого определяются следующим соотношением:

fej(x„.x2,...,xj =

1, если ^ ù):tx: > Tv,

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

/•1 n

0, если ^ cûjt.xi<lv.

(1)

где /е/ - двоичная функция, реализуемая ИН с набором весовых коэффициентов входов номер £(? = 1,2,.,.,н) и порогом у(у = 1,2,...,М), ой,, - весовой коэффициент 1-го (|' = 1,2,...,я) входа ИН, входящий в I-й набор. Очевидно, что число различных весовых коэффициентов у любого /-го входа ИН удовлетворяет условно Ы, ^Н.

При постоянном £ = 1 и постоянному } = 1 соотношение (1) описывает работу монофункционального ИН, т.е. искусственного нейрона с постоянными значениями весовых коэффициентов входов и постоянным порогом.