CC BY
64
‘ 15. Капра Ф. Дао физики. СПб.: Орис, 1994.
16. Моисеев H.H. Расставание с простотой. М.: Аграф, 1998.
17. Беркинблит М.Б., Гельфанд И.М., Фельдман А.Г. Двигательные задачи и работа параллельных программ // Интеллектуальные процессы и моделирование. Организация движения. М.: Наука, 1991.
18. Современная прикладная теория управления. Ч. I—III. Под ред. A.A. Колесникова. М.: ФЦ «Интеграция», 2000.
19. Синергетическая парадигма. М.: Прогресс-Традиция, 2000.
20. Капица С.П., Курдюмов С.П., Малинецкий Г.Г. Синергетика и прогнозы будущего. М.: Наука, 1997.
21. Захаревич В.Г. Синергетика в ТРТУ // См. наст. сб.
'2. Sage А.Р. Systems Engineering Education // IEEE Trans., Syst., Mdn., Cybern., Vol. 30, №2, Mdy 2000, p.p 164 174.
3. Asbiorsen O.A. and Hamann R.I. Toward a Unified Systems Engineering Education // IEEE Trans., Syst., Mdn., Cybern., Vol. 30, №2, Mdy 2000, p.p. 175-183.
ОБ УСТАНОВЛЕНИИ ПОРЯДКА В МОДЕЛЯХ ИСКУССТВЕННЫХ СИСТЕМ
В. В. Курейчик, В. М. Курейчик Таганрогский государственный радиотехнический университет
В основе искусственных систем (ИС) лежит понятие искусственного интеллекта (ИИ). Проблемы ИИ тесно связаны с организацией знаний об окружающем мире в виде математических структур, таких как множества, графы, гиперграфы, фреймы, алгоритмы, которые отражают реальные связи и отношения между любыми объектами в природе (в частности, в предметной области). К сожалению, пока не существует формального определения ИИ. В науке и технике используются адекватные определения и описания ИИ [1-8]. Например: ИИ - это новое научно-техническое направление, увеличивающее функциональные возможности технических систем и средств их проектирования; ИИ - это системы, работающие со знаниями; ИИ -это наука о концепциях в области информационной технологии; ИИ - это средство решения интеллектуальных задач; ИИ - это система, имитирующая некоторые стороны деятельности человека; ИИ - это система, работающая с неформализованной и расплывчатой информацией; ИИ - это психическая способность к сознаваемому нестереотипному поиску и построения адекватных форм мышления и целесообразных способов поведения и действия, основывающихся на опыте и знаниях субъекта и имеющих тенденцию к опережению событий и опыта [9]; ИИ - это синоним мышления, но, в отличие от него, определяющий качество этого процесса.
Критериями качества считают эффективность, способность находить нестандартные решения, простоту в отношении когнитивной нагрузки.
Классические модели ИИ проникнуты рационализмом, поскольку в них интеллект связывается с рациональными методами решения задач с использованием эвристических процедур. Моделирование различных взаимодействующих агентов становится основным предметом ИИ. В ИИ выделяют три направления: логическое, коннекционистское и эволюционное. А также три аспекта ИИ: управление неопределенностью; обучение; адаптация в процессе эволюции.
Сейчас интенсивно развивается новая идеология исследований в области Ий на основе системного подхода и многоагентно-ориентированной парадигмы. В [8] приведены основные принципы подхода к исследованию и моделированию ИИ: исследования ИИ в иерархии взаимодействующих систем; исследования генезиса и эволюции интеллектуального поведения; многомерности интеллекта; самоорганизации и саморазвития ИИ; определения рекурсивных связей между ИИ и внешней средой; приоритетов координаций; выделения системных единиц ИИ.
Разработка схем интеграции при системном подходе к построению ИИ приводит к возникновению гибридного (синергетического) ИИ. Основные компоненты триады здесь: агент - многоагентная система - сообщество многоагентных систем.
Под интеллектуальным агентом в теории ИИ понимаются физические или виртуальные элементы, способные: действовать на любые другие элементы; стремиться к некоторым целям, общаться с другими агентами, накапливать и использовать собственные ресурсы; воспринимать среду и ее части, строить частичное представление среды; адаптироваться, самоорганизовываться, саморегулироваться, саморазвивать-ся и самовоспроизводиться [8]. Тогда любая многоагентная система, подобно ИС, состоит из множества агентов, множества задач, внешней среды, отношений между агентами, множества действий и операций над объектами. С понятием ИИ тесно связано направление искусственная жизнь (ИЖ) [1, 2, 8]. Оно связано с исследованием интеллектуального поведения ИС в рамках адаптации, выживания, самоорганизации, построения децентрализованных систем. В основе ИЖ лежат функциональный анализ и синтез, моделирование, эволюция и имитация живых систем.
Многоагентные системы (МАС) есть популяция простых и независимых агентов; каждый агент самостоятельно реализуется в локальной среде и взаимодействует с другими агентами: связи между агентами являются горизонтальными; глобальное поведение агентов определяется на основе расплывчатых правил. Базовая МАС есть кортеж длины три: БМАС =< Ф,Х,У >, где Ф - график расплывчатого соответствия, X - область отправления (вход), У - область прибытия (выход), X х У С М, где М - множество, задающее область определения расплывчатого соответствия. Набор таких БМАС может образовать иерархическую ИС, инвариантную к внешним воздействиям среды. Тогда расплывчатую эволюционную МАС определим: РМАС =< С,I,К,Б, Е >, где С = {1,2,...,тг} - множество агентов; ф -семейство расплывчатых соответствий (ф =< Ф,Х,У >), I - множество действий агентов; К - множество коммуникационных связей; Б - множество расплывчатых состояний; Е - множество эволюционных расплывчатых стратегий. На основе таких моделей можно анализировать процессы принятия решений с использованием ИС.
Уровень ИИ характеризуется: многосвязностью и мобильностью ассоциаций, проявляющихся в процессе поиска; быстротой анализа возникающих перспектив решений, адаптацией к внешней среде, способностью ориентироваться в неформально, неточно и некорректно сформулированном задании. Иногда говорят об интеллекте как феномене действительности, включающей в себя человека и технологии [9].
Кант и Гегель [10 13] считали, что интеллект ассоциируется с разработкой категорий разума и рассудка. При этом можно считать, что природа ИИ двойственна, т.е. она одновременно логическая и биологическая. ИИ - это определенная форма равновесия, к которой тяготеют все структуры, образующиеся на базе восприятия, мышления и адаптации. Мышление - орудие высшей ориентировки человека в окружающем мире и в самом себе [10-15]. ИИ - это имя, обозначающее высшие формы организации или равновесие когнитивных структурирований. В [1, 2] ИИ рассматривается как явление адаптации. Адаптация - это то, что обеспечивает равновесие между воздействием организма на среду и обратным воздействием среды. Действие организма на среду называется ассимиляцией. Действие среды на организмы - аккомодация. Тогда адаптация - это равновесие между ассимиляцией и аккомодацией, т.е. равновесие во взаимодействии субъектов и объектов [16, 17, 18].
Рис. 1. Пример трехуровневой адаптивной системы
Для повышения уровня «интеллекта» ИС и расширения ее возможностей, свободного формального и неформального взаимодействия с пользователем в нее закладываются знания, относящиеся к предметной области и внешней среде. Кроме того, ИС (ее математическое обеспечение) снабжается математическими моделями и методами для построения выводов и механизмов обучения и самообучения, преобразования и практического использования введенных знаний. Укрупненная структура ИС по аналогии с другими интеллектуальными системами будет состоять из четырех подсистем: адаптивной подсистемы; интерактивной подсистемы; обрабатывающей подсистемы; подсистемы управления [19, 20].
Первая подсистема состоит из нескольких иерархических уровней: микро-, макро- и метауровней. На каждом из этих уровней происходит моделирование эволюции и адаптация алгоритмов к окружающей среде. Такая подсистема может быть представлена в следующем виде (рис. 1) [21, 22]. Вторая подсистема анализирует входные описания на языке пользователя на основе имеющихся знаний и формирует внутреннее неполное и расплывчатое представление задачи. Третья подсистема превращает неполное и расплывчатое описание задачи в полное и четкое и снова передает его интерактивной подсистеме. Далее процесс принятия решений происходит ’ итерационно до получения удовлетворительного решения. Четвертая подсистема используя координирующие блоки и обратные связи управляет процессом решения, взаимодействуя с первой, второй и третьей подсистемами.
Приведем теперь одну из возможных концептуальных схем ИС (рис. 2) [1, 2, 23-25]. Здесь в качестве множества {Щ, Пг,..., Пп} выступает множество пользователей. Диалоговый процессор (ДП) является структурной единицей интеллектуального интерфейса ввода-вывода. Он обеспечивает заданный сценарий диалога в зависимости от степени подготовки пользователей и интеллектуальности ЭВМ. ДП выполняет одновременный ввод-вывод графических, цифровых, речевых и других образов. ДП реализуется программным, аппаратным или программно-аппаратным способом. Наилучшей формой ДП в ИС является совместная программная и аппаратная реализация на основе нейронных сетей и их модификаций. ДП содержит
Рис. 2 Концептуальная схема ИС
набор сценариев диалога, меню диалога, генераторы случайного и направленного поиска, акселераторы перебора и других подзадач. Пользователь во взаимодействии с ДП на основе блочно-иерархического подхода и принципов декомпозиции производит разбиение необходимой задачи большой размерности на совокупности функциональных подзадач меньшей размерности [21, 26]. Основная цель планировщика - поиск информации. Совместно с экспертной системой (ЭС) он осуществляет анализ преобразованных данных, полученных из ДП. В зависимости от значений внутренних, внешних и управляющих параметров, конструктивных ограничений, заданных режимов работы и т.п. выбирается несколько альтернативных путей решения. Каждому пути соответствует управляющий программный блок из монитора. Под управлением этого блока осуществляется выбор, редактирование, настройка и стыковка отдельных программных модулей, определяются типы и форматы всех данных, формируется рабочий комплекс программ. Поспелов Д.И. [2, 19] определил 10 горячих точек в области ИИ, связанных с разработкой ИС: переход от вывода к аргументации; проблема оправдания; порождение объяснений; поиск релевантных знаний; понимание текстов; когнитивная графика; многоагентные системы; сетевые модели; метазнания.
ИС могут быть описаны совокупностью знаков с отношениями между ними. Такие модели соответствуют ИС лишь частично, что делает отношение моделирования расплывчатым. Для формализации процесса используется семиотика - наука
о знаковых системах. Прикладная семиотика (ПС) основана на семиотическом моделировании. Оно описывает динамику жизнедеятельности ИС при изменении ее знаний об окружающем мире и способах поведения в нем. ПС позволяет моделировать процессы, протекающие в открытых или динамических системах [19]. Понятийной основой ПС является треугольник Фреге, показанный на рис. 3. Множество х = {ж,,х2, хА) описывает представления человека или ИС. Здесь, например, - имя, х% - понятие, хз - представление. Сущности реального мира (внешней среды) - это объекты, явления, процессы. Их называют денотаты -х4. Денотат ИС недоступен, а представляется через представления (модели)
I
I
путем установления соответствия. Как видно из рис. 3, треугольник Фреге - это неориентированный граф — (X, II)
сдвумя подмножествами ребер, и = {иа и и2}, их = {1,2,3}, и2 = {4}. Ребро 1 по имени объекта позволяет активизировать сведения об этом элементе. Ребро 2 позволяет найти информацию
о свойствах рассматриваемого элемента. Ребро 3 устанавливает соответствие мени элемента с его моделью В общем виде на основе факторизации эту кон-
Виртуальный мир
Рис. 3. Конструкция треугольника Фреге
рукцию можно представить в виде двух блоков X, Х4. Информационная единица, (структурой которого является множество х, называется в ПС знаком. Вершина *1 еХ определяет связи наследования. Отношения наследования обычно образуют иерархическую структуру в системе знаков. Очевидно, что между сетью знаков сетью фреймов существует аналогия. Это позволяет определить операции на Ьетях из знаков - фреймов, выполнять операции вывода знаний и формирования новых знаний. Граф С,Р соответствует триаде: синтаксис, семантика, прагматика. Синтаксис (ху) определяет кодирование знака; семантика (*2) ~ значение знака; прагматика (хз) - процедуры и действия. В ИС такая совокупность процедур бычно реализуется в планировщиках и определяет эффективность работы ИС. Предлагается в схему ИС (см. рис. 2) добавить блоки гомеостатического управ-яия (ГУ) [16, 27, 28] и синергетического блока самоорганизации и упорядочения ЗБСУ) [21, 29-41]. Совместно с базой знаний (БЗ) и блоками эволюции и адап-ации, блоками ГУ и СБСУ планировщик осуществляет реализацию процедур поиска для нахождения множества решений и для выбора некоторого подмножества |)фективных решений среди имеющихся. Одним из основных, интеллектуальных омпонентов ИС является БЗ [42-46]. Понятие «знания» является расплывчатым 1еформальным понятием. Сейчас под знаниями понимают расплывчатые и четкие Множества фактов и сведений, описывающих информацию относительно определен-ой предметной области, позволяющие решать определенный класс задач. Согласно , 2, 47-49], выделяют следующие типы знаний: физические, т.е. знания об окру-ающей среде и внутренних свойствах объектов; предметные, т.е. знания о данной 1редметной области; синтаксические, т.е. знания о правилах построения рассматри-емых структур; семантические, т.е. знания о конкретном смысле и значении эле-ентов в структуре; декларативные, т.е. знания о фактах и данных; процедурные, 1е. знания об алгоритмах, методах, эвристиках; метазнания, т.е. обобщенные знания; 1нь и Ян, т.е. знания о преобразованиях и переменах на основе принципов комплементарное™ (противоположности); расплывчатые (синергетические), т.е. знания об интеллектуальном опыте природы. Основные характеристики знаний - это интерпретируемость, концептуальность, структурированность, именованность, иерархичность, активность, рефлексивность, связность и степень согласованности [1].
II При построении моделей ИС важным является логический вывод. Если имеется множество посылок ф\,... ,(/?„, а из него выводим заключение ф, то можно утверждать, что построен логический вывод, если найдена цепочка формул, заканчивающаяся той формулой, которую мы должны вывести, а каждый член этой цепочки есть либо аксиома, либо гипотеза, либо получена по правилам дедуктивного вывода из предыдущих членов цепочки [48].
Рассуждение - это получение заключения из посылок с использованием некоторых эвристических правил наряду с дедуктивными, а также ряда управляющих условий. Тогда ИИ можно считать совокупностью способностей. Согласно [48], его принципиальные черты: выделение существенного в знании; способность к рассу-
ждениям; рефлексия; выдвижение цели и выбор средств ее достижения; познавательная активность; адаптация к ситуации; формирование обобщений и обучения; синтез познавательных процедур.
Интеллектуальное поведение организуется на основе триады: цель - план - стратегия. Для адекватного описания ИИ и интеллектуальной деятельности опять требуется триединый механизм: индукции - дедукции - абдукции. Идея абдукции следующая. Даны группы фактов и выдвинуты некоторые гипотезы. Если эти гипотезы объясняют в некотором смысле эти факты, то они принимаются. Согласно [48], абдуктивный инстинкт позволяет среди множества возможных гипотез выбирать именно те, которые нужны. Механизм рассуждений в ИИ есть не только и не столько простая имитация человеческих рассуждений, сколько одновременно их имитация и усиление.
ИС включает: решатель задач; базу знаний (БЗ); базу данных (БД); интеллектуальный интерфейс. Решатель - это рассуждатель плюс вычислитель. Рассуждатель реализует синтез познавательных процедур. В результате обучения с помощью БД расширяем БЗ. Синтез познавательных процедур состоит из трех этапов: индукция; система связанных аналогий; абдукция.
ИС могут быть построены в виде конструкций, называемых квазиаксиоматиче-скими теориями (КТ) [48]. КТ - это кортеж длины 3 К =< Мп,Мг,Пв >, где Мп - множество принципов, частично формализующих рассматриваемую предметную область, Мг - множество гипотез, которое пополняется во время работы; Пв -множество правил вывода, Пв = Пвг и Пвг, Пв1 - дедуктивные, Пв2 - правдоподобные правила. Для принятия решений (ПР) КТ состоит из объединения аксиом: процедурных. Они образуют теорию процедур; связи. Они реализуют все отнощения и определяют управляющую аксиому; структуры данных.
Реализация ИС - это понятийное построение знаний, что предполагает преобразование идей в понятие. Идея - это терм, окруженный релевантным знанием [48]. Пусть имеется терм Т, обозначающий идею и характеризующийся множеством высказываний. Тогда если существует отношение релевантности, то можно определить знания, входящие в терм, т.е. взять все Те высказывания, которые имеют отношение друг к другу. Элементы а, Ь находятся в отношении релевантности, если они «имеют отношение друг к другу». Тогда, согласно [48], понятие Т - это идея Т с упорядоченным значением, такая, что: задано содержание как замыкание; заданы отображения контекстов в множество всех подмножеств; задана реализация идеи.
В ИС основная проблема - это обработка огромных массивов нечеткой информации. Поэтому структурированность и иерархичность, т.е. упорядоченность информации упрощает эту задачу. Науку, изучающую взаимодействие подсистем внутри системы, в результате которой в процессе самоорганизации возникают новые упорядоченные структуры в макроскопических масштабах, называют синергетикой [29,
30, 33, 34, 50, 51].
Введение общего понятия подчинения как одного из основных принципов самоорганизации принадлежит Г. Хакену [30]. Основываясь на нем, в сложных системах можно исключить большое число переменных и свести задачу к меньшей размерности. Дифференциация клеток в биологии и процесс эволюции могут служить примерами самоорганизации. Общие принципы, управляющие возникновением самоорганизующихся структур (СС) и (или) функций, - это основной вопрос синергетики [51].
Природа дает большое число примеров упорядоченных и организованных структур. В биологических системах ничего не происходит без коопераций ее частей на высоком уровне. Синергетические процессы позволяют биологическим системам трансформировать энергию, предварительно преобразованную на молекулярном уровне, в ее макроформы. В этой связи можно считать, что эволюция - это синергетический процесс образования все новых и новых макроструктур (т.е. новых видов). Модели эволюции биомолекул основаны на математической формулировке прин-
ципа Ч. Дарвина, т.е. выживании более приспособленного вида. Биомолекулы, как читают, размножаются автокаталитически. Такой механизм обуславливает отбор, приводящий в сочетании с мутациями к эволюционному процессу [30, 35]. Во всех случаях в природе и ИС имеется иерархия, т.е. система состоит из очень большого числа подчиненных подсистем. Отметим, что многоуровневое управление в иерархических ИС (ИИС) предпочтительнее централизованного подхода, т.к. диспетчирование может осуществляться быстрее и с меньшим требованием к объему памяти; ¡система менее чувствительна к изменениям структуры взаимодействий - изменени-м, которые могут иметь регулярный или случайный характер.
Приведем двухуровневое представле-ие ИИС (рис. 4). Здесь в - глобальная
1 ункция качества, тх,..., тп, тп+I -ходы, ?/{,/ - предварительный выход,
7 - окончательный выход. Координа--р может рассматривать независимость одпроцессов друг от друга и приметь принцип согласования взаимодей-вий для их управления. Важная про-гема в ИИС - осуществление перехода уровня на уровень и определение, как оведение системы на одном уровне вли-ет на системы, расположенные на сосед-х уровнях. Рассмотрим двухуровневую ИС (рис. 4) с п элементами на 1 уровне
26]. Каждый элемент имеет собственную цель, которая зависит от координирующего параметра, получаемого от координатора. Координатор может иметь цель, отличную от глобальной цели, и выбирает параметр так, чтобы обеспечить выполнение своей собственной цели. Если зависимость между целями закономерна, ИИС может достигнуть глобальной цели. Интегральное поведение определяется действиями координатора и его стремлением добиться выполнения собственной цели. Таким образом, интеграция в ИИС достигается посредством координации [26]. Приведем основные характеристики ИИС: последовательное вертикальное расположение подсистем, составляющих данную ИИС (вертикальная декомпозиция); приоритет действий или право вмешательства подсистем верхнего уровня; зависимость действий подсистем верхнего уровня от фактического исполнения нижними уровнями своих функций.
Взаимодействие между уровнями в ИИС может проходить как между' двумя близлежащими уровнями, так и между любым числом уровней. Входы и выходы могут быть распределены по всем уровням. Качество работы всей ИИС обеспечивается обратной связью.
ИИС обычно классифицируют по уровням: описания или абстрагирования; сложности принимаемого решения; организации выполнения решения. ИИС задается семейством моделей, каждая из которых описывает поведение системы с точки зрения различных уровней абстрагирования. Для каждого уровня существует ряд характерных особенностей и законов, которые и описывают поведение ИИС. Для лучшего функционирования необходима как можно большая независимость моделей для различных уровней. Фундаментальную роль в ИИС играют стратифицированные модели. Сначала можно ограничиться одной стратой в зависимости от задачи, а затем либо детализировать свои знания, двигаясь вверх, либо углублять, двигаясь вниз. В любой ИИС ПР существует две особенности [26].
• Когда приходит время принимать решения, принятие и выполнение решения нельзя откладывать.
Рис. 4. Двухуровневое представление ИИС
Отсрочка, означает, что не найдено нового или изменения старого действия предпочтительнее других альтернатив.
• Неясность относительно последствий различных альтернативных действий и отсутствие достаточных знаний об имеющихся связях препятствуют достаточно полному формализованному описанию ситуации, необходимому для рационального выбора действий.
Эти два фактора приводят к основной дилемме ПР: с одной стороны, необходимо действовать немедленно; с другой - необходимо, прежде чем приступать к действию, попытаться лучше понять ситуацию. Разрешению дилеммы помогает ИИС. Каждый блок здесь - принимающий решение элемент. Так, например, сложная проблема ПР по управлению разбивается на семейство последовательно расположенных простых подпроблем, что позволяет решить проблему. Цель надо выбирать так, чтобы ее можно было развернуть в подцели, и тогда появляется возможность оценить, приблизились ли мы к первоначальной цели.
Рассмотрим функциональную иерархию ПР, или управления, в условиях полной неопределенности. Здесь необходимо: выбор стратегии для ПР; уменьшение или устранения неопределенности; поиск предпочтительности или допустимого способа действий, удовлетворяющего заданным ограничениям. Простую функциональную ИИС можно составить из трех слоев.
• Слой выбора.
• Слой обучения или адаптации.
Задача слоя - конкретизация множества неопределенностей. Основная цель слоя -- обучение, т.е. определение возможностей сужения множества неопределенностей и упрощения работы слоя выбора.
• Слой самоорганизации.
Этот слой должен выбирать структуру, функции и стратегии для низлежащих слоев, чтобы по возможности приблизиться к глобальной цели. Если общая цель не достигается, этот слой может изменить критерии на первом слое или стратегию обучения на втором в случае неудовлетворенности оценки. Всегда необходимо учитывать меняющиеся технологические условия и ограничения, налагаемые оборудованием и внешней средой. Задача управления в ИИС, осуществляющего регулирования - удержать (в условиях неизбежных отклонений) соответствующие переменные около заранее заданных значений.
Приведем один из возможных примеров многоуровневой организационной иерархии в ИИС: ИИС состоит из семейства взаимодействующих подсистем; некоторые из подсистем являются элементами, принимающими решения; ПР-элементы располагаются иерархически.
ПР-элементам нижних уровней должна быть предоставлена некоторая свобода в выборе их собственных решений. Эти решения в частном случае могут быть такими решениями, которые выбрал бы верхний уровень. Элемент верхнего уровня имеет дело с более крупными подсистемами или с более широкими аспектами поведения ИИС. Период ПР для элемента верхнего уровня больше, чем для элементов нижних уровней. Элемент верхнего уровня имеет дело с более медленными аспектами поведения ИИС.
У каждого слоя ИИС свой набор методов решения[16, 21, 26, 30]: выбор - управление с обратной связью; адаптация - статистические методы и методы распознавания образов; самоорганизация - эвристические, синергетические, гомеостатические методы поиска.
Проблема, решаемая элементом нижестоящего уровня, зависит от вышестоящего элемента и заключается в выработке значений определенного параметра. Обычно вводится приоритет действий вышестоящего элемента путем вмешательства до принятия решения. Это основной способ координации. Вмешательство до ПР (ВДПР)
ано на прогнозировании поведения как самой ИИС, так и окружающей среды, ышестоящий элемент в ходе ВДПР определяет функции качества для оценки дея-ьности нижестоящего элемента. Он должен исправить посланные ранее элемен-и нижестоящего уровня инструкции, если допущения, выработанные на основе их инструкций, неверные. Эти действия координирующего элемента после ПР -орректирующее или поощряющее вмешательство.
Запишем основные способы координации [26]:
• Координирование путем прогнозирования взаимодействий. Вышестоящие элементы посылают нижестоящим значения будущих связующих сигналов. Нижестоящие элементы (НЭ) начинают вырабатывать свои локальные решения предположении, что связующие сигналы будут такими, какими их предсказал связующий элемент.
’координация путем оценки взаимодействия. Вышестоящий элемент (ВЭ) задает диапазон значений для связующих сигналов. НЭ рассматривают эти сигналы как возмущения, принимающие любое значение в заданном диапазоне. Координирование путем «развязывания» взаимодействий. Элементы нижесто-■щего уровня трактуют связующий сигнал как дополнительную переменную решения.
Координирование типа «наделения ответственностью». ВЭ снабжает НЭ мо~ елью зависимости между его действиями и откликом системы, 'оординирование путем «создания коалиций». НЭ знают о существовании других элементов, также принимающих свои решения на том же уровне. ВЭ опре-еляет, какого уровня связи разрешены между ними. Это приводит к коали-
• ционным или конкурентным отношениям между НЭ.
Координация имеет два аспекта: самоорганизации (изменения структуры); равления (выбор координирующего вмешательства при фиксированной структу-.). Самоорганизация может относиться к изменениям функций и взаимосвязей, пользуемых в процессе координации. Работа ВЭ сводится к выбору способа ко-динации, модифицированию функций, определяющих стратегии НЭ, и выбору ■рдинирующих воздействий.
Выбор модели для ВЭ основывается на признании того факта, что для ВЭ управ-емый процесс описывается как взаимодействие семейства взаимосвязанных под-стем, каждая из которых преследует собственные цели.
Иерархические упорядочение часто связано с процессом изменения структуры существующей ИИС для повышения эффективности ее работы. Опишем функциональную ИИС как: Э : X -> У. Это отображение абстрактного множества X в У или Э С X х У, пара (х,у) € Б, когда у является решением определенной задачи, конкретизация которой осуществляется посредством задания х. Тогда 8 - это ИИС Квинятия решений.
Ш Пусть д : X V функция, отображающая произвольное множество X в множество V, частично или полностью упорядоченное отношением меньше или равно. При изменении определенных условий (управляющих параметров) в системах образуются качественно новые структуры в макроскопических масштабах. ИИС обладает способностью переходить из одного недифференцированного состояния покоя в неоднородное, но хорошо упорядоченное состояние или даже в одно из нескольких упорядоченных состояний. Система может совершать случайные движения, что считается хаосом [29, 30, 52, 53]. Такие процессы самоорганизации могут приводить к возникновению качественно новых структур в макромасштабах.
Во всех структурах, представляющих интерес для синергетики, решающую роль играет динамика. Это как бы обобщенный дарвинизм, действие которого распространяется на органический и неорганический мир. По Г. Хакену [30] возникновение макроструктур обусловлено рождением коллективных «мод» под действием флуктуаций, их конкуренций и выбора наиболее приспособленной моды. Решающую роль
играет параметр t - время [30, 35]. Следовательно, синергетика исследует эволюцию систем во времени. Временные, пространственные и пространственно-временные структуры возникают, а не накладываются на систему извне. Процессы, приводящие к возникновению таких структур, Г. Хакен [30] называет самоорганизацией. В ходе эволюции систем может происходить целая иерархия процессов самоорганизации. Глобальное воздействие на систему окружающей среды может вызвать увеличение числа компонент системы, изменение управляющих параметров и самоорганизацию. При медленном изменении системы под воздействием окружающей среды она в критических точках может переходить в новые состояния, отличающиеся более высоким порядком, или структурой. Структуры могут возникать в результате самоорганизации, когда система из некоторого начального (неупорядоченного или однородного) состояния переходит в другое конечное состояние. Синергетика занимается изучением временной эволюции систем. В синергетике мы изменяем управляющие параметры непредсказуемым образом и изучаем состояния, в которые она переходит под воздействием управления. Флуктуации обретают решающее значение в тех точках, в которых происходят бифуркации [33, 50].
Рождение структур различной природы синергетика связывает с такими условиями существования систем, как открытость, нелинейность, неравновесность. Открытость - это свободный обмен информацией (энергией) с внешней средой. Переломный критический момент неопределенности будущего развития ИС называется точкой бифуркации [29, 30, 33, 34], т.е. точкой «разветвления» возможных путей эволюции системы.
Синергетика рассматривает нестационарные состояния, динамику, взаимопере-ходы, разрушения и созидания ИС. Согласно [33, 51], образ мира (в синергетическом описании) следующий: мир открыт и сложноорганизован, он не «ставший, а становящийся», непрерывно возникающий и изменяющийся, он эволюционирует по нелинейным законам, т.е. полон неожиданных поворотов, связанных с выбором дальнейшего развития. Каждый период в истории приводит к своей модели природы. Синергетика - это попытка рационально объяснить не рационально устроенный мир, или попытка создать рациональную модель не рационально устроенного мира [33, 50]. Существует еще ряд определений. Синергетика - наука об универсальных законах эволюции в природе и обществе. Синергетика - наука о самоорганизации физических, биологических и социальных систем; наука о коллективном, когерентном поведении систем различной природы [34]. Примером синергетических систем в биологии считается образование высокоупорядоченных структур при морфогенезе, а также динамика популяций. Известно, что в таких системах могут возникать как упорядоченное, так и хаотические колебания [34].
В начале XX века считалось, что природа развивалась согласно второму началу термодинамики, т.е. ее развитие сопровождалось ростом энтропии, что приводило к выравниванию всех градиентов в природе, и мир смещался к состоянию равновесия, к серому однородному хаосу. Это положение называется «тепловая смерть Вселенной» [33-36, 51-53]. Развитие живого мира подчиняется прямо противоположным законам: энтропия может понижаться; увеличивается рост порядка; растет разнообразие форм.
В природе (естественных системах (ЕС)), как правило, должны соблюдаться единые законы эволюции. Общий эволюционный процесс как процесс самоорганизации, несмотря на стихийность, обладает направленностью, так как идет рост разнообразия форм и сложности структур. Человек изучает мир не извне, а изнутри, т.е. его представления о мире являются представлениями части о структуре целого [33, 34].
ИС, по определению П. Анохина, комплекс избирательно вовлеченных компонентов, у которых взаимное действие и взаимоотношения принимают характер взаимодействия компонентов на получение фиксированного результата [34, 54].
Известно [34, 51, 55-57] два основных фундаментальных свойства ИС:
• обмен с окружающей средой энергией, веществом и информацией;
• взаимодействие, т.е. когерентность поведения между компонентами.
В равновесие ИС будет находиться в состоянии максимально возможной неоднородности. В ИС допустимы отклонения от наиболее вероятного значения, которые называются флуктуациями [30]. Они тем менее вероятны, чем больше число элементов в ИС. Следовательно, вероятность отклонения от наиболее ожидаемого состояния в ИС убывает с ростом числа элементов. В эволюции ИС каждая популяция обладает наследственной изменчивостью. Это означает случайное отклонение от наиболее вероятного среднего значения. Обычно отклонение следует нормальному закону распределения случайных величин. Но наследственная изменчивость не затухает, как всякая флуктуация. Наследственные признаки закрепляются, если они имеют приспособительный характер, т.е. обеспечивают виду лучшие условия существования и размножения.
Физическая природа эволюционирует в направлении роста энтропии 5 = 5та1:, если она изолирована, т.е. направлена в сторону равновесия в изолированной системе [34]. ИС не несет памяти о своем эволюционном развитии, ЕС несет память об этом. В ЕС наследственность не затухает, а наследует и закрепляет те признаки, которые позволяют ей выжить. По Ч. Дарвину, в мире происходит непрерывное рождение все более сложно организованных живых форм, структур и систем [59-62]. Из всего многообразия выделяют две основных концепции эволюции [34]:
• в ИИС развитие идет однонаправленно, в сторону роста энтропии, т.е. к выравниванию, разнообразию форм;
• в ЕС развитие приводит к росту многообразия форм, т.е. к увеличению порядка, падению энтропии.
В открытой системе возможно состояние, когда энтропия уменьшается, т.е. принципиальная возможность самопроизвольного движения от хаоса к порядку, а при большом оттоке энтропии в окружающую среду общая энтропия системы уменьшается. В этом случае уменьшается хаос в системе, т.е. в ней начинает возникать структурообразование [34]. Рост упорядоченности ЕС, т.е. процесс структурообразо-вания, соответствует онтогенезу, а многообразие возникающих при этом форм описывается морфогенезом [34, 60]. В ходе развития неравновесных процессов в ЕС при некотором критическом значении внешнего потока энергии или вещества из неупорядоченных состояний из-за потери устойчивости могут возникать упорядоченности. Они называются диссипативными структурами - это и есть самоорганизация [33, 50]. Неустойчивость означает, что флуктуации могут перестать быть просто шумом и превратиться в фактор, направляющий глобальную эволюцию системы. Во всех процессах, происходящих во Вселенной, присутствуют случайные (стохастические) факторы. Они влияют на развитие процессов и придают им некоторую неопреде1 ленность.
Синергетика приближает нас к целостному образу мира, состоящего из хаоса и порядка, необходимости и случайности, динамизма и гомеостаза, организации и дезорганизации, гармонии и дисгармонии. Синергетика переносит акцент с проблем эволюции на проблемы организации и упорядочения. Существуют параллели между положениями теории самоорганизации и идеями древних христианских и восточных учений [10-15, 51, 58, 63-68]. Синергетика устанавливает связь между прошлым, настоящим и будущим интеллектуального и духовного опыта человека. Она позволяет говорить о диалоге человека и природы, определяет связь между историей человека и изменяющейся природой. Эти связи, новый синтез, поиск единства между природой и человеком при построении И С - одна из фундаментальных тенденций во Вселенной [35, 51, 53].
Все вещи и явления должны быть составными частями иерархии цельностей, лежащих в основе космического порядка, и следовать внутренним побуждениям
своей собственной природы. Необходимо решить проблему перехода от естественных принципов к количественным формализованным соотношениям. Для этого важно использовать законы, справедливые для всех форм существования материи и являющиеся инвариантными.
Смысл синергетики состоит в том, что в открытых системах, обменивающихся с внешней средой энергией, веществом, информацией, возникают процессы самоорганизации, т.е. процессы рождения из хаоса некоторых устойчивых упорядоченных структур с новыми свойствами систем [30, 52, 53].
Существуют два фундаментальных свойства синергетических систем [30, 33-35,
50, 51]: обмен с внешней средой, взаимодействие компонентов системы.
Известно, что для ЕС свойственно наличие некоторых поверхностей притяжения - инвариантных многообразий в их пространстве состояний. Такие режимы называются аттракторами [29, 30, 33, 34]. Аттрактор - это притягивающее множество в пространстве состояний, т.е. асимптотически устойчивое множество. Аттракторы, отличные от состояний равновесия, называются «странные аттракторы». Внутри них траектории блуждают нерегулярным образом и весьма чувствительны к изменению начальных условий. В естественных системах качество их функционирования может даже повышаться при расширении разнообразия входящих в них подсистем. Перспективна попытка переноса этих свойств на ИС. Для ЕС основная цель функционирования состоит в стабилизации соотношений между их переменным состоянием [29, 30, 50]. Возникновение новой структуры может проходить по разным траекториям.
Приведем стандартную, универсальную схему эволюционного процесса для ИС. На начальном этапе развития происходит медленное изменение свойств системы. Этот этап предсказуем до случайных флуктуаций. В какой-то момент В ранее стабильное состояние теряет устойчивость и возникает возможность разных путей развития. Это и есть точка бифуркации. Среди различных ветвей эволюции после В есть траектория (коридор), которая отличается относительной устойчивостью и как бы притягивает к себе множество траекторий систем с разными состояниями. Эта траектория называется аттрактор (цель). Если система попадает в этот коридор, то она неизбежно эволюционирует к этому относительно устойчивому состоянию [34]. Существуют устойчивые образцы (схемы), в соответствии с которыми происходят все изменения в многообразном мире. Приемы переноса знаний используют аналоги и прототипы как логические алгоритмы описания законов самоорганизации. Единство мира и изоморфизм - важнейшая характеристика при построении ИС. Синергетика трактует единство мира и структурного единообразия различных его форм. В процессе создания ИС важная проблема - поиск изоморфизма (подобия), который является следствием общих свойств систем разной природы.
Синергетика определяет три этапа синтеза создания ИС [29, 30, 33, 50, 51].
• Феноменологический - отыскиваются процессы, закономерности рождения, существование структур аналогов хаоса и порядка.
• Модельный - создание целостной модели ИС.
• Иерархический - выработка представлений об ИС как о составляющей процесса самоорганизации.
Теория самоорганизации аккумулировала в себе: бифуркацию, флуктуацию, гомеостаз, энтропию, метаболизм, равновесие, неравновесность и эволюцию [21,50]. Ключевыми понятиями теории самоорганизации (составляющими ее суть) являются хаос и порядок. Понятие «порядок» связывают с математическим соотношением элементов множеств, графов и гиперграфов. Порядок содержит в себе хаос. Хаос, как предполагается, - это то первичное состояние мира, которое предшествовало упорядочению создания природы [51]. Всякая микроструктура когда-то возникла, она уже поэтому содержит в себе элемент нестабильности (хаоса) и поэтому должна поддерживаться (пересотворяться). Хаос есть бесформенное состояние мира, где все
I
будущие потенции смешаны и не расчленены. В недрах хаоса заключены и начинают развиваться с началом космостроения два универсальных первородных импульса бытия - Инь и Ян [47, 51, 65]. Существует большое число неформальных определений хаоса [51]. Приведем основные из них: хаос - принцип становления, содержит единство противоположностей; хаос первозданное, беспорядочное состояние элементов, но ему присуще и творчески оформляющее начало; хаос - принцип устойчивости и неизменности; хаос совмещает принципы универсального порождения и поглощения.
Порядок создается из хаоса через операцию дифференциации исходных элементов, установление базовых оппозиций (активное - пассивное) и нахождение гармоничных пропорций и соотношений между ними. Порядок связан с мерным соотношением элементом (исчисляемым математически). Рождение порядка сопряжено с деструкцией и временной потерей гармонии [10-13, 51]. БЗ помогают создавать | порядок из хаоса. Основная цель БЗ - получать, хранить, перерабатывать и создавать упорядоченные знания на основе данных и расплывчатых неупорядоченных знаний. Обычно в ИС БЗ состоит из трех основных компонентов: правил, вопросов-подсказок, переводов [42-45]. В нашей ИС БЗ состоит из трех основных блоков: база общих знаний, база системных знаний, база прикладных знаний. В первом блоке хранятся общие знания, необходимые для решения всех оптимизационных задач. Во втором блоке - знания о всех внутренних связях самой системы. В третьем блоке - все прикладные знания, например описание предметных областей, правила и ограничения на принятия решений, комплексы алгоритмов и т.п. В отличие от стандартных БД, которые также присутствуют в ИС и взаимодействуют с БЗ, последние позволяют обрабатывать знания и в результате этого получать новые знания [18].
В настоящее время в ИС используются семиотические БЗ. Основными требованиями в них для объектов, называемых знаниями, являются именованность, структурированность, иерархичность, связность, активность и рефлексивность. БЗ удобно представлять в виде сети фреймов, гиперграфов или графов. Причем каждый рейм связывает воедино знания о данной ситуации и предсказывает, какие объек-ы будут обрабатываться, какие события могут произойти. В математических мо-;елях ИС фреймы являются совокупностью процедурных и декларативных знаний прикладных моделях и состоят из множества слотов. Слоты содержат знания о [конкретной ситуации. Кроме того, слоты могут осуществлять вызов прикладных программ из программного обеспечения и т.д.. Слоты одного фрейма взаимодействуют со слотами других фреймов, образуя в случае бинарных связей граф, а в ¡случае п-арных связей - гиперграф.
Важной задачей является поиск и преобразование информации в таких графовых гиперграфовых моделях. Можно предложить совместное использование эксперт-ых систем (ЭС) и методов эволюционной адаптации, гомеостатических и синерге-•ических принципов (ГП и СП) для эффективного решения таких задач. ЭС ИС юзволяют разработать структурированную схему, отражающую весь ход процесса ятимизации. Эта схема дает возможность составить конечное множество вопросов, :оторые помогут пользователю эффективно произвести весь процесс ПР [5, 44, 45]. принятие решений - это творческий интеллектуальный труд субъекта или ИС. При том ИС олицетворяет один из центров самоорганизации в техносфере. Если ПР яределить как процесс преобразования потребности в результат, являющийся эле-ентом в эволюционирующей технологической среде, то ПР интерпретируется как окальный акт самоорганизации в интегрированной среде, который планируется и аправляется самой средой [9, 20].
Сейчас ЭС ИС - это программно-алгоритмические комплексы, выполняющие разнообразные функции [44, 45]. Они могут: консультировать пользователя; анализировать промежуточные и конечные результаты принятия решений; обучать пользователя и ЭВМ; обучаться в процессе решения конкретной задачи; давать
советы пользователю и ЭВМ; классифицировать рассматриваемую проблему; I производить поиск на заданных математических моделях; принимать конкретное 1 решение на любом этапе оптимизации; делать достоверные выводы из неполных и расплывчатых данных и знаний; взаимодействовать с другими ЭС; передавать и приобретать новые знания. Другими словами, ЭС помогают ИС накапливать и обрабатывать различные виды глубинных и поверхностных знаний или их представлений в виде соответствующих моделей. Глубинные знания обычно помогают] отображать разрабатываемую структуру [44, 45]. К ним относятся причинные! модели, категории, абстракции, аналогии. I
Понятие «аналогия» (от греческого соответствие, сходство) - сходство предметов в каких-то свойствах. Аналогия - один из основных приемов описания систем. В работе [51] отмечено, что новая идея появляется в результате сравнения двух вещей, которые еще не сравнивались, а процесс познания есть отыскание аналогий. При I этом важны не поверхностные аналогии, а изоморфизмы в математическом смысле, т.е. строгое соответствие между всеми элементами сравниваемых систем. На пути проведения аналогий между концепциями происходит целенаправленное развитие новой теории ИС. Поверхностные представления знаний - это простые эмпирические ассоциации, которые формируются на основании условных правил, типа «Если X, то Y» или их модификаций. ЭС ИС в основном моделируют и интерпретируют действия пользователя по организации своих знаний об объекте и делают из них выводы. В основном ЭС ИС может состоять из трех блоков: синтаксический анализатор (интерпретатор), выполняющий грамматический разбор предложений пользователя во время работы; примитивы в обработке знаний; структура языка, обеспечивающая возможность выполнения пошаговой компиляции. В определенном смысле ЭС ИС помогают применить опыт пользователя ЭВМ при принятии эффективных решений.
В заключение отметим, что важнейшим в развитии ИИС является принцип целого, или принцип синтезированной троицы на любом иерархическом уровне, что следует из учений древности и современных исследований. Предложена новая концептуальная схема ИИС, использующая идеи самоорганизации и установления баланса. Приведена структура трехуровневой адаптивной ИИС для принятия решений на микро-, макро- и метауровнях.
Литература
1. Искусственный интеллект: В 3-х кн. Кн. 1. Системы общения и экспертные системы: Справочник /Под ред. Э.В. Попова. М.: Радио и связь, 1990.
2. Искусственный интеллект: В 3-х кн. Кн. 2. Модели и методы: Справочник /Под ред. Д.А. Поспелова. М.: Радио и связь, 1990.
3. Нильсон Н. Принципы искусственного интеллекта. М.: Радио и связь, 1985.
4. Хант Э. Искусственный интеллект. М.: Мир, 1978.
5. Левин Р. и др. Практическое введение в технологию искусственного интеллекта и экспертных систем с иллюстрациями на Бейсике. М.: Финансы и статистика, 1990.
6. Реальность и прогнозы искусственного интеллекта. Сб. статей. М.: Мир, 1987.
7. Попов Э.В., Фирдман Г.Р. Алгоритмические основы интеллектуальных роботов и искусственного интеллекта. М.: Наука, 1976.
8. Тарасов В.Б. Искусственная жизнь и нечеткие эволюционные системы - основные теоретические подходы к построению интеллектуальных организаций //Известия АН. Теория и системы управления, 1998. №5. С.12-23.
9. Суворов В.В. Интеллект в нейробиологии, психологии и интерактивных технологиях. М.: Изд-во МГУ, 1999.
0. Таранов П.С. Мудрость трех тысячелетий. М.: Изд-во ACT, 1998.
1. Таранов П.С. Энциклопедия высокого ума. М.: Изд-во ACT, 1997.
2. Таранов П.С. Философия сорока пяти поколений. М.: Изд-во ACT, 1998.
3. Таранов П.С. Золотая философия. М.: Изд-во ACT, 1999.
4. Аристотель. Сочинения в четырех томах. Т. 1. М.: Мысль, 1976.
5. Платон. Сочинения в четырех томах. Т. 1. М.: Мысль, 1990.
6. Горский Ю.М. Основы гомеостатики (Гармония и дисгармония живых, природных, социальных и искусственных систем). Иркутск: Изд-во ИГЭА, 1988.
7. Моисеев H.H. Алгоритмы развития. М.: Наука, 1987.
8. Моисеев H.H. Математические задачи системного анализа. М.: Наука, 1981.
9. Поспелов Д.А. «Десять горячих точек» в исследованиях по искусственному интеллекту. М.: ИС, Т.1,1996.
Суворов В.В. Искусственный интеллект: проблемы и реальность. М.: Изд-во МГУ, 1998.
1. Курейчик В.В. Эволюционные методы решения оптимизационных задач: Монография. Таганрог: Изд-во ТРТУ, 1999.
2. Курейчик В.В. Об эволюционном подходе к проблеме принятия решений /Известия ТРТУ. Л>2. 2000. С. 35-38
Поспелов Г.С. Искусственный интеллект - основа новой информационной технологии. М.: Наука, 1988.
24. Лорьер Ж.Л. Системы искусственного интеллекта. М.: Мир, 1991.
25. Тей А. и др. Логический подход к искусственному интеллекту: от классической логики к логическому программированию. М.: Мир, 1990.
26. Месарович М., Мако Д., Такахара. Теория иерархических многоуровневых систем. М.: Мир, 1973.
27. Горский Ю.М. Гомеостатика: модели, свойства, патологии. Новосибирск: Наука, 1990.
28. Горский Ю.М. Основы гомеостатики. Ч. 1 (курс лекций). Иркутск: Изд-во ИЭА, 1995.
29. Пригожин И. От существующего к возникающему. М.: Наука, 1985.
30. Хакен Г. Синергетика. Иерархия неустойчивостей в самоорганизующихся системах и устройствах. М.: Мир, 1985.
31. Винер Н. Кибернетика, или управление и связь в животном мире. М.: Сов. радио, 1968.
32. Эшби У.Р. Введение в кибернетику. М.: Изд-во ин. лит-ры, 1959.
33. Колесников A.A. Синергетическая теория управления. М.: Энергоатомиздат, 1994.
34. Дульнев Г.Н. Введение в синергетику. СПб.: Изд-во «Проспект», 1998.
35. Хакен Г. Информация и самоорганизация. М.: Мир, 1991.
36. Климонтович Н.Ю. Без формул о синергетике. Минск: Высшая школа, 1985.
37. Курейчик В.В. Гомеостатические архитектуры эволюционного поиска //Тезисы докладов 1-й международной НПК «Проблемы регионального управления, экономики, права». Таганрог, 1999.
38. Курейчик В.В. Гомеостатические, синергетические, эволюционные принципы принятия решений. //Тезисы докладов 2-й международной конференции АП-СЕ. Калуга, 2000.
39. Kureichik V.V. Gomeostatic, sinergetic end evolutionery principles of decision support systems. Proceedings 4-th International conference on application of fuzzy systems and soft computing. ICAFS, Siegen, Germany, June, 2000. P.157-159.
40. Курейчик В.В. Гомеостатические ,синергетические и эволюционные принципы поиска решений. //Известия ТРТУ. №2. 2000. С. 337-338
41. Красовский A.A. Некоторые актуальные проблемы управления. //Извест РАН. Теория и системы управления. 1996. №3.
42. Осуга С. Обработка знаний. М.: Мир, 1989.
43. Уэно X. и др. Представление знаний. М.: Мир, 1989
44. Попов Э. В. и др. Статические и динамические экспертные системы. М.: Финансы и статистика, 1996.
45. Уотермен О. Руководство по экспертным системам. М.: Мир, 1989.
46. Ларичев О.И. и др. Выявление экспертных знаний. М.: Наука.,1989.
47. Теслинов А.Г. Развитие систем управления: методология и концептуальны структуры. М. : Глобус, 1998.
48. Финн В.К. Философские проблемы логики ИС //НИИ. 1999. JV»1. С. 36-51.
49. Уинстон П. Искусственный интеллект. М.: Мир, 1988.
50. Колесников A.A. Основы теории синергетического управления. М.: Фирм «Испо - Сервис», 2000.
51. Василькова В.В. Порядок и хаос в развитии социальных систем: Синергет и теория социальной самоорганизации. СПб.: Изд-во «Лань», 1999.
52. Берже П., Помо., Видаль Р. Порядок в хаосе. М.: Мир, 1991.
53. Пригожин И., Стенгерс И. Порядок из хаоса. М.: Прогресс, 1986.
54. Анохин П.К. Избранные труды. Кибернетика функциональных систем. М.: Медицина, 1998.
55. Фогель Л., Оуэнс А., Уолш М. Искусственный интеллект и эволюционное моделирование. М.: Мир, 1969.
56. Шевченко А.И. Функциональная схема формирования искусственного интеллекта. //Искусственный интеллект. Донецк, Украина. 2000. №3. С. 7-15.
57. Поспелов Д.А. Фантазия или наука: на пути к искусственному интеллекту М.: Наука, 1982.
58. Галицын Г.А., Петров В.М. Гармония и алгебра живого. М.: Знание, 1990.
59. Инге-Вечтомов С.Г. Введение в молекулярную генетику. М.: Наука, 1982.
60. Алиханян и др. Общая генетика. М.: Наука, 1985.
61. Петров Д.Ф. Генетика с основами селекции. М.: Высшая школа, 1971.
62. Яблоков В.А. Фенетика. М.: Наука, 1980.
63. Некрасов М.М. Ансамбль универсальных миров. М.: Изд-во «ИНСАН», 1992.
64. Диоген Лаэртский. О жизни, учениях и изречениях знаменитых философов. М.: Мысль, 1979.
65. Конфуций. Уроки мудрости: Сочинения. М.: Изд-во «ЭКСМО - Пресс», 1999.
66. Великие мыслители Востока / Пер.с англ. М.: КРОН - ПРЕСС, 1999.
67. Великие мыслители Запада / Пер.с англ. М.: КРОН - ПРЕСС, 1999.
68. Курейчик В.М., Курейчик В.В. Методы генетического поиска, основанные на учениях древности. //Труды 26-й международной конференции IT+SE 99. Гурзуф, Украина, 1999. С. 64-66.
