CC BY-NC
93Кибернетика и программирование
Правильная ссылка на статью:
Душкин Р.В., Андронов М.Г. — Гибридная схема построения искусственных интеллектуальных систем // Кибернетика и программирование. - 2019. - № 4. - С. 51 - 58. DOI: 10.25136/2644-5522.2019.4.29809 URL: https;//nbpublish.com'library_read_article.php?id=29809
Гибридная схема построения искусственных интеллектуальных систем
Дуикин Роман Викторович
Заместитель генерального директора по интеллектуальным транспортным системам и аппаратно-программному комплексу «Безопасный город», Общэство с ограниченной ответственностью
«ВойсЛинк»
129110, Россия, Москва, г. Мзсква, ул. Гиляровского, 48, кв. 100 И roman.dushkin@gmail.com
Аццронов Михаил Григорьевич
Ведущей инженер-разработчик, Агентство Искусственного Интеллекта 119049, Россия, г. Москва, ул. Житная, 10
ЕЗ mihandronov@gmaii.com
Статья из рубрики "Базы знаний, интеллектуальные системы, экспертные системы, системы поддержки
принятия решений"
Аннотация.
Предметом исследования является архитектура искусственных интеллектуальных систем, разработанная в рамках гибридного подхода к искусственному интеллекту. В статье предлагается авторское видение процесса построения искусственных интеллектуальных агентов на основе гибридного подхода с использованием организмических принципов. Искусственный интеллектуальный агент с гибридной схемой представляет собой «кибернетическую машину», действующую в некоторой среде и функционально взаимодействующую с ней. Интерес представляет способ взаимодействия и принятия агентом решений, в рамках которого информация из окружающей среды проходит через множество сенсоров, а потом подвергается очистке и сенсорной интеграции с дальнейшим переводом в символьный вид для принятия решений на основе символьной логики и работы универсальной машины вывода. В качестве основной методологии проведения исследования был принят системотехнический подход к анализу и построению технических систем, а также функциональный подход как дополнительный метод исследований. Новизна исследования заключается в использовании гибридной парадигмы построения искусственных интеллектуальных систем в совокупности с системотехническим и функциональным подходами при проектировании технических систем, что позволило обобщить имеющиеся данные о взаимодействии интеллектуальных агентов со средой и выявить интересные закономерности для использования при развитии систем искусственного интеллекта. Основным выводом проведённого исследования является возможность использования гибридной парадигмы для получения искусственных интеллектуальных агентов, обладающих важными плюсами
восходящей и нисходящей парадигмы искусственного интеллекта — возможностью обучаться и адекватно себя вести в неизвестном окружении и способностью объяснять причины своих решений соответственно. Этот важный вывод позволит продвинуть исследования в области объяснимого искусственного интеллекта.
Ключевые слова: искусственный интеллект, гибридная парадигма, интеллектуальный агент, системная архитектура, кибернетический подход, взаимодействие со средой, функциональный подход, системотехника, системный анализ, объяснимый искусственный инте лле кт
DOI:
10.25136/2644-5522.2019.4.29809
Дата направления в редакцию:
06-10-2019
Дата рецензирования:
10-10-2019
Введение
Наука об искусственном интеллекте - междисциплинарная область исследований, бурное развитие которой началось в XX веке. В середине XX века были предприняты попытки создать интеллектуальную систему в виде универсальной вычислительной машины, но быстро стало очевидно, что разработать интеллект in silico — чрезвычайно сложная задача. В дальнейшем благодаря совместным усилиям математиков и физиологов появилась модель искусственного нейрона и была создана первая искусственная нейронная сеть, в которой, к разочарованию ученых, тоже не зародился разум. Стало ясно, что само существование нейронной сети не гарантирует её разумность, и что разум, скорее всего, обусловлен какими-то неясными синергетическими эффектами внутри сети из многих миллионов нейронов
Выделяется два подхода к построению искусственного интеллекта. Первый известен под названиями «чистый подход» или «нисходящий ИИ». Примерами нисходящего подхода являются такие технологии, как экспертные системы, системы поддержки принятия
решений, базы знаний, машины вывода Принципы нисходящего ИИ выражаются в гипотезе Ньюэлла-Саймона: «осмысленные действия можно выполнять только при наличии в некоторой физической системе механизма символьных вычислений, а сами такие символьные вычисления являются необходимым условием наличия в этой системе
интеллекта [2]». Наиболее развитым направлением в рамках данного подхода является направление символьных вычислений, основанное на логике синтаксического манипулирования символами.
Второй подход, определение которого сформулировал Марвин Мински, получил название «грязный подход» или «восходящий ИИ». Он основывается на предположении возможности моделирования естественных низкоуровневых процессов, происходящих в
живом мозге. Данное направление объединяет такие технологии, как искусственные нейронные сети, эволюционные вычисления, а также биокомпьютинг-4!.
Фактически, две парадигмы, описанные выше, лежат в основе всякого подхода к разработке искусственных интеллектуальных систем.
И чистый, и грязный подход имеют свои достоинства и недостатки. К достоинствам чистого подхода можно отнести лёгкость интерпретации и объяснения результатов, полученных машиной логического вывода на основе символьных вычислений. При этом в рамках чистого подхода сложно работать с данными большого объёма из-за необходимости готовить для машины вывода слишком большую базу знаний, которая к тому же должна будет строиться с использованием лингвистических переменных,
значение которых определено не строго Более того, вопрос обучения искусственных интеллектуальных систем, основанных на нисходящей парадигме, до сих пор скорее открыт — окончательного формализма для описания функции самостоятельного обучения
интеллектуальных систем не предложено -Ш.
У грязного подхода проблемы скорее противоположные: искусственную нейронную сеть легко можно обучить на очень больших объёмах данных, но при этом будет почти невозможно интерпретировать полученный результат. Полного понимания того, как работает обученная искусственная нейронная сеть (для произвольной архитектуры), в
науке сейчас нет, так что сеть представляет собой «чёрный ящик» [6]. Поэтому сложно проконтролировать корректность выдаваемых нейронной сетью результатов, например, в случае попадания некорректных данных в выборку, на которых обучалась сеть. Кроме того, искусственные нейронные сети принципиально отличаются от нейронной сети в мозгу человека: в человеческом мозгу постоянно идет нейрогенез и дообучение,
действуют другие неясные эффекты, приводящие к появлению сознания Поэтому искусственные нейронные сети сами по себе не могут претендовать на интеллектуальность в человеческом понимании.
Архитектура гибридной интеллектуальной системы
Решение задачи построения искусственных интеллектуальных систем можно искать в совмещении возможностей чистого и грязного подхода. Можно попробовать построить архитектуру гибридной интеллектуальной системы, продолжая вдохновляться устройством разума и интеллекта человека, но на более общем уровне. Следующая диаграмма графически показывает общую схему взаимодействия компонентов в гибридной интеллектуальной системе, которая основана на таких принципах.
Рис. 1. Общая архитектура гибридного интеллектуального агента
Сенсоры (аффекторы) передают информацию на нейронную сеть обработки сенсорной информации, которая преобразует информацию с сенсоров к символьной информации, на основе которой универсальная машина логического вывода формирует входные данные для моторной нейронной сети. Результат работы моторной нейросети — низкоуровневые команды, которые управляют исполнительными устройствами гибридной ИС. При этом сенсоры также воспринимают информацию о состоянии компонентов самой системы.
Можно улучшить схему на рис. 1, разделив систему управления на две подсистемы, и тогда общая схема гибридной интеллектуальной системы будет выглядеть так, как показано на следующей диаграмме:
Рис. 2. Расширенная архитектура гибридного интеллектуального агента
Теперь система управления разбивается на две части:
1. Реактивная подсистема управления. Фактически, эта система реализует привычную схему управления. Сигналы с сенсоров поступают на систему управления и
обрабатываются, после чего формируются управленческие воздействия на объект управления (среду), передаваемые через исполнительные устройства. Эта система подобна «рефлекторному контуру» у человека. 2. Проактивная подсистема управления . Добавляет дополнительный уровень, служащий для интеллектуализации схемы автоматической системы управления. Данный уровень позволяет системе осуществлять самообучение, прогнозирование своего состояния и состояния среды на основе моделирования среды и данных о ней, построение планов действий, а также адаптацию к изменяющимся условиям среды. Данная подсистема реализует «условные рефлексы» гибридной системы.
Между этими двумя системами передается управленческий фокус. Когда условия поведения системы меняются, проактивный контур создаёт новый шаблон поведения, и фокус управления передается на реактивную подсистему. Для неизменных условий среды работа проактивной системы не требуется, поэтому более быстрая реактивная реакция является предпочтительной. Это и есть формирование «условного рефлекса». С другой стороны, при обнаружении изменений в среде или объекте управления во время работы реактивной подсистемы фокус управления эскалируется на проактивную для адаптации к изменившимся условиям и выработки новых шаблонов поведения системы.
Цикл функционирования гибридной системы состоит в последовательном выполнении следующих шагов:
1. Со всех сенсоров, осуществляющих мониторинг параметров среды функционирования системы, собирается входная информация. Разные типы сенсоров в данном случае являются отдельными модальностями восприятия гибридной интеллектуальной системы.
2. После сбора входной информации осуществляется очистка её от шумов и выбирается путь дальнейшей обработки. Если входная информация соответствует каким-либо автоматическим шаблонам поведения системы, то фокус управления передается в реактивную подсистему, которая выбирает и исполняет конкретный шаблон.
3 . Если для входной информации не находится автоматической реакции, то все модальности восприятия системы интегрируются в единый блок описания среды (этот блок аналогичен деятельности таламуса в человеческом мозге). На выходе этого блока формируется целостная картина восприятия среды, которая передается в проактивную управляющую подсистему.
4 . Проактивной системой формируется новое правило для реактивной системы. Это управленческое воздействие в символьном виде, которое записывается в реактивную систему и направляется на исполнение. Правило выводится проактивной системой на основе моделей системы, её поведения и среды с помощью механизма символьного вывода, поэтому может быть легко интерпретировано человеком.
5 . Символьное управленческое воздействие переводится на низкоуровневый язык и передается на исполнительные устройства, которые взаимодействуют со средой и объектом управления. Перевод может осуществляться различными механизмами. Например, нейронной сетью. После исполнения команды исполнительными устройствами цикл функционирования завершается.
Кроме всего прочего внутри гибридной интеллектуальной системы должны быть реализованы контрольные связи от всех её элементов к сенсорам. Тем самым реализуются адаптационные механизмы, основанные на постоянстве внутреннего с о с то я ния с ис те мы.
Наконец, связь от проактивной подсистемы управления в саму себя олицетворяет так называемый «внутренний конфликт», когда интеллектуальная система может моделировать различные варианты развития ситуации, которая затрагивает и её саму. Цикл оценки и выбора приемлемой альтернативы осуществляется до тех пор, пока этот внутренний конфликт не будет улажен.
Примеры применения
Гибридная искусственная интеллектуальная система получается из автоматических систем управления путём их интеллектуализации, то есть повышения адаптивности и автономности [8]. Поэтому примерами применения гибридных ИИ-систем могут служить многие хорошо знакомые, но интеллектуализированные в гибридной парадигме автоматические системы управления. Следующие примеры являются реальными примерами, взятыми из рабочей практики авторов, для которых приводятся соответствующие ссылки на более детальные описания реализаций.
1. Интеллектуальная система управления дорожным движением. Автоматизированные системы управления дорожным движением призваны обеспечивать безопасность и оптимальную скорость дорожного движения. При массовом внедрении беспилотных автомобилей интеллектуальные транспортные системы становятся логическим продолжением идеи автоматизации дорожного движения. Переход к интеллектуальным транспортным системам осуществляется при помощи перевода режима управления с традиционного программного (включающего календарное управления) на адаптивное управление дорожным движением на всей улично-дорожной сети населённого пункта. В этом случае эффекторами интеллектуальной системы управления становятся объекты периферийного оборудования и технические средства организации дорожного движения, расположенные на дорогах и объектах придорожной инфраструктуры. Решения об управленческих воздействиях принимаются системой в зависимости от параметров транспортных потоков и прогнозов, данных транспортной моделью с учётом развития дорожной и
метеорологической обстановки
2. Системы управления умным домом. Системы управления зданиями могут быть спроектированы в гибридной парадигме. Здание может содержать большое количество различных датчиков, осуществляющих мониторинг состояния его внутренней среды. Некоторые выделенные параметры среды необходимо поддерживать постоянными. Наличие в системе управления умным зданием реактивной подсистемы позволяет реагировать на известные ситуации, которые были учтены проектировщиками здания заранее, однако с новыми неучтенными проблемами одна реактивная система не справится. Добавление к контуру управления проактивной подсистемы позволит системе самообучаться в процессе функционирования и корректно реагировать на новые изменения, возникающие в
среде
3. Интеллектуализация технологических процессов. В схему гибридной интеллектуальной системы можно уложить практически любой автоматизированный технологический процесс. Подобно системе управления зданием, в систему управления технологическим процессом должна быть добавлена проактивная подсистема управления, содержащая модели объекта управления и среды его функционирования. Проактивная подсистема повысит интеллектуальность технологического процесса за счёт прогнозирования и планирования управленческих воздействий с самообучением в автоматизированном режиме на основе сравнения прогноза, плана и факта [10, 11].
4. Интеллектуализация дистанционного образования. Привычный процесс дистанционного образования основан на самостоятельном изучении слушателем материалов курса и общения на форумах с другими слушателями и преподавателями. Анализ задаваемых на форумах вопросов показывает, что большинство вопросов, относящихся к теме курса, являются типовыми. С целью интеллектуализации системы онлайн-обучения этом случае можно использовать интеллектуального агента (например, чат-бота) для автоматического формирования ответов на вопросы слушателей на естественном языке. Выдача ответов может вестись в персонифицированном режиме с автоматизированным обучением интеллектуального агента ответам на вопросы, на которые агент ранее не давал ответов
Заключение
Данная в настоящей работе архитектура гибридной интеллектуальной системы описывает отдельный класс ИС, который основан на высокоуровневом копировании отдельных аспектов функционирования человеческого интеллекта. Можно предположить, что уточнение предложенной архитектуры конкретными технологиями при реализации таких интеллектуальных систем позволит повысить эффективность применения решений на основе искусственного интеллекта.
Приведённые примеры применения описанной архитектуры показывают, что предлагаемая архитектура и подход достаточно универсальны, чтобы применяться в различных проблемных областях. Вместе с тем, эти вопросы пока ещё открыты, и требуются дополнительные исследования открывающихся возможностей, способов применения и возникающих эффектов.
Библиография
1. Ященко В.А. Теория искусственного интеллекта (основные положения) // ММС. 2011. №4. 17 с.
2. Рассел С., Норвиг П. Искусственный интеллект: современный подход. М.: Вильямс. 2006. 1408 с.
3. Черненко В.В., Пискорская С.Ю. Экспертные системы // Актуальные проблемы авиации и космонавтики. 2012. №8. С. 322-323.
4. Душкин Р.В. Обзор подходов и методов искусственного интеллекта // Радиоэлектронные технологии. 2018. № 3. С. 85-89.
5. Нариньяни А.С. Недоопределенность в системах представления и обработки знаний // Известия АН СССР. Техн. кибернетика. 1986. № 5. С. 3-28.
6. Tong A., van Dijk D., Stanley J.S., Amodio M., Wolf G., Krishnaswamy S. Graph Spectral Regularization for Neural Network Interpretability. In Proc.: ICLR. 2019. p. 9.
7. Steiner E., Tata M., Frisén J. A fresh look at adult neurogenesis // Nature Medicine. 2019. p. 542-543.
8. Thacher R.W., John E.R. Foundations of Cognitive Processes. Hillsdale, N. J.: Erlbaum. 1977. 294 P.
9. Hofstadter D., Dennett D. The Mind's I: Fantasies and Reflections on Self and Soul. Philosophical Quarterly. 1981. 501 P.
10. Нечаев С.Ю. Китайская комната Дж. Р. Серля в контексте проблем философии искусственного интеллекта // Изв. Сарат. ун-та Нов. сер. Сер. Философия. Психология. Педагогика. 2010. №4. c. 19-24.
11. Душкин Р.В. Особенности функционального подхода в управлении внутренней
средой интеллектуальных зданий // Прикладная информатика. 2018. Т. 13. № 6 (78). С. 20-31.
12. https://bespilot.com/chastye-voprosy/kak-rabotaet-bespilotnyj-avtomobil (дата обращения: 12.05.2019).
13. Андреева Е.А., Белкова Е.В., Душкин Р.В., Жарков А.Д., Курочкин Е.А., Левин Н.В., Морозов В.П. Тематический обзор Ассоциации Транспортных Инженеров: системы адаптивного управления дорожным движением и дорожные контроллеры. Вып. № 2/2017. СПб.: ООО «Издательско-полиграфическая компания «КОСТА». 2017. 48 С.
14. Batty M. et al. Smart Cities of the Future // European Physical Journal ST. 2012. 214. P. 481-518.
15. Душкин Р.В., Жарков А.Д., Иванов Д.А. От безопасного к умному городу. Нижний Новгород: ИТ Форум 2020. «Развитие цифрового государства. Создание систем весогабаритного контроля, интеллектуальных транспортных систем». 2017. 3 с.
16. Ицкович Э.Л. Методы рациональной автоматизации производства. М.: Инфра-Инженерия. 2009. 256 с.
17. Душкин Р.В., Коптев А.П. Автоматизация деловых процессов при помощи Единого комплекса автоматизированных систем управления предприятием // Сборник тезисов докладов I международной научно-практической конференции «ИНТЕХМЕТ-2008». 2008. С. 33-34.
18. Душкин Р.В. Развитие методов адаптивного обучения при помощи использования интеллектуальных агентов // Искусственный интеллект и принятие решений. 2019. № 1. С. 87-96.
