CC BY
99
УДК 001.8
СТРАТЕГИИ ИНТЕЛЛЕКТА И ЕГО ОНТОЛОГИИ: ПОПЫТКА РАЗОБРАТЬСЯ
Н.М. Боргест
Самарский национальный исследовательский университет им. академика С.П. Королева, Самара, Россия
Институт проблем управления сложными системами РАН, Самара, Россия
Аннотация
Автор предлагает вступить в дискуссию по вопросам стратегий развития искусственного интеллекта, технологий и систем искусственного интеллекта. Статья предваряется предисловием в форме послания из инобытия, а завершается послесловием в форме обращения к разработчикам искусственного интеллекта. Мотивом написания статьи явилась принятая в России стратегия развития искусственного интеллекта на период до 2030 года. В статье обсуждаются используемые понятия: интеллект, интеллекты индивидуума и социума, их стратегии, искусственный интеллект, онтологии и объяснимый искусственный интеллект, инобытие как онтология проектирования. Приведены ссылки на обзоры стратегий развития искусственного интеллекта, принятые в ведущих странах мира, анализируются стратегии, принятые в России и США. В российской стратегии отмечается наличие критериальных проблем и не согласованность целей и предложенных показателей, отсутствие онтологий предметных областей при разработке систем искусственного интеллекта. В американской стратегии отмечены: сделанные в ней акценты на понятный, заслуживающий доверие, надёжный и безопасный искусственный интеллект; онтологии и стандарты, принятые и разрабатываемые с целью укрепления лидерства США в создании искусственного интеллекта. В заключении делается вывод о важности и необходимости разработки и применения онтологий при создании объяснимых систем искусственного интеллекта, интегрированных в социум.
Ключевые слова: стратегии, естественный интеллект, искусственный интеллект, онтологии, индивидуум, социум.
Цитирование: Боргест, Н.М. Стратегии интеллекта и его онтологии: попытка разобраться / Н.М. Боргест // Онтология проектирования. - 2019. - Т. 9, №4 (34). - С.407-428. - DOI: 10.18287/2223-9537-2019-9-4-407-428.
Предисловие: послание из инобытия
Дмитрий Александрович Поспелов1 - инициатор и организатор исследований по искусственному интеллекту (ИИ) в нашей стране - в своей последней статье [1], написанной в жанре фантастического рассказа путешествующих в «инобытие», сформулировал свойство разумности, которое «связано с наличием свободы выбора в альтернативных ситуациях и способностью к рефлексии, позволяющей разумному существу ставить себя на место другого существа и прогнозировать возможные решения этого «другого»». В этом лаконичном определении отмечены возможности действий, но не нашли отражения принципы и критерии оценки этих действий, характерные атрибуты разумных существ. Очевидно, что гиппо-кратовский принцип «не навреди» по умолчанию присутствует у разумных существ, как впрочем, и важное свойство «игра в долгую», когда действия текущие имеют стратегически позитивный результат. Но главной итог этой его работы об «облаке» - предостережение, которое он выразил в иносказательной форме: «Возможно, что атомный гриб нарушил связь
1 См. статью «От редакции» в этом номере журнала, посвящённую Д.А. Поспелову (19.12.1932 - 30.10.2019)
Онтология проектирования, том 9, №4(34)/2019
миров: наши обладающие большими знаниями братья по разуму отшатнулись от нас, сделавших первый роковой шаг на пути к собственной гибели» [1]...
Вот и Римский Клуб, с момента своего образования озабоченный будущим человечества, стремится дать вектор, показать и обосновать текущие проблемы, указать стратегию для мировой элиты. Подавляющее большинство ежегодных его отчётов подтверждают приверженность Клуба быть интеллектуальным чувствительным датчиком цивилизации. Но пока это лишь «глас вопиющего в пустыне».
Наша цивилизация, как некая организованная сущность социальных млекопитающих, не обладает всеобщим интеллектом, вернее - этот естественный сформированный эволюцией разум - есть, он проявляет себя в совместных и согласованных действиях, не имея до прихода Интернета общего хранилища и коммуникатора между активными особями. Этот разум через своих продвинутых индивидуумов видит и понимает происходящее, но не вполне осознаёт изменения, которые им же инициированы в собственной и, как оказалось, очень ограниченной для него среде обитания. Обратная связь включается только тогда, когда сигнал изменений доходит до элиты2, до «её жизненно-важных органов», только тогда срабатывает рефлексия. Что касается теории В.И. Вернадского о ноосфере (сфере разума), то с утверждением о состоявшейся уже реальности ноосферы трудно согласиться, в то время как неотвратимость её наступления, по мнению автора, очевидна.
В отличие от юбилейного отчета3 Римского Клуба отчёт «Прекрасное будущее»4 показывает, что у человечества есть «шанс построить восстановительную экономику посредством сочетания просвещённого предпринимательства, технологий и инновационной политики. Авторы - мировые лидеры в области бизнеса, экономики и устойчивого развития - рисуют в общих чертах принципы восстановительной экономики и детализируют стратегическую дорожную карту для её достижения, в которой - повышение благосостояния людей». Ободряющие декларации о благе народа можно слышать от его «слуг» в разных формах как в странах реальной, так и виртуальной демократии, начиная со времён Платона до наших дней. Пока же элита идёт по сценариям, описанным ещё на рубеже тысячелетия:
«Элита получит больший контроль над массами; а в силу того, что человеческая работа больше не будет необходима, массы окажутся лишним, бесполезным бременем на системе. Если элита безжалостна, они могут просто решить истребить большую часть человечества. Если же гуманна - то могут использовать пропаганду или другие психологические или биологические методы, чтобы уменьшить коэффициент рождаемости, пока большинство не вымрет, оставив мир элите. Или, если элита состоит из мягкосердечных либералов, то они могут решить поиграть роль хороших пастухов по отношению к остальной части человеческой расы» [2].
Эти мрачные прогнозы базируются на жестокости и неравенстве, свойственным сущностям органического мира, о которых в своё время писал теоретик и философ космонавтики К.Э. Циолковский:
«.Равенства в мире органическом, очевидно, быть не может. Человек уничтожает вредные и ненужные ему растения, хищных или ядовитых и бесполезных животных... Отчего же такая жестокость. Ясно, что от неравенства устройства тел, от неравенства органических существ. Человек сильнее и уничтожает своих неразумных и слабых врагов... Но такое же неравенство существует и между людьми... нравственные и умственные качества людей безмерно различны. Один ленив, другой умирает в труде. Один туп до того, что не умеет считать и не может одолеть грамоту, другой изобретает высшую математику, открывает устройство мира и его законы. Один всегда лжет и лукавит, другой правдив. Один жесток, другой добр. Один заботится о семье и близких, другой - только о самом себе. Один силён, другой калека. Один красив, другой безобразен.» [3].
Возможно, эволюционно это верно и оправданно в дикой природе, но просвещённое человечество не может мириться с этим и надеется, что разум выработает более гуманную стратегию развития человечества, как отмечал В.И. Вернадский в теории о ноосфере.
2 Элита - устойчивая общность с глубокими связями входящих в неё людей, осуществляющих управление социумом и выработку моделей общественной жизни.
3 См. статью «От редакции» в 1 номере журнала за 2018 «COME ON!».
4 https://www.clubofrome.org/report/a-fmer-future/
«...человеческий мозг — это пустой чердак, куда можно набить всё, что угодно. Дурак так и делает: тащит туда нужное и ненужное... В моём чердаке только необходимые мне инструменты».
Шерлок Холмс (А.К. Дойл «Этюд в багровых тонах»)
«Искусственный интеллект — это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира».
В.В. Путин
Введение: мотив и истоки
Достижения информационных технологий позволили обратить внимание правительств развитых государств на ИИ с благими целями, которые присутствуют в принятых декларациях этих государств. Языковые, культурные и ментальные различия стираются, но ещё существенны, а разница материального благополучия граждан, возможность доступа к различным ресурсам и услугам, к сожалению, не способствуют гармоничному развитию обществ.
Основным побудительным мотивом написания статьи именно сейчас явилась принятая 10.10.2019 г. в России «Национальная стратегия развития искусственного интеллекта на период до 2030 года» [4].
За годы своего эволюционного развития природный, биологический или естественный интеллект (ЕИ) человека и интеллект социума в целом позволил активно взяться за создание ИИ. Исследования и разработки по ИИ вышли из лабораторий и активно вторгаются в нашу обыденную жизнь. Быстро растёт число функций, традиционно считавшихся присущими лишь ЕИ, которые с большей эффективностью выполняются программными системами и ро-бото-техническими устройствами. Глобальный Интернет стёр границы государств, позволил беспрепятственно коммуницировать всем жителям Земли и претендует на хранилище всех человеческих знаний, которые стали доступными. Это позволяет надеяться на синергию от приобщения всех жителей Земли к знаниям и вовлечения их в позитивный процесс приращения новых знаний.
Первые успехи в разработке научных основ и технологий ИИ в России, по мнению автора, приходятся на 80-е годы прошлого столетия, когда вышла серия книг проф. Д.А. Поспелова5, монографии академиков Г.С. Поспелова [5] и В.М. Глушкова [6], был подготовлен трёхтомник «Искусственный интеллект» [7], активно велись работы по автоматизации многих процессов, включая проектирование сложной техники [8-10]. В этих и других работах ИИ рассматривался как одно из научных направлений информатики, а «предметом его исследований является создание вычислительных систем, обладающих следующими свойствами: имитация творческих процессов; логический вывод; восприятие естественно-языковых запросов и команд; аккумуляция знаний в ЭВМ» [5]. Тогда же была создана Советская ассоциация ИИ, впоследствии реорганизованная в Российскую ассоциацию ИИ (РАИИ)6.
Если попытаться представить наличие некой обобщённой стратегия ЕИ, то она во многом неопределённая и в большинстве случаев отсутствует по многим причинам. Стратегия же ЕИ индивидуума в силу конечности бытия и в определённой степени осознания этого сводится для многих к удовлетворению обыденных потребностей, где безопасность и физио-
5 «Логико-лингвистические модели в системах управления» (1981), «Фантазия или наука: на пути к искусственному интеллекту» (1982), «Оркестр играет без дирижёра. Размышления об эволюции некоторых технических систем и управлении ими» (1984), «Ситуационное управление. Теория и практика» (1986), «От амёбы до робота: модели поведения» (1987), «Представление знаний о времени и пространстве в интеллектуальных системах» (1988), «Моделирование рассуждений» (1989), «Нормативное поведение в мире людей и машин» (1990).
6 Официальный сайт РАИИ - http://raai.org.
логические нужды соперничают с самореализацией в социуме. Стратегия ЕИ социума - это «забота» и интерес государств и союзов государств о своём сосуществовании. Видимо, это и определило активное намерение государств участвовать в освоении, контроле и управлении процессами в области ИИ.
«Предел» человеческой потребности, описанный великим А.С. Пушкиным в «Сказке о рыбаке и рыбке» в виде желания быть «владычицей морской», греет душу амбициозным политикам. А всё потому, что важнейшей онтологической доминантой в процессах управления общества и социотехнических систем является потребность в приращении [11]. Эта потребность адекватно реализуется лишь в человеко-машинной системе, где человек, включённый в неё, соотносит свои потребности с возможностями общества. Но для этого нужен человек разумный, способный на консенсус во благо общества, так как он сам часть его самого и целиком зависящий от него [12, 13].
ИИ пока развивается по тому же принципу, что и другие революционные технологии, когда положительные результаты внедрения перевешивают отрицательные последствия [14], хотя уже сегодня влияние ИИ сопоставимо с тем, когда человек, как один из видов млекопитающих, стал доминировать, укротив огонь.
1 Используемые понятия
1.1 Интеллект
ЕИ, рассматриваемый как прототип ИИ, часто отождествляется с некой идеализированной разумной сущностью, способной объяснить свои поступки, действия и намерения, не скрывая и не обманывая. Что не соответствует реальной картине человеческой сущности, которая состоит из эмоций, настроений, естественного забывания, обмана, хитрости и других «слабостей». Моделируя ИИ, эти «слабости» ЕИ стремятся не учитывать. Учесть следует и различия или неравенства, отмеченные выше К.Э. Циолковским в [3].
Из многочисленных книг по ИИ, выпущенных в нашей стране и за рубежом [14-18], в которых обсуждаются понятия ЕИ и ИИ, хотелось бы отметить работу «технологического евангелиста» Романа Душкина, директора по науке и технологиям Агентства искусственного интеллекта [19]. Чтобы оценить работу Р.В. Душкина, можно воспользоваться советом Бертрана Рассела, который он дал в предисловии к своей книге: «Пророк сказал, что если два текста Корана оказываются несовместимыми, последний должен рассматриваться как наиболее авторитетный. Я хотел бы, чтобы читатель применил подобный принцип и в истолковании того, что сказано в этой книге» [20]. Конечно, Рассел имел ввиду многочисленные редакции своей книги, переиздаваемой на протяжении 25 лет с 1923 по 1948 год. Но в данном случае можно позволить применить этот совет к книге молодого, успешного практикующего учёного, который взял на себя труд «пропустить через себя» полученные им знания предшественников.
Р.В. Душкин предложил оригинальную классификацию подходов к разработке ИИ, задач, решаемых методами ИИ, и её представление в виде матрицы. Если расположить в матрице подходы и парадигмы в строках, а решаемые задачи в столбцах, то получится своеобразная «периодическая система технологий ИИ» (см. рисунок 1), в ячейках которой будут перечислены различные методы конкретного подхода для решения конкретной задачи.
Выделенную на рисунке 1 нижнюю строку можно принять за стремление автора отождествлять ИИ искусственной нейронной сети (НС), что не решает проблему объяснений результатов работы сети.
Рисунок 1 - Периодическая система технологий ИИ [19]
С другой стороны, автор справедливо отмечает, что символьный подход в ИИ сегодня незаслуженно отставлен в сторону. Скорее всего, это произошло из-за раннего разочарования в нём по причине того, что естественный язык как наиболее развитая символьная система, используемая человеком, является очень сложной и плохо формализуемой. Неопределённость высказываний, нечёткость формулировок, разного рода неточности измерений параметров - всё это вносит вклад в повышение сложности принятия решений на основе работы с символьной информацией. И если человек как-то справляется с этим в условиях неопределённости, неполноты и даже противоречивости входной информации, то обучить этому искусственную интеллектуальную систему достаточно сложно. Впрочем, это возможно [19].
ИИ - это междисциплинарная область исследований и набор технологий, позволяющий создавать технические системы, решающие задачи, ранее доступные только человеку.
Искусственная интеллектуальная система, или ИИ-система - это техническая система, которая при помощи методов и технологий ИИ решает задачу или набор задач, ранее доступных только человеку. При этом ИИ-системы обладают двумя важными качествами:
■ автономность - это свойство системы, позволяющее ей действовать и принимать решения полностью самостоятельно;
■ адаптивность - это свойство системы, которое позволяет ей действовать в условиях изменчивости внешних воздействий, обрабатывая такие входные данные, которые не предусмотрены её изначальным проектом.
Пожалуй, самые лаконичные определения этих же понятий даны в ISO / IEC 3WD 22989 «Информационные технологии. Искусственный интеллект. Концепции и терминология искусственного интеллекта».
ИИ - это способность системы приобретать, обрабатывать и применять знания (знания -это факты, информация и навыки, приобретенные в результате опыта или обучения).
Система ИИ - это техническая система, которая использует ИИ для решения проблем.
1.2 Стратегии интеллекта индивидуума
В общем случае стратегия - это недетализированный план какой-либо деятельности, охватывающий (и это принципиально) длительный период времени, способ достижения цели, являющейся главной на данный момент и в дальнейшем корректируемой под изменившиеся условия. В исследовании операций стратегия - это способ использования средств и ресурсов, направленный на достижение цели операции. Стратегия определяется значениями управляемых переменных, для выбора которых важно знать значения неуправляемых переменных. Задача исследования операций состоит именно в выборе оптимальной стратегий из числа альтернативных на основе того или иного критерия [21]. Часто стратегию рассматривают как декларацию о намерениях, которую можно встретить в форме разного рода конституций, миссий и пр. нормативных документов, или жизненных кредо, клятв, кодексов.
Логично начать рассмотрение понятия стратегии применительно к индивидууму, как части целого, каковым является социум, приняв допущение, что эта часть целого формирует его стратегию. Во многом современные парадигмы общественного устройства передовых стран исходят из того, что именно нужды и потребности, права и свободы членов общества являются основой и приоритетом его развития. Значение древнегреческого понятия стратегия означает «искусство полководца», и полководцем здесь выступает, казалось бы, сам человек. Но всё протекает во времени, и человек становится способным к формированию своей стратегии, лишь пройдя долгий путь образования (обучения, воспитания). На этом этапе его взросления стратегию его развития формирует среда, социум, в котором он заполняет свою НС знаниями, навыками, умениями, формирует понятия, в опыте вырабатывает принципы бытия, впитывает культуру среды. На основе освоенного языка (языков) он способен комму-ницировать с другими индивидуумами и тем самым становиться членом сообщества, принимать его правила, жить в нём, вырабатывать свою стратегию, свою линию жизни.
1.2 Стратегии социального интеллекта
«Причина в том, что такова была наша изначальная природа, и мы составляли нечто целое. А страстное желание целостности и стремление к нему - это и есть то, что называют любовью».
Платон (Диалог «Пир»)
Необходимость организации структуры для выработки согласованной стратегия социального интеллекта была обусловлена созданием человечеством оружия, способного уничтожить всю цивилизацию на Земле. Пока элита не осознала пагубность содеянного, побуж-
дающей причины не было.
Созданная после Второй мировой войны Организация Объединённых Наций (ООН) приняла Всеобщую декларацию прав человека7 на Генеральной Ассамблее ООН как основополагающий документ, определяющий принципы развития цивилизации, которым обязаны следовать народы и страны. Этот обязывающий документ - не план действий со сроками, ресурсами и ответственными, он - вектор устремлений наций, озабоченных своим сосуществованием. Декларация лежит в основе всех последующих действий, по ней подписанты оценивают поступки друг друга, поддерживают или осуждают их, именно с опорой на неё прини-
' Всеобщая декларация прав человека - https://www.un.org/ru/universal-declaration-human-rights/index.html.
маются последующие декларации, конкретизирующие согласованные действия. Например,
Резолюция 74/4, принятая Генеральной Ассамблеей 15 октября 2019 года об устойчивом раз-
8
витии .
В этом документе ООН говорится: «Сегодня мы даём старт масштабному и ускоренному движению за реализацию нашего общего видения к 2030 году и обещаем сделать предстоящее десятилетие десятилетием действий и свершений... Мы будем предпринимать более осязаемые шаги к тому, чтобы поддержать людей, находящихся в уязвимой ситуации, и наиболее уязвимые страны и охватить в первую очередь самых отстающих... Мы сохраняем решимость в течение периода до 2030 года покончить с нищетой и голодом во всем мире; бороться с неравенством внутри стран и между ними; строить миролюбивое, справедливое и свободное от социальных барьеров общество; уважать, защищать и реализовывать права человека и добиваться гендерного равенства; обеспечить надёжное сохранение нашей планеты и её природных ресурсов. ».
Среди обязательств, которые приняли на себя участники Ассамблеи, стоит выделить близкий научному сообществу пункт ^ «задействовать науку, технику и инновации, уделяя больше внимания цифровым преобразованиям в интересах устойчивого развития: мы будем поощрять исследования, инициативы по наращиванию потенциала, инновации и технологии, помогающие достичь целей в области устойчивого развития, и содействовать использованию научных данных из всех областей для того, чтобы сделать возможным переключение на устойчивое развитие».
Особый восторг вызывает 15-ый пункт Декларации: «Повестка дня на период до 2030 года — это наш обет сегодняшним детям и молодежи, позволяющий им полностью раскрыть свой человеческий потенциал и донести факел устойчивого развития до будущих поколений».
В отличие от упомянутого в предисловии к этой статье Римского Клуба, более широко известен Всемирный экономический форум, который предлагает Платформы для объединения усилий по решению мировых проблем.
Всемирный экономический форум в Давосе - это главная творческая сила для привлечения ведущих мировых лидеров к совместной деятельности для формирования глобальных, региональных и отраслевых программ. Ближайшая встреча состоится 21-24 января 2020 г. в Давос-Клостерс, Швейцария, и его тема созвучна Резолюции Генассамблеи ООН «Устойчивость развития»9. Подобные вопросы обсуждались и на Ежегодной встрече Советов Глобального Будущего, прошедшей 3-4 ноября 2019 г. в Дубае10. Темы четвёртой промышленной революции, ИИ и робототехники - в центре внимания этой встречи [22]. Как глобальная проблема на форуме рассматриваются роботы и ИИ (см. рисунок 2) [23].
Социальный интеллект первоначально формирует свою «повестку дня», свою стратегию на уровне государств. Хотя начинается его формирование, конечно, с семьи. Продолжается в школе, в той среде, в которой происходит коммуникация, совместно вырабатываются решения, понятия, где основными акторами являются дееспособные граждане.
Поставленный в книге о всемирном сетевом разуме [15] вопрос в названии раздела «Интернет + человечество = интеллект?» спустя восемь лет после её выхода представляется риторическим.
8 Декларация политического форума высокого уровня по устойчивому развитию - https://undocs.org/ru/A/RES/74/4.
9 Sustainability at the Annual Meeting 2020 - http://www3.weforum.org/docs/WEF_Sustainabiliy_at_the_Annual_Meeting_ 2020.pdf.
10 Annual Meeting of the Global Future Councils - https://www.weforum.org/events/annual-meeting-of-the-global-future-councils-2019.
Рисунок 2 - Онтология Artificial Intelligence and Robotics по версии World Economic Forum
1.4 Онтологии
С учётом затронутой тематики, связанной со стратегией ИИ, стоит привести краткое описание этого важного понятия из обновлённого «Стратегического плана научных исследований и развития национального ИИ на 2019 год» [24], подготовленного Комитетом по ИИ Национального совета науки и технологий США в июне 2019 года.
В частности, со ссылкой на стандарт IEEE Std 1872™-2015 (IEEE Standard Ontologies for Robotics and Automation) в стратегическом плане отмечается:
«Онтология играет фундаментальную роль, она формально определяет ключевые понятия, свойства, отношения и аксиомы данной области. В отличие от таксономий, которые
предоставляют только набор словарного запаса и единый тип отношений между терминами, онтология предоставляет более богатый набор отношений, ограничений и правил. В общем, онтологии делают соответствующие знания о ПрО явными в компьютерно-интерпретируемом формате, что позволяет программному обеспечению (ПО) рассуждать об
этих знаниях для вывода новой информации.
Кроме того, онтологии являются отличным инструментом для уменьшения двусмыслен-
ности в передаче знаний между группами людей, роботами и другими искусственными си-
стемами, которые разделяют ту же концептуализацию».
Удивительным образом сходятся взгляды онтолога-философа [25] и онтолога-практика [26] при построении онтологий саморазвивающихся интеллектуальных сред и онтологий предприятий на основе экспириентологического подхода. Только в содружестве философов, психологов, лингвистов, компьютерщиков, датасайентистов и предметников можно преуспеть в создании ИИ [25-29]. И общим для них будет язык [29].
1.5 Онтологии и объяснимый ИИ [30]
Значительное увеличение использования методов машинного обучения (МО) обусловлено наличием огромного количества уже накопленных данных, на основе обработки которых методы МО строят сложные статистические модели. К сожалению, разработчики этих моделей затрудняются объяснить, как на их основе приходят к тем или иным выводам, поскольку каждое решение является результатом работы программы, которая включает весь набор данных, используемых для разработки модели. Поэтому встал вопрос объяснения (Explanations - пояснение, разъяснение, толкование), а также какие критерии могут использоваться для оценки точности объяснения.
Саммит онтологов, прошедший летом 2019 года, обсуждал, как онтология может принести пользу проблеме автоматизации объяснений сложных систем. Ведь объяснение - это ответ на вопрос «Почему?». Объяснения обычно происходят в контексте процесса, который может быть диалогом между человеком и системой или процессом связи между агентами двух систем. Объяснения также происходят в социальных взаимодействиях, когда излагают
точку зрения или интерпретируют поведение.
Тема онтологического саммита, вдохновлённая проектом Агентства перспективных исследовательских программ в области обороны США (DARPA - Defense Advanced Research Projects Agency) DARPA Explainable AI (XAI - объяснимый или интерпретируемый ИИ), рассматривалась как общая проблема объяснения (см. рисунок 3).
На саммите рассматривались не только системы ИИ, которые могут объяснить их действия, но также и интеллектуальные инженерные системы, которые могут взаимодействовать друг с другом. С ростом количества ПО, предназначенного для промышленной автоматизации и управления процессами, эта возможность становится важной. Объяснения включают в себя объяснение причин, описание сильных и слабых сторон и проецирование поведения систем в будущем. Подобные цели разработки научных основ создания систем поддержки коммуникативных действий, способных убеждать и обосновывать предлагаемые решения, содержатся в работе [31].
Онтологии могут играть важную роль в объяснениях, поскольку интеллектуальные инженерные системы должны представлять концептуальную основу, которая поддерживает объяснения. Версия естественного языка может использоваться для описания состояний и действий в терминах, которые люди легко понимают, а также в концептуальных структурах, в которых происходит диалог.
Преимущество использования онтологий в объяснениях заключается в возможности улучшения взаимодействия между системами. Текущие усилия по объяснению разрознены,
что приведёт к разнообразию несовместимых методов объяснения, которые индивидуально могут удовлетворить требованию предоставления объяснений, но при интеграции в крупномасштабные системы будут мало полезными (см. рисунок 4).
Today
ttBE^'ë а gsäEkäüu
bL U. »
EBEIES©
Training Data
Learning Process
lili This is a cat (p = .93)
jn^ut
Learned Function
Output
User with a Task
• Why did you do that?
• Why not something else?
• When do you succeed?
• When do you fail?
• When can I trust you?
• How do I correct an error
Tomorrow
ш-v-a
■iL M. ' *
■■ЧиВМНЯ-Н ■ .«В»*
яяшяШяя
Training Data
New Learning Process
4'» Й-Й" H# This is a cat: •It has fur, whiskers, and claws. •It has this feature:
ft -, И ! ! И"
Explainable Explanation Model Interface
User with a Task
I understand why I understand why not I know when you'll succeed
I know when you'll fail I know when to trust you I know why you erred
XAI Approach
Create a suite of machine learning techniques that produce more explainable models, while maintaining a high level of learning performance
Рисунок 3 - Программа DARPA XAI [32] Learning Techniques (today)
Explainability (notional)
Neural Nets
^■ШаВ iZAjrZ
1 CS >~<s>
yi/iT/iv
mt ¿Ш
Ж-.Н- í-j- H-
Deep Explanation
Modified deep learning techniques to learn explainable features
Interpretable Models
Techniques to learn more structured, interpretable, causal models
Model Induction
Techniques to infer an explainable model from any model as a black box
Рисунок 4 - Производительность против объяснимости [32]
Онтологии - это спроектированные артефакты знаний, существующие в вычислительной среде, которая позволяет рассуждать, и поэтому должна включать способность объяснять то, что они «знают» и как «обосновать эти знания». Они должны быть в состоянии выразить обоснование выбранного использования соответствующих частей онтологии или набора онтологий; объяснить сильные и слабые стороны выбранной онтологии; и объяснить данные в этой онтологии.
1.6 Инобытие или онтология проектирования как дыхание будущего [27]
Цель гуманистического проектирования - построить общество для человека (человеко-размерное общество), а не подогнать образ человека под общество. Феноменология помогает увидеть будущее человека и создать ему новые образы своего бытия.
Цель онтологического проектирования - создание возможных миров (сфер бытия) человека, соответствующих его смысложизненным интересам. Здесь проектирование и самопроектирование совпадают по существу: объектом становится собственное бытие человека.
Центральное понятие проектного анализа человеческого бытия - «иное» («инобытие»), имеющее в философской традиции ряд значений. Иное указывает на непроявленную тенденцию бытия, то, чему предстоит свершиться и воплотиться в новом сущем. Оно ещё не явило себя человеку в полной мере или в чётком обличье, но уже напоминает о приближении чего-то по едва уловимым признакам, которые воспринимаются как предвкушение перемен. В нём слышится не только «зов бытия», о котором писал М.Хайдеггер, но и дыхание будущего.
2 Обзоры стратегий развития ИИ
Можно сказать, что гонка за мировое лидерство в области ИИ началась с 2018 года. За последние два года свои национальные стратегии в области ИИ и продвижения технологий ИИ разработали около 30 стран. При этом нет и двух одинаковых стратегий - каждая фокусируется на различных аспектах деятельности в области ИИ: научные исследования, развитие талантов, навыки и образование, взаимодействие государственного и частного секторов, этика и совместное существование, стандарты и положения, а также данные и цифровая инфраструктура.
Недостатка в обзорах стратегий развития ИИ нет, как зарубежных авторов [33], так и отечественных организаций, в частности, Центра подготовки руководителей цифровой трансформации ВШГУ РАНХиГС [34] и Агентства искусственного интеллекта [35].
3 Стратегия развития ИИ в России
3.1 Понятия, цели и задачи Стратегии
Текст Стратегии начинается, что очень ценно и важно, с определений используемых основных понятий [4]:
■ ИИ - комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека;
■ технологии ИИ - технологии, основанные на использовании ИИ, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы ИИ;
■ перспективные методы ИИ - методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (силь-
ного) ИИ (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое МО), алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объёмов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и др.);
■ а также таких понятий как набор и разметка данных, аппаратное обеспечение, вычислительная система и её архитектура, общедоступная платформа и открытая библиотека ИИ, технологическое решение.
Декларируемые цели развития ИИ в Российской Федерации заслуживают самого высокого одобрения. К ним относятся: обеспечение роста благосостояния и качества жизни населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ.
Основными задачами развития ИИ являются:
■ поддержка научных исследований в целях обеспечения опережающего развития ИИ;
■ разработка и развитие ПО, в котором используются технологии ИИ;
■ повышение доступности и качества данных, необходимых для развития технологий ИИ;
■ повышение доступности аппаратного обеспечения, необходимого для решения задач в области ИИ;
■ повышение уровня обеспечения российского рынка технологий ИИ квалифицированными кадрами и уровня информированности населения о возможных сферах использования таких технологий;
■ создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий ИИ.
3.2 Принципы развития и использования ИИ
В стратегии констатируется, что на смену экспертным системам пришло МО, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зависимостей, используя исходные наборы данных (без предварительного составления человеком перечня возможных решений), что позволяет говорить о появлении ИИ. При этом отмечается, что результаты работы алгоритмов НС могут быть подвергнуты сомнению и отменены человеком, т.к. отсутствует понимание того, как ИИ достигает результатов, что может стать препятствием для их развития.
Здесь трудно согласиться, что одни технологии пришли на «смену» другим. Далеко не все области «покрывает», да и может «покрыть» МО. Ставить знак равенства ИИ = МО, а тем более ИИ = НС, в корне неверно.
Основными принципами развития и использования технологий ИИ в стратегии являются: защита прав и свобод человека; безопасность; прозрачность: объяснимость работы ИИ и процесса достижения им результатов; технологический суверенитет; целостность инновационного цикла; разумная бережливость; поддержка конкуренции.
Использование технологий ИИ, согласно стратегии, способствует созданию принципиально новых направлений деятельности хозяйствующих субъектов, в том числе за счёт:
■ повышения эффективности процессов планирования, прогнозирования и принятия управленческих решений;
■ автоматизации рутинных производственных операций;
■ использования автономного интеллектуального оборудования и робототехнических комплексов, интеллектуальных систем управления логистикой;
■ повышения безопасности сотрудников при выполнении бизнес-процессов;
■ повышения лояльности и удовлетворенности потребителей;
■ оптимизации процессов подбора и обучения кадров, составления оптимального графика работы сотрудников с учётом различных факторов.
Использование технологий ИИ в социальной сфере способствует созданию условий для улучшения уровня жизни населения, в том числе за счёт:
■ повышения качества услуг в сферах здравоохранения и образования (включая адаптацию образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизацию оценки качества знаний и анализа информации о результатах обучения);
■ повышения качества предоставления государственных и муниципальных услуг, а также снижения затрат на их предоставление.
Разработка этических правил взаимодействия человека с ИИ включена в основные направления создания комплексной системы регулирования общественных отношений.
3.3 Показатели в Стратегии
Основными показателями, характеризующими рост предложения продуктов (услуг), созданных (оказываемых) с использованием ИИ, являются увеличение количества:
■ организаций, разрабатывающих технологические решения на основе ИИ и занимающих лидирующие позиции в мире;
■ результатов интеллектуальной деятельности в области ИИ, которые прошли государственную регистрацию либо учтены иным способом в соответствии с общепринятой мировой практикой и внедрены.
А теперь вернёмся к целям стратегии и увидим, что показатели, по которым должны оцениваться вложенные рубли, никак не связаны с целями стратегии. Это серьёзная критериальная проблема, которая должна быть решена ещё до выделения средств на реализацию Стратегии.
В Стратегии в целях создания и развития российских технологий ИИ отмечается необходимость обеспечения приоритетной поддержки фундаментальных и прикладных научных исследований. Причём фундаментальные научные исследования должны быть направлены на создание принципиально новых научных результатов, в том числе на создание универсального (сильного) ИИ, и решение иных задач, предусмотренных стратегией.
К 2024 году основным показателем, характеризующим успешную реализацию мер по поддержке научных исследований в области ИИ, должен стать существенный рост количества:
■ цитируемости в ведущих мировых научных изданиях научных статей российских ученых на тему, посвященную ИИ;
■ зарегистрированных результатов интеллектуальной деятельности в области ИИ;
■ разработанных на основе результатов интеллектуальной деятельности в области ИИ прикладных технологических решений, используемых в практической деятельности. Здесь очевидно отсутствие обоснования и объяснения проведённой декомпозиции целей
на рекомендуемые показатели. Заявленные в Стратегии цели развития ИИ в Российской Федерации: обеспечение роста благосостояния и качества жизни её населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, будут оцениваться по количеству статей, участию в конференциях и уровню цитируемости.
Действительно, качество жизни и безопасность - трудноизмеряемые критерии, как и вклад в фундаментальную науку. Но ведь это как раз и тема для ИИ - разработка показателей, способных оценить вклад науки в безопасность и качество жизни. Стоит ли повторять
ошибки бюрократов, использующих библиометрию и наукометрию в оценках учёных и научных подразделений [36]?
3.4 Онтологии в Стратегии
В основные направления разработки и развития ПО, в котором используются технологии ИИ, вошла разработка единых стандартов в области безопасности и совместимости ПО. Это, пожалуй, один из немногих пунктов стратегии, где можно увидеть возможности для разработки онтологии предметной области (ПрО).
Наиболее явно потребность в онтологиях и онтологическом анализе ПрО проявляется в основных направлениях повышения доступности и качества данных, необходимых для развития технологий ИИ. В частности, разработка унифицированных и обновляемых методологий описания, сбора и разметки данных, а также механизма контроля за соблюдением указанных методологий, немыслима без онтологии ПрО.
Важно, что в основные направления повышения уровня обеспечения российского рынка технологий ИИ квалифицированными кадрами включена разработка и внедрение образовательных модулей в рамках образовательных программ всех уровней образования, программ повышения квалификации и профессиональной переподготовки для получения гражданами знаний, приобретения ими компетенций и навыков в области математики, программирования, анализа данных, МО, способствующих развитию ИИ. Здесь явно не хватает направлений, связанных с онтологиями11.
3.5 Реализация Стратегии
Правительство Российской Федерации при участии созданного объединения по развитию ИИ в России, осуществляет разработку и утверждение плана мероприятий по реализации Стратегии, предусматривающего в том числе: перечень показателей эффективности реализации Стратегии и методологию их расчёта; целевые значения показателей эффективности реализации Стратегии на 2024 и 2030 годы. Думается, что над решением отмеченных критериальных проблем серьёзно поработают специалисты (онтологи, проектанты, философы, экономисты).
4 Стратегия лидера развития ИИ
«Продолжение американского лидерства в области искусственного интеллекта имеет первостепенное значение для поддержания экономической и национальной безопасности Соединенных Штатов».
Дональд Дж. Трамп
В разделе выделены места в стратегии развития ИИ в США, которые, по мнению автора статьи, были бы важны для учёта их в российской Стратегии, в российских планах и программах по развитию ИИ.
Стоит обратить внимание интересующихся стратегией лидера на правительственный портал «Искусственный интеллект для американского народа» [37]. В нём пять основных разделов: документы об ИИ, ИИ для американских инноваций, ИИ для американской промышленности, ИИ для американского рабочего, ИИ с американскими ценностями. Этот вебсайт предназначен для более глубокого изучения этих видов деятельности и может служить
11 Например, в Институте авиационной техники Самарского университета при подготовке магистров и бакалавров, направление подготовки которых связано с информационными технологиями, читаются курсы по онтологии проектирования, онтологии производственной сферы.
ресурсом для тех, кто хочет узнать больше о том, как в полной мере использовать возможности ИИ. На сайте констатируется, что век ИИ уже наступил, и что это не «хайп», а реальная жизнь, и что ИИ трансформирует всё - от здравоохранения до транспорта и производства. Реализация полного потенциала ИИ базируется на объединённых усилиях промышленности, научных кругов и правительства.
4.1 Акценты в области ИИ
Понятный и заслуживающий доверия ИИ. По мере того, как создаются новые технологии ИИ, необходимо расширить понимание того, как системы ИИ получают решения и почему они принимают такие решения. Важным акцентом на НИОКР является предоставление ИИ механизмов объяснения, которые помогают пользователям понять причины выводов ИИ. Уже упоминавшаяся Программа DARPA Explainable AI направлена на создание методов МО, которые дают более объяснимые решения, сохраняя при этом высокую производительность и соответствующий уровень доверия к системе.
Надёжный и безопасный ИИ. Сложность многих систем ИИ создаёт серьёзные проблемы безопасности и защиты, которые необходимо решать, чтобы обеспечить надёжность этих систем. В частности, системы ИИ имеют присущие риски кибербезопасности из-за особенностей применяемых технологии. Инвестиции в НИОКР создадут решения для противодействия враждебным атакам на технологии ИИ, например тем, которые пытаются «загрязнить» обучающие данные, модифицировать алгоритмы, создавать враждебные материалы или использовать недостатки в постановке и реализации цели системы ИИ.
Воздействие на рабочую силу. Быстрый прогресс в развитии технологий ИИ имеет много потенциальных преимуществ, включая создание новых отраслей и профессий, расширение возможностей для инноваций и повышение производительности. Однако эти технологии меняют характер работы и вызывают некоторую обеспокоенность по поводу возможности потерянных рабочих мест или несоответствия между имеющимися профессиями и навыками рабочей силы. Стратегия в отношении ИИ и американского рабочего обеспечивает возможности для обучения и профессиональной подготовки, которые помогают рабочей силе процветать в новой экономике.
4.2 Восемь стратегий ИИ
В обновлённом 50-ти страничном авторизованном (более 40 авторов-разработчиков) документе приведены более 130 ссылок на используемые источники [24]. В этом стратегическом плане определены восемь стратегических приоритетов. Первые семь стратегий продолжаются с Плана 2016 года, отражая подтверждение важности этих стратегий многочисленными респондентами из общественности и правительства, без призывов удалить какую-либо из этих стратегий. Восьмая стратегия является новой и ориентирована на растущую важность эффективных партнёрских отношений между федеральным правительством и научными кругами, промышленностью, другими нефедеральными структурами и международными партнёрами для создания технологических прорывов в области ИИ и быстрого превращения этих прорывов в возможности. Кратко планы этих восьми стратегий.
1 Сделать долгосрочные инвестиции в исследования ИИ. Приоритетное направление инвестиций в следующее поколение ИИ, которое будет способствовать открытию и пониманию и позволит США оставаться мировым лидером в области ИИ.
2 Разработать эффективные методы взаимодействия человека и ИИ. Повысить понимание того, как создавать системы ИИ, которые эффективно дополняют и расширяют возможности человека.
3 Понимать и решать этические, правовые и социальные последствия ИИ. Исследовать системы ИИ, которые включают этические, правовые и социальные проблемы с помощью технических механизмов.
4 Обеспечить надёжность и безопасность систем ИИ.
5 Разработка общедоступных наборов данных и сред для обучения и тестирования ИИ.
6 Измерение и оценка технологий ИИ с помощью стандартов и эталонов. Разработка широкого спектра методов оценки ИИ, включая технические стандарты и эталоны.
7 Лучшее понимание потребностей в рабочей силе НИОКР в стране. Расширение возможностей для развития рабочей силы в сфере НИОКР для стратегического стимулирования рабочей силы, готовой к ИИ.
8 Расширение государственно-частного партнерства для ускорения прогресса в области ИИ. Содействовать созданию возможностей для устойчивых инвестиций в НИОКР ИИ и для превращения достижений в практические возможности в сотрудничестве с научными кругами, промышленностью, международными партнерами и другими нефедеральными организациями.
На рисунке 5 показана организация Стратегического плана исследований и разработок ИИ в США [24]. Комбинация сквозных фундаментальных НИОКР (в нижнем ряду) важна для всех исследований ИИ. Многие области исследований и разработок ИИ (в среднем ряду) могут опираться на эти сквозные основы для воздействия на широкий спектр приложений (в верхнем ряду). Цифры в скобках указывают номер Стратегии в плане, которая развивает каждую тему. Упорядочение этих Стратегий не указывает на их приоритетность.
с о
о.
о. <
Î
О
ы
сс
Î
[1] Long-Term Investments —.........................-I------[2] Human-AI Collaboration-
с
00 О С =
3
о
2 и
13) [4] [5] [6] [7] [8]
Ethical, Legal, and Societal Implications Safety and Security Datasets and Environments Standards and Benchmarks Capable AI Workforce Public-Private Partnerships
Рисунок 5 - Организация Стратегического плана исследований и разработок ИИ [24]
4.3 Онтологии в стратегий ИИ США
Многие приложения ИИ носят междисциплинарный характер и используют разнородные данные. Дальнейшее исследование многокомпонентного МО необходимо для обеспечения возможности обнаружения знаний из широкого спектра различных типов данных (например, дискретных, непрерывных, текстовых, пространственных, временных, пространственно-временных графиков). Исследователи ИИ должны определить объём данных, необходимых
для обучения, и надлежащим образом удовлетворить потребности в данных в больших масштабах. Они также должны определить, как идентифицировать и обрабатывать редкие события помимо чисто статистических подходов; работать с источниками знаний (т.е. с любым типом информации, которая объясняет мир), а также с источниками данных, интегрируя модели и онтологии в процесс обучения; получить эффективность обучения с небольшим объёмом данных, когда большие источники данных могут быть недоступны.
Чтобы поддержать постоянный высокий уровень инноваций в этой области, правительство США активизирует усилия по разработке, поддержке и использованию технологий открытого ИИ. Особенно полезны открытые ресурсы, которые используют стандартизированные или открытые форматы и открытые стандарты для представления семантической информации, включая доменные онтологии, когда они доступны.
Национальный институт стандартов и технологий (National Institute of Standards and Technology, NIST) участвует в мероприятиях по стандартизации ИИ через организации по стандартизации, такие как Американское общество инженеров-механиков, Институт инженеров по электротехнике и электронике (IEEE) и ISO / IEC. Их деятельность охватывает компьютерное моделирование для продвинутого производства, онтологии для робототехники и автоматизации, конфиденциальность личных данных и др.
4.4 Стандарты для укрепления лидерства в ИИ
Стандарты предоставляют требования, спецификации, руководящие указания или характеристики, которые можно использовать для обеспечения того, чтобы технологии ИИ удовлетворяли критическим целям функциональности, функциональной совместимости и чтобы они работали надёжно и безопасно. Принятие стандартов повышает доверие к технологическим достижениям и способствует расширению интероперабельного рынка.
Одним из примеров стандарта, относящегося к ИИ, является P1872-2015 (Стандартные онтологии для робототехники и автоматизации), разработанный IEEE. Этот стандарт обеспечивает систематический способ представления знаний и общий набор терминов и определений. Они позволяют однозначно передавать знания людям, роботам и другим искусственным системам, а также обеспечивают фундаментальную основу для применения технологий ИИ в робототехнике.
В Федеральном плане [38] в числе задач отмечается стремление «обеспечить, чтобы технические стандарты ... отражали федеральные приоритеты в области инноваций, общественного доверия и общественной уверенности в системах, использующих технологии ИИ ... и разрабатывать международные стандарты для продвижения и защиты этих приоритетов».
Этот план определяет следующие девять областей, в которых необходимо сосредоточиться на стандартах ИИ: концепции и терминология; данные и знания; взаимодействие с человеком; метрики; сети; методология тестирования производительности и отчётности; безопасность; управление рисками; надёжность.
Отмечаются уже принятые стандарты, например, ISO/IEC DIS 21838-2 Information technology - Top-level ontologies (TLO) - Part 2: Basic Formal Ontology (BFO). Начиная с 2016 года, серия проектов стандартов IEEE P7000 ™ направлена на решение конкретных проблем на стыке технологических и этических аспектов ИИ. Например, P7007 - Ontological Standard for Ethically Driven Robotics and Automation Systems. Предусматривается развитие: межотраслевых спецификаций, относящихся к ИИ и включающих онтологию обслуживания робототехники (Robotics Service Ontology - RoSO); всемирной паутины (World Wide Web Consortium, W3C); языка веб-онтологий W3C (Web Ontology Language, OWL).
Заключение
Создание ИИ, разработка стратегий ИИ, систем ИИ без онтологии, без согласования понятий, без общих терминов, без языка, без объяснений и пониманий результатов «машинной мясорубки данных» заведомо обрекает разработчиков на отставание от лидеров в развитии этих систем.
В России в академических институтах, университетах и IT-компаниях есть научные школы, учёные, программисты, датасайентисты, которые ведут исследования и активно разрабатывают основы для построения онтологий в различных ПрО, используют созданные онтологии в информационных системах. Интеллектуальный ресурс онтологов включает учёных из разных городов России: Владивосток (Грибова В., Артемьева И. и др.) Новосибирск (Пальчунов Д., Загорулько Ю. и др.), Самара (Скобелев П., Смирнов С. и др.), Москва (Хорошевский В., Куприяновский В., Лукашевич Н. и др.), Санкт-Петербург (Гаврилова Т., Муромский Д. и др.) и др.
С 2009 года в Новосибирске в Академгородке проходит Международная конференция «Знания - Онтологии - Теории (ЗОНТ)», в этом году она состоялась в октябре. С 2011 года в Самаре выходит первый в России научный журнал по прикладным онтологиям «Онтология проектирования», который активно сотрудничает с РАИИ, журналом «Искусственный интеллект и принятие решений» (выходит с 2008 года).
Уже перед сдачей статьи в номер компании IDC и ABBYY распространили исследование «Рынок искусственного интеллекта в России»,12 целью которого было оценить востребованность решений с использованием технологий ИИ в российских компаниях, а также обозначить общие направления развития рынка ИИ и когнитивных технологий. Ключевые выводы исследования: 30% крупных российских компаний уже используют технологии ИИ или ПО со встроенными технологиями ИИ. Остальные 70% компаний планируют внедрить когнитивные технологии и ИИ в ближайшие 1 -2 года; а 60% компаний считают разработку стратегии применения ИИ приоритетным направлением инвестиций.
Есть спрос, и есть задел на предложения. Результат не замедлит себя ждать!
Послесловие: послание философам и разработчикам ИИ
Элита на волне технологических успехов перестала обращать внимание на философские вопросы. В стратегии развития цивилизации философы должны принимать активное участие, а не созерцать происходящее. Наряду с просвещением масс, основная задача философов в наше время - это подготовка элиты, их ответственности на основе понимания целостности и «хрупкости» современного мира. Надо уметь говорить с элитой на понятном ей языке, доступно излагать свои пусть разные, но осознанные модели бытия.
Сравнивая Стратегии развития ИИ в США и в России, можно предположить где принимали и принимают участие философы. Онтологии - прекрасный пример того, как философы находят свое место в реальном мире (например, Барри Смит, http://ontology.buffalo.edu/). Да и в Национальном центре онтологических исследований (National Center for Ontological Research, NCOR) - не последняя роль за философами.
В наше «бифуркационное» время философ обязан найти свое место и должен быть услышан. А для этого он должен излагать свои знания на разных площадках...
13
На прошедшем грандиозном мероприятии AI Journey участникам продемонстрировали достижения компаний лидеров в применении ИИ в России, а также обсудили злободневные
' IDC, "Рынок ИИ в России", ноябрь 2019. - 38 с.
' Конференция AI Journey в Москве, посвященная ИИ, 8-9.11.2019. - https://ai-journey.ru/conference-moscow.
вопросы создания ИИ, проблемы и последствия его вхождения в нашу жизнь. Философы принимали в дискуссии самое активное участие (см. 4-ую страницу обложки номера журнала), и это отрадно.
Благодарности
Статья подготовлена по материалам научных исследований в рамках субсидированного государственного задания Институту проблем управления сложными системами РАН на НИР по теме «Разработка и исследование методов и средств аналитического конструирования, компьютерного представления знаний, вычислительных алгоритмов и мультиагентных технологий в задачах оптимизации процессов управления сложными системами».
Список источников
[1] Поспелов, Д.А. Облако / Д.А. Поспелов // Новости искусственного интеллекта №6, 2003. - С.41-46.
[2] Bill Joy. Why The Future Doesn't Need Us / Bill Joy Ideas. 04.01.00. - https://www.wired.com/2000/04/joy-2/.
[3] Циолковский, К.Э. Ложная мудрость / К.Э. Циолковский. (1933, машинопись с правкой автора, Архив РАН: Фонд №555, Опись 1, Дело №493) - https://tsiolkovsky.org/ru/kosmicheskaya-filosofiya/lozhnaya-mudrost/.
[4] Национальная стратегия развития искусственного интеллекта на период до 2030 года. Указ Президента РФ от 10.10.2019 N 490 "О развитии искусственного интеллекта в Российской Федерации".
[5] Поспелов, Г.С. Искусственный интеллект - основа новой информационной технологии / Г.С. Поспелов // Сер. «Академические чтения» - М.: Наука, 1988. - 280 с.
[6] Глушков, В.М. Основы безбумажной информатики / В.М. Глушков. 1-е изд. 1982г. Изд-е 2-е, исправленное - М.: Наука, Гл.ред физ.-мат. лит., 1987. - 552 с.
[7] Искусственный интеллект. - В 3-х кн. Кн. 2. Модели и методы: Справочник / Под ред. Д.А. Поспелова. -М.: Радио и связь, 1990. - 304 с.
[8] Егер, С.М. Основы автоматизации проектирования самолета / С.М. Егер, Н.К. Лисейцев, О.С. Самойлович.
- М.: Машиностроение, 1986. - 426 с.
[9] Боргест, Н.М. Автоматизация предварительного проектирования самолета / Н.М. Боргест. - Самара: Са-мар.авиац.ин-т. 1992. - 92 с.
[10] Валькман, Ю.Р. Интеллектуальные технологии исследовательского проектирования: формальные системы и семиотические модели / Ю.Р. Валькман. - Киев: Port-Royl, 1998. - 250 с.
[11] Боргест, Н.М. Онтологии проектирования от Витрувия до Виттиха / Н.М. Боргест // Онтология проектирования. - 2018. - Т.8, №4(30). - С.487-522. - DOI: 10.18287/2223-9537-2018-8-4-487-522.
[12] Виттих, В.А. Пролегомены к эвергетике/ В.А. Виттих // Онтология проектирования. - 2015. - Т. 5, №2(16). - С. 135-148. - DOI: 10.18287/2223-9537-2015-5-2-135-148.
[13] Шалагин, С.В. Когнитивные проблемы проектирования на основе компьютерных моделей: технический и социо-гуманитарный аспекты / С.В. Шалагин, Г.Э. Шалагина // Онтология проектирования. - 2016. - Т. 6, №3(21). - С. 368-376. - DOI: 10.18287/2223-9537-2016-6-3-368-376
[14] Рассель, С. Искусственный интеллект: современный подход / С. Рассель, П. Норвиг // 2-е изд.: Пер. с англ.
- М.: Вильямс, 2007. - 1408 с.
[15] Хорост, М. Всемирный разум. От мировой паутины к глобальному сознанию / М. Хорост. Пер. с англ. В. Дудникова. - М.: Эксмо, 2011. - 288 с.
[16] Финн, В.К. Искусственный интеллект: методология, применение, философия / В.К. Финн - М.: КРА-САНД. 2011. - 448 с.
[17] Осипов, Г.С. Лекции по искусственному интеллекту / Г.С. Осипов. - М.: ЛИБРОКОМ, 2013. - 272 с.
[18] Рапопорт, Г.Н. Искусственный и биологический интеллекты: общность структуры, эволюция и процессы познания / Г.Н. Рапопорт, А.Г. Герц // 2-е изд. - М.: КомКнига, 2010. - 312 с.
[19] Душкин, Р.В. Искусственный интеллект / Р.В. Душкин. - М.: ДМК Пресс, 2019. 380 с. -https://www.litres.ru/roman-dushkin/iskusstvennyy-intellekt/.
[20] Рассел, Б. Человеческое познание: его сфера и границы / Б. Рассел // Пер. с англ. - К.: Ника-Центр, 2001, -560 с.
[21] Экономико-математический словарь: Словарь современной экономической науки. — М.: Дело. Л. И. Ло-патников. 2003. - https://economic_mathematics.academic.ru/4388.
[22] Shaping the Future of Technology Governance: Artificial Intelligence and Machine Learning -https://www.weforum.org/platforms/shaping-the-future-of-technology-governance-artificial-intelligence-and-machine-learning.
[23] Artificial Intelligence and Robotics - https://www.weforum.org/agenda/archive/artificial-intelligence-and-robotics.
[24] The National Artificial Intelligence Research And Development Strategic Plan: 2019 Update. June 2019. - 50 p. -https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf.
[25] Лепский, В.Е. Субъектно-ориентированные принципы организации саморазвивающихся интеллектуальных сред / В.Е. Лепский // В кн.: Естественный и искусственный интеллект: методологические и социальные проблемы. Под ред. Д.И. Дубровского и В.Е. Лепского. - М.: Канон, 2011. - 352с. - С.253-280.
[26] Шведин, Б.Я. Онтология предприятия: экспириентологический подход. Технология построения онтологической модели предприятия / Б.Я. Шведин. - М.: ЛЕНАНД, 2010. - 240 с.
[27] Резник, Ю.М. Феноменология человека: бытие возможного / Ю.М. Резник. - М.: Канон+РООИ «Реабилитация», 2017. - 632 с.
[28] Чалмерс Д. Сознающий ум: в поисках фундаментальной теории / Д. Чалмерс // Пер. с англ. - М.: ЛИБРО-КОМ, 2013. - 512 с.
[29] Пинкер, С. Субстанция мышления: язык как окно в человеческую природу / С. Пинкер // Пер. с англ. - М.: ЛИБРОКОМ, 2013.- 560 с.
[30] Ontology Summit 2019 Communiqu'e: Explanations / K. Baclawski, M. Bennett, G. Berg-Cross, D. Fritzsche, R. Sharma, J. Singer, J. Sowa, R.D. Sriram, M. Underwood, D. Whitten. - 19 p. -https://ontologforum. s3 .amazonaws.com/0ntologySummit2019/Communique/communique2019.pdf.
[31] Боргест, Н.М. Стартап проекта Онторитор / Н.М. Боргест, С.В. Смирнов // Тр. XV Междунар.конфер. «Проблемы управления и моделирования в сложных системах» (25-28 июня 2013, Самара, Россия). - Самара: СНЦ РАН. - с.363-366.
[32] Gunning D. DARPA Explainable Artificial Intelligence, 2018. Retrieved on December 3, 2018 -http://bit.ly/2s9d4pH.
[33] Dutton, T. An Overview of National AI Strategies / Tim Dutton. Jun 28, 2018. - https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd.
[34] Искусственный интеллект. К выбору стратегии / В. Буров, Д. Гайнулов, А. Зотов, Э. Пройдаков, Н. Уткин, А. Раевский, Е. Хан // Центр подготовки руководителей цифровой трансформации ВШГУ РАНХиГС. - М.: 2019. - 104 с.
[35] Аналитический отчёт. Сравнение национальных стратегий в области искусственного интеллекта / Р.В. Душкин, Д.А. Онацик, Д.С. Суцилов, С. Фадеева // Агентство искусственного интеллекта. Москва, ООО «ДИКРИПТО». 2019. - 16 с.
[36] Боргест, Н.М. Онтологический подход к формированию оценки субъектов, организационных структур и результатов научной деятельности / Н.М. Боргест // Материалы VII Междунар. конф. «Знания - Онтологии - Теории (ЗОНТ-2019)», Новосибирск: Ин-т математики им. С.Б. Соболева СО РАН, 2019. - с.57-65.
[37] Artificial Intelligence for the American People - https://www.whitehouse.gov/ai/.
[38] U.S. LEADERSHIP IN AI: A Plan for Federal Engagement in Developing Technical Standards and Related Tools Prepared in response to Executive Order 13859 Submitted on August 9, 2019. - 48 p.
STRATEGIES OF INTELLIGENCE AND ITS ONTOLOGY: AN ATTEMPT TO UNDERSTAND
N.M. Borgest
Samara National Research University named after academician S.P. Korolev, Samara, Russia Institute of Control of Complex Systems RAS, Samara, Russia
Abstract
The author proposes to discuss the strategies of artificial intelligence development, technologies and systems of artificial intelligence. The article begins with a preface in the form of a message from another being, and ends with an afterword in the form of an appeal to the developers of artificial intelligence. The Artificial Intelligence Development Strategy that was adopted in Russia for the period until 2030 became a motive for writing the article. Such concepts as intel-
ligence, the intelligences of the individual and society and their strategies, artificial intelligence, ontologies and explainable artificial intelligence, other being as an ontology of designing are discussed in the article. Links to the reviews of artificial intelligence development strategies adopted in the leading countries of the world are given. The strategies adopted in Russia and the USA are analyzed. The Russian strategy notes the presence of criterion problems and the inconsistency of goals and proposed indicators, the lack of ontologies of subject areas in the development of artificial intelligence systems. The American strategy notes the emphasis made on an understandable, trustworthy, reliable and safe artificial intelligence; ontologies and standards adopted and developed to strengthen the US leadership in the creation of artificial intelligence. In conclusion the importance and necessity of developing and applying ontologies when creating understandable artificial intelligence systems integrated into society is highlighted.
Key words: strategies, natural intelligence, artificial intelligence, ontology, individual, society.
Citation: Borgest NM. Strategies of intelligence and its ontology: an attempt to understand [In Russian]. Ontology of designing. 2019; 9(4): 407-428. DOI: 10.18287/2223-9537-2019-9-4-407-428.
Acknowledgment
The article was prepared on the basis of scientific research within the framework of a subsidized state task to the ICCS RAS at the subject of «Development and research of methods and means of analytical design, computer representation of knowledge, computational algorithms and multi-agent technologies in the problems of optimizing the management of complex systems».
References
[1] PospelovDA. Cloud [In Russian]. Artificial Intelligence News No.6, 2003. - P.41-46.
[2] Bill Joy. Why The Future Doesn't Need Us. 04.01.00. - https://www.wired.com/2000/04/joy-2/.
[3] Tsiolkovsky KE. False Wisdom [In Russian]. 1933, Archive of the Russian Academy of Sciences: Fund No.555, Inventory 1, Case No.493. - https://tsiolkovsky.org/ru/kosmicheskaya-filosofiya/lozhnaya-mudrost/.
[4] National Strategy for the Development of Artificial Intelligence for the period until 2030 [In Russian]. Decree of the President of the Russian Federation of 10.10.2019 N 490 "On the development of artificial intelligence in the Russian Federation."
[5] Pospelov GS. Artificial intelligence - the basis of a new information technology [In Russian]. Ser. "Academic Readings" - Moscow: Nauka, 1988. - 280 p.
[6] Glushkov VM. Fundamentals of paperless computer science [In Russian]. 1st ed. 1982, 2nd ed., Revised - M.: Nauka, 1987. - 552 p.
[7] Artificial Intelligence [In Russian]. In 3 books. Book 2. Models and methods: Reference book / Ed. D.A. Pospelov. - M.: Radio and Communications, 1990. - 304 p.
[8] Eger SM, Liseitsev NK, Samoilovich OS. Fundamentals of aircraft design automation [In Russian]. - M.: Mechanical Engineering, 1986. - 426 p.
[9] Borgest NM. Automation of the preliminary design of the aircraft [In Russian]. - Samara: Samar.avia.in-t. 1992. -92 p.
[10] Walkman YuR. Intelligent technologies for research design: formal systems and semiotic models [In Russian]. -Kiev: Port-Royl, 1998. - 250 p.
[11] Borgest NM. The ontologies of designing from Vitruvia to Vittikh [In Russian]. Ontology of designing. 2018; 8(4): 487-522. DOI: 10.18287/2223-9537-2018-8-4-487-522.
[12] Vittikh VA. Prolegomena to Evergetics. Ontology of designing. 2015; 5(16): 135-148. - DOI: 10.18287/22239537-2015-5-2-135-148.
[13] Shalagin SV, Salagina GE. Cognitive problems of designing based on computer models: technical and socio-humanitarian aspects [In Russian]. Ontology of designing. 2016; 6(21): 368-376. DOI: 10.18287/2223-9537-20166-3-368-376.
[14] RusselSJ, NorvigP. Artificial Intelligence. A modern approach. Prentice Hill. 2003.
[15] Chorost M. World Wide Mind. The Coming Integration of Humanity, Machines and the Internet. Free Press, a division of Simon&Schuster. 2011.
[16] Finn VK. Artificial Intelligence: Methodology, Applications, Philosophy [In Russian]. - M.: KRASAND, 2011. -448p.
[17] Osipov GS. Lectures on artificial intelligence [In Russian]. - M.: LIBROCOM, 2013. - 272 p.
[18] Rapoport GN, Hertz AG. Artificial and biological intelligence: common structure, evolution and cognition processes [In Russian]. 2 ed. - M.: KomKniga, 2010. - 312 p.
[19] Dushkin RV. Artificial Intelligence [In Russia]. - M.: DMK Press, 2019. -380 p. - https://www.litres.ru/roman-dushkin/iskusstvennyy-intellekt/.
[20] RussellB. Human Knowledge: Its Scope and Limits. London: Georg Allen and Unwin Ltd. 1948. - 538 p.
[21] Economics and mathematics dictionary: Dictionary of modern economics [In Russian]. - M.: Delo. L.I. Lopat-nikov. 2003. - https://economic_mathematics.academic.ru/4388.
[22] Shaping the Future of Technology Governance: Artificial Intelligence and Machine Learning -https://www.weforum.org/platforms/shaping-the-future-of-technology-governance-artificial-intelligence-and-machine-learning.
[23] Artificial Intelligence and Robotics - https://www.weforum.org/agenda/archive/artificial-intelligence-and-robotics.
[24] The National Artificial Intelligence Research And Development Strategic Plan: 2019 Update. June 2019. - 50 p. -https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf.
[25] Lepsky VE. Subject-oriented principles of the organization of self-developing intellectual environments [In Russia]. In the book: Natural and artificial intelligence: methodological and social problems. Ed. D.I. Dubrovsky and V.E. Lepsky. - M.: Canon, 2011. - 352 p. - P.253-280.
[26] Shvedin BYa. Ontology of the enterprise: an experimentalological approach. Technology for building an ontologi-cal model of an enterprise [In Russia]. - M.: LENAND, 2010. - 240 p.
[27] Reznik YuM. Human Phenomenology: Being Possible [In Russian]. - M.: Kanon + ROOI "Rehabilitation", 2017. -632 p.
[28] Chalmers DJ. The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press 1997. - 432 p.
[29] Pinker S. The Stuff of Thought: Language as a Window into Human Nature. - Penguin Books? 2007. - 352 p.
[30] Ontology Summit 2019 Communiqu'e: Explanations / K. Baclawski, M. Bennett, G. Berg-Cross, D. Fritzsche, R. Sharma, J. Singer, J. Sowa, R.D. Sriram, M. Underwood, D. Whitten. - 19 p. -https://ontologforum. s3 .amazonaws.com/OntologySummit2019/Communique/communique2019.pdf.
[31] Borgest NM, Smirnov SV. Startup of the OntoRhetor project [In Russian]. Proc. XV Internat. Conf. "Problems of control and modeling in complex systems" (June 25-28, 2013, Samara, Russia). - Samara: SSC RAS. - p. 363-366.
[32] Gunning D. DARPA Explainable Artificial Intelligence, 2018. Retrieved on December 3, 2018 -http://bit.ly/2s9d4pH.
[33] Dutton T. An Overview of National AI Strategies / Tim Dutton. Jun 28, 2018. - https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd.
[34] Artificial Intelligence. To the choice of strategy [In Russian]. V. Burov, D. Gaynulov, A. Zotov, E. Proidakov, N. Utkin, A. Raevsky, E. Khan // Training Center for Digital Transformation Leaders at VSHGU RANEPA. - M.: 2019. - 104 p.
[35] Analytical report. Comparison of national strategies in the field of artificial intelligence [In Russian]. R.V. Dushkin, D.A. Onatsik, D.S. Sutsilov, S. Fadeeva // Agency of AI. Moscow, LLC "DIKRIPTO". 2019. - 16 p.
[36] Borgest NM. Ontological approach to the formation of assessments of subjects, organizational structures and results of scientific activity [In Russian]. Materials of the VII Intern. conf. "Knowledge - Ontologies - Theories (ZONT-2019)", Novosibirsk: Institute of Mathematics named after S.B. Sobolev SB RAS, 2019. - p.57-65.
[37] Artificial Intelligence for the American People - https://www.whitehouse.gov/ai/.
[38] U.S. LEADERSHIP IN AI: A Plan for Federal Engagement in Developing Technical Standards and Related Tools Prepared in response to Executive Order 13859 Submitted on August 9, 2019. - 48 p.
Сведения об авторе
Боргест Николай Михайлович, 1954 г. рождения. Окончил Куйбышевский авиационный институт имени академика С.П. Королёва в 1978 г., к.т.н. (1985). Профессор кафедры конструкции и проектирования летательных аппаратов Самарского национального исследовательского университета имени академика С.П. Королёва, с.н.с. ИПУСС РАН. Член Международной ассоциации по онтологиям и их приложениям (IA0A), Российской ассоциации искусственного интеллекта (РАИИ). В списке научных трудов более 200 работ в области автоматизации проектирования и искусственного интеллекта. Nikolay Mikhailovich Borgest (b.1954) graduated from the Kuibyshev Aviation Institute named after academician S.P. Korolev (Kuibyshev-city) in 1978, PhD (1985). He is a Professor at Samara National Research University named after academician S.P. Korolev, Senior Research worker at ICCS RAS. He is a member of the International Association for Ontology and its Applications, a member of the Russian Association of Artificial Intelligence (RAII), co-author of more 200 scientific articles and abstracts in the field of CAD and AI.
