CC BY
18
ОТ РЕДАКЦИИ
Игры терминов и ловушки Фукидида Games of terms and Thucydides' traps
«...вопросы о названии встречаются так часто, что если бы среди философов навсегда установилось согласие относительно значения слов, то почти все их споры были бы прекращены1»
Рене Декарт
«Вокруг искусственного интеллекта складывается очень тревожная структура знаний и компетенций... Самая главная здесь опасность - цивилизационно-образовательная»2
Д.А. Новиков, академик РАН
Дорогой наш читатель,
уважаемые авторы и члены редакционной коллегии!
В традициях нашего редакционного послания вспоминать героев прошлого, внёсших значительных вклад в становление науки, в формирование современного представления о мироздании, о процессах, происходящих в эволюционирующем обществе и его производном - культуре, языке, науке, технике, технологиях. Уже не раз на страницах журнала цитировали3 слова французского философа, математика и естествоиспытателя Рене Декарта о важности точного определения значения терминов, об однозначном понимании их со-держания4. Сам же перевод и цитирование этой кажущейся всем очевидной мысли в разных источниках отличается, при том, что смысл передаётся и остаётся тем же. Т.е. слова и их сочетания (термины) используются различные5, а смысл, который стремились передать его интерпретаторы, сохраняется прежним. Этот пример толкований высказанной мысли показателен для случая, когда текст вторичен, а первичен контекст, т.е. передача смысла. Важный посыл Декарта - «если философы согласятся относительно значения слов» - объективно трудновыполним, т.к. у каждого исследователя своя история, свой опыт, своя культурная, образовательная, научная среда и обычаи, свои взгляды и ценности, своё наполнение и содержание используемых слов даже в близких предметных областях (ПрО) и ситуациях.
Модный сегодня термин искусственный интеллект (ИИ) также является предметом дискуссий, споров и противоположных утверждений, по нему нет финального согласия, хотя уже десятилетия проводятся научные конференции и читаются учебные курсы по ИИ, существуют ассоциации исследователей ИИ в разных странах, разрабатываются стандарты и стратегии его развития6. Всплеск интереса к ИИ проявился в последние годы в связи с явны-
Рене Декарт (1596-1650)
lRené Descartes: Regulae ad directionem ingenii, 1628 / Рене Декарт: Правила для руководства ума. Перевод с латинского М.А. Гарнцева // Рене Декарт. Сочинения в 2 т. Т.1. М., «Мысль», 1989. https://gtmarket.ru/library/basis/3958.
2 Вокруг искусственного интеллекта складывается очень тревожная структура знаний и компетенций, - академик Новиков. 26 июля 2022. https://new.ras.ru/mir-nauky/news/vokrug-iskusstvennogo-inteUekta-skladyvaetsya-ochen-trevozhnaya-struktura-znaniy-i-kompetentsiy-aka/.
3https://www.ontology-of-designing.ru/article/2013_3(9)/3_Borgest.pdf.
4http://www.ontology-of-designing.ru/article/2015_4(18)/1_FROM_THE_EDITORS.pdf.
5«(Верно, точно) определяйте (уточните) (значения) слова (слов), и вы (освободите) избавите человечество (мир, свет) от половины недоразумений (заблуждений)». Или: «Люди избавились бы от половины своих неприятностей, если бы смогли договориться о значении слов». Более точная цитата дана в эпиграфе.
6Боргест Н.М. Стратегии интеллекта и его онтологии: попытка разобраться. Онтология проектирования. 2019. Т.9, №4(34). С.407-428. DOI:10.18287/2223-9537-2019-9-4-407-428.
ми успехами применения методов машинного обучения в некоторых ПрО, где накопились огромные массивы размеченных данных. Обработка этих данных порой даёт значительные результаты, что стало восприниматься многими, особенно молодыми исследователями, как то, что это и есть ИИ, игнорируя результаты, достигнутые в прошлые годы, по созданию систем на основе логического, символьного ИИ.
«Статисты» (специалисты по машинному обучению разной глубины, статистической обработке подготовленных данных) и «символисты» (специалисты логического, символьного, семиотического, содержательного моделирования) в своих отношениях демонстрируют то, что хорошо описал древнегреческий историк, основатель исторической науки Фукидид в своём фундаментальном труде «История Пелопоннесской войны» . Он описал войну, которая изрядно ослабила два ведущих города-государства классической Греции две с половиной тысячи лет назад, и объяснил, что именно возвышение Афин и страх, который это возвышение внушало Спарте, сделали войну неизбежной.
С лёгкой руки американского политолога Грэхэма Аллисона, автора опубликованной в 2017 году книги «Обречены воевать. Могут ли Америка и Китай избежать ловушки Фукидида?8», термин «ловушка Фукидида» (англ. Thucydides's trap) стал очень популярен в последние годы. Например, сейчас этот термин используется для описания потенциального конфликта между США и Китайской Народной Республикой9. Ловушка Фукидида характеризует естественное и неизбежное напряжение отношений, которое возникает, когда новая сила угрожает вытеснить правящую. Это возможно в любой сфере деятельности, в т.ч. в вербальной среде, где проникновение и насаждение слов, терминов и целых языков сопровождается не только дискуссией, но серьёзными баталиями и даже войнами.
Сегодня увлечённые «статисты» (Афины) не желают найти согласия с «символистами» (Спарта), нет консенсуса в толковании ИИ, нет совместного поиска путей сотрудничества, идёт борьба за инвестиции на развитие ИИ; в конференциях, организуемых приверженцами этих моделей ИИ, нет упоминания о параллельных направлениях. Это естественный, объективный и эволюционный процесс, который в реальной, живой, конкурентной среде, не без потерь, но, в конечном итоге, выстроит согласие, о котором говорил и мечтал Рене Декарт. Ведь истина объективна, и она всегда се-
Фукидид (460-400 до н.э.)
бя проявит («Ищущий, да обрящет»).
Категоричен в своей оценке академик РАН Д.А. Новиков , считая ИИ «очень вредным термином, потому что для обывателей он создаёт иллюзию действительно чего-то сравнимого с человеком. Определений ИИ тысячи, но, если взять нормативный документ правительства, программу по развитию ИИ, то там сказано, что ИИ - это нечто, имитирующее деятельность человека. Определение очень туманное, и нет чётких границ, что относить к ИИ».
«ИИ весьма эклектичная область знаний, развивающаяся скачками, и каждый из этих скачков сопровождается завышенными ожиданиями, которые сменяются разочарованиями. Искусственные нейронные сети не используются в системах управления критически важными объектами, потому что никто не может гарантировать, что система управления не выведет этот объект за границы допустимой области. Именно поэтому нейронных сетей нет в авиации, на атомных станциях, во многих производственных системах»2. Более того, при всех выдающихся результатах, которые получены с помощью обученных систем GPT-3, AlphaFold, DALLE-2 и др., не-
7The History of the Peloponnesian War.By Thucydides. Written 431 B.C.E. Translated by Richard Crawley. http://classics.mit.edu/Thucydides/pelopwar.2.second.html.
8Грэхам Аллисон. Обречены воевать. DESTINED FOR WAR. Перев. В. Желнинов. М.: Изд. АСТ, 2019. 416 с.
9Николай Проценко. Что такое «ловушка Фукидида»: проиграет ли США Китаю как швед под Полтавой. 27.05.2020 (обновлено: 13.07.2022). https://ukraina.ru/20200527/1027819327.html.
Шалак А.В. Американо-китайское противостояние с позиций "Ловушки Фукидида". Российско-китайские исследования. 2021. №2. С.110-118. https://cyberleninka.rU/article/n/amerikano-kitayskoe-protivostoyanie-s-pozitsiy-lovushki-fukidida. Дмитрий Ефременко. Двойная ловушка Фукидида. Россия в глобальной политике. №4 2020 Июль/Август 08.07.2020. https://globalaffairs.ru/articles/dvojnaya-lovushka-fukidida/.
удачи других «обученных» систем с ИИ породили обидное для них название как технологические или стохастические11 попугаи...
Стоит отметить, что в новой номенклатуре научных специальностей ВАК12 к традиционной специальности для работ по ИИ «Системный анализ, управление и обработка информации» добавились новые специальности «Искусственный интеллект и машинное обучение», «Когнитивное моделирование», «Компьютерное моделирование и автоматизация проектирования», которые расширяют спектр областей разработки ИИ и дают надежду на приток работ в этой бурно развивающейся области в т.ч. и в России.
Обсуждая тему ИИ, нельзя обойти публикации международных рейтингов ИИ, в частности AI Index — инициативу Стэнфордского института ИИ, в котором группа экспертов из
13
академических и отраслевых кругов готовит аналитические отчёты по ИИ . Последнее издание включает анализ данных о различных организациях, технических характеристик систем ИИ, опроса исследователей робототехники, данных об этике и о законодательстве по ИИ. Главные выводы в отчёте за 2022 год:
■ частные инвестиции в ИИ резко выросли (в 2021 году составили более $90 млрд США, что вдвое превышает общий объём частных инвестиций в 2020 году);
■ США и Китай доминируют в области ИИ;
■ исследования в области честности и прозрачности ИИ резко возросли (за последние годы количество соответствующих публикаций увеличилось в пять раз);
■ ИИ становится более доступным и более эффективным; активно разрабатывается законо-
U■ ted Kingdom
дательство по ИИ; ■ дешевеет роботизированное оружие.
Разработан инструмент оценки глобальной динамики
г14
ИИ14. Global AI Vibrancy Tool — это интерактивная визуализация, которая позволяет проводить сравнения для 29 стран по 23 показателям. Инструмент обеспечивает оценку относительного положения стран на основе предпочтений пользователей; определяет соответствующие национальные показатели для определения приоритетов политики на уровне стран; показывает местные центры передового опыта в области
ИИ. К сожалению, этот инструмент отводит не столь почётное место нашей стране, что требует от тех, кто занимается этой перспективной областью, существенных усилий, чтобы быть не догоняющими, а лидировать в гонке за ИИ.
Сравнение индексов в исследованиях и разработках по ИИ, 2021 год1
10Tom Farrand. A 6-Minute Introduction to Causal AI. Quickly gain an understanding of how modern AI systems fail, and how causality can help. Aug 19. 2022. https://towardsdatascience.com/a-6-minute-introduction-to-causal-ai-50d92ffb5e91.
11Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT '21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. March 2021 P.610-623. https://doi.org/10.1145/3442188.3445922.
12 Приказ Минобрнауки России от 24.02.2021 N 118 (ред. от 11.05.2022) "Об утверждении номенклатуры научных специальностей, по которым присуждаются ученые степени, и внесении изменения в Положение о совете по защите диссертаций на соискание ученой степени кандидата наук, на соискание ученой степени доктора наук, утверждённое приказом Минобрнауки России от 10 ноября 2017 г. N 1093".
13AIIndexReport2022.230 p. https://aiindex.stanford.edu/wp-content/uploads/2022/03/2022-AI-Index-Report_Master.pdf.
l4Global AI vibrancy tool. Who's leading the global AI race? https://aiindex.stanford.edu/vibrancy/.
Наряду с понятием «ИИ», также широкое и небесспорное толкование представляют важные для нашего журнала термины: проектирование как процесс создания образа (модели, рабочей документации) будущего артефакта; проектные процедуры; проектные операции. Множество действий, выполняемых при проектировании, декомпозируется на стадии (этапы) проектирования, которые в свою очередь подразделяются на составные части, называемые проектными задачами, процедурами и операциями. Проектная процедура - это совокупность проектных операций, выполняемых по определённому алгоритму. Проектная операция - это наименьшая часть, блок элементарных действий, нацеленных на получение лишь одного результата. У технологов, в отличие от проектантов, содержание операции трактуется не столь широко, и можно заметить ускользающую определённость. В частности, это законченная часть (стадия) технологического процесса, характеризуемая однородностью действий, производимых над предметом производства, и в связи с этим, сосредоточенностью, как правило, в пределах одного рабочего места, одного механизма, одной операционной зоны технологического объекта управления15.
Термин операция используется в различных ПрО, хорошо известен он у медиков и военных, а сейчас он у всех «на слуху». Операция, обозначенная как специальная, мало добавляет содержания, т.к. не атрибутирована ни по конкретным действиям, ни по времени, неясен и ожидаемый результат и его последствия. Стоит отметить, что в религиях, церковных, армейских и властных Уставах используется понятие «вера» как способ устранения отсутствия знаний, ухода от объяснений и аргументации или принятия навязанного мнения или суждения о понятиях, выгодного устроителям Уставов. Очевидно, что для науки такой подход не приемлем... Не всё сразу открывается пытливому уму, поэтому все в ожидании развязки и прояснения ситуации, когда в онтологическом смысле вещи (things) будут иметь свои имена.
О важности различия терминов, их определений и понятий активно ведутся споры в научных кругах (см. например, дискуссию на онтологическом форуме, где обсуждается определение термина «service»16). Достоин внимания взгляд старшего онтолога компании
17
SemanticArts Майкла Ушолда17 на важность различения терминов и понятий при построении корпоративных онтологий для корпоративных клиентов. Рекомендации М. Ушолда имеют следующий вид.
1) Не позволяйте терминам мешать. Некоторые термины настолько широки и используются по-разному (например, «риск», «процесс», «контроль»), что даже небольшая группа людей не может договориться о едином их значении и определении.
2) Сначала сосредоточьтесь на концепциях, а затем на терминах. При моделировании на языке онтологии, особенно на ранних стадиях её создания и развития, термины не оказывают никакого влияния на семантику, логику и поведение вывода онтологии.
3) Определите основные понятия. В любой ПрО есть группа ключевых понятий, от которых зависит почти всё остальное. Идентификация этих понятий - основа для построения остальной части онтологии.
4) Хорошие термины важны для социализации онтологии. Термины имеют огромное значение для преодоления проблемы обучения и понимания онтологии другими людьми. Запутанная и непоследовательная терминология усугубляет проблему, что, в свою очередь, затрудняет удобство использования.
5) Текстовые определения важны для социализации онтологии. Текстовые определения в развитии онтологии играют более важную роль, чем термины, т.к. текстовые определения — это способ, с помощью которого заинтересованным сторонам сообщается, что концепции поняты.
6) Определения важнее терминов. Хотя термины менее важны, чем понятия, и ничего не значат с точки зрения формальной семантики, они очень важны для социализации онтологии. То же самое верно и для текстовых определений. Текстовые определения помогают человеку получить лучшее представление о пред-
15 СБЦП 81 - 2001 - 22. Автоматизированные системы управления технологическими процессами (АСУТП). Москва. 2016.
16JOWO-2.definition of "service".
https://groups.google.com/g/ontolog-forum/c/c0Q6cSJZpiA/m/7Xjg0UhcBQAJ?utm_medium=email&utm_source=footer&pli=1. llMichael Uschold.The Importance of Distinguishing between Terms and Concepts. August 22, 2013.TheWhiteboard. https://www.semanticarts.com/the-importance-of-distinguishing-between-terms-and-concepts/.
полагаемой семантике термина, даже для тех, кто предпочитает принимать аксиомы. Для тех, кто интере-
суется аксиомами, текст помогает прояснить смысл и позволяет выявить ошибки в аксиомах.
18
Здесь уместно вспомнить и героя нашего сегодняшнего обращения - Рене Декарта , - его лаконичные рассуждения о методе, которые он свёл к простым четырём правилам: 1) никогда не принимать за истинное ничего, что не признал бы таковым с очевидностью;
делить каждую из рассматриваемых трудностей на столько частей, сколько потребуется, чтобы лучше их
разрешить;
располагать свои мысли в определённом порядке, начиная с предметов простейших и легко познаваемых,
и восходить до познания наиболее сложных;
делать всюду перечни настолько полные и обзоры столь всеохватывающие, чтобы быть уверенным, что
ничто не пропущено.
Заявленную тему «игры терминов» не следует рассматривать как «игру слов» (каламбур), а скорее как полисемию в сочетании с неопределённостью содержания понятий и терминов, их обозначающих. Тема архиактуальна для онтологии, для описания ПрО, для создания систем коммуникации, систем с ИИ. А выход из ловушки Фукидида видится в коллабо-рации, сотрудничестве, в диалоге, в уступках, компромиссе и консенсусе.
В номере
В этом номере журнала статьи авторов из Владивостока, Иркутска, Лондона, Москвы, Оренбурга, Самары, Санкт-Петербурга и Уфы, которые представляют 17 ведущих университетов, академических институтов и компаний страны и мира.
Открывают номер журнала постановочные статьи. Одна посвящена проблеме построения онтологии науки и анализу новой номенклатуры научных специальностей ВАК, другая -модной теме передовых инженерных школ (ПИШ), которую развивает Минобрнауки России, приступив к финансовой поддержке ПИШ Традиционно сильные работы коллег из Владивостока в области медицинской диагностики на основе онтологий расширили спектр исследуемых ПрО и представили результаты создания онтологий для диагностики подводных аппаратов. ПрО коллег из Иркутска косвенно связана со здоровьем студентов, а разработанное клиентское приложение ориентировано на сотрудников кафедры физической культуры. В работе коллег из академического института Иркутска предлагается автоматизировать процесс извлечения конкретных сущностей из табличных данных для последующего наполнения целевого графа знаний, а исследователи из Санкт-Петербурга предложили алгоритм сопоставления классов доменных онтологий с компонентами моделей телекоммуникационных сетей. Коллаборативный авторский состав из Лондона, Москвы и Уфы предложил методику каскадирования целей в проектно-ориентированной компании, а профессор С.В. Микони из Санкт-Петербурга - методику построения многоуровневой модели оценивания сложного объекта. Работа из Самары является развитием опубликованных в нашем журнале концепций профессора В.А. Комарова о «точном проектировании» сложных объектов. Совершенствованию методики построения карт потока создания ценности на основе онтологического подхода посвящена работа авторов из Оренбурга.
Наш журнал по-прежнему остаётся местом для научных дискуссий.
Мы ждём новых интересных результатов исследований, критического анализа и развития уже опубликованных работ.
Dum spiro, spero! Ontologists and designers of all countries and subject areas, join us!
18Рене Декарт. Рассуждение о методе, чтобы верно направлять свой разум и отыскивать истину в науках. - Перевод на русский язык Г. Г. Слюсарева и А. П. Юшкевича. // Рене Декарт. Сочинения в 2 т. Т.1. М.: Мысль, 1989. René Descartes. Discours de la Méthodepourbienconduiresa raison, et chercher la Véritédans les sciences. Leiden, 1637.
