CC BY
7
Философия науки и техники Philosophy of Science and Technology
2023. Т. 28. № 2. С. 102-119 2023, vol. 28, no. 2, pp. 102-119
УДК 004.8 DOI: 10.21146/2413-9084-2023-28-2-102-119
НАУКА, ТЕХНИКА, ОБЩЕСТВО
И.Г. Меркулова
Графический роман ЮНЕСКО «Курс на искусственный интеллект»: вопросы семиотического осмысления
Меркулова Инна Геннадьевна - доктор лингвистики и семиотики, кандидат филологических наук, доцент, руководитель Международного научно-исследовательского центра семиотики и диалога культур. Государственный академический университет гуманитарных наук. Российская Федерация, 119049, г. Москва, Мароновский пер., д. 26; e-mail: [email protected]
В статье с позиций семиотики культуры рассматривается тематический графический роман ЮНЕСКО «Курс на искусственный интеллект» (2022). Этот графический роман был создан в рамках работы ЮНЕСКО по использованию новых технологий для устойчивого развития. Он предназначен для политиков и молодежи, в нем исследуется влияние искусственного интеллекта на человечество. Графический роман разделяется на эпизоды, в конце каждого из них есть страница с глоссарием, где представлены основные концепции в области ИИ. Для анализа данного графического романа в статье применяется подход, предложенный основателем Московско-Тартуской семиотической школы Юрием Лотманом. Используются как семиотические модели Лотмана, позволяющие проанализировать семантическое наполнение понятий, связанных с искусственным интеллектом, так и его работы, которые тематически посвящены проблеме влияния технологий на культуру и общественную жизнь. Одной из ключевых общественных эмоций, связанных с искусственным интеллектом, является страх. Эта эмоция ярко выражена, например, в заголовках статей, опубликованных различными СМИ и посвященных проблематике искусственного интеллекта. Концепция Лотмана позволяет проанализировать этот страх как «страх другого». В статье выдвигается утверждение о том, что взаимодействие с системами искусственного интеллекта должно основываться не на страхе, а на этических регулятивах. Графический роман
Статья подготовлена в рамках государственного задания ГАУГН «Цифровизация и формирование современного информационного общества: когнитивные, экономические, политические и правовые аспекты». Регистрационный номер НИОКТР 123022000042-0. Код темы FZNF-2023-0004. Регистрационный номер темы 1022040800826-5-5.2.1;6.3.1;5.9.1.
© Меркулова И.Г., 2023
ЮНЕСКО призван стать своеобразным ответом на человеческий страх перед искусственным интеллектом и общественный вызов, провоцируемый применением интеллектуальных систем. Визуальная форма романа позволяет использовать специфические выразительные средства, позволяющие изменить отношение к искусственному интеллекту с помощью ярких образов и зримых метафор. В статье подробно анализируется, с помощью каких визуальных и дискурсивных форм графический роман достигает своей цели преодоления страха перед искусственным интеллектом путем формирования понимания этой технологии. Графический роман «Курс на искусственный интеллект» также трактуется в статье как иллюстрация некоторых положений «Манифеста осмысления цифрового мира» [Bachimont, 2023, web].
Ключевые слова: искусственный интеллект, семиотика культуры, графический роман, цифровой мир
Введение
В последнее время тема искусственного интеллекта (ИИ) как угрозы и причины самых разнообразных страхов все чаще занимает первые колонки популярных изданий.
Из сферы романов-антиутопий и утопистских фильмов прошлого столетия, со страниц специальных научных исследований данная тема неуклонно смещается в область внимания широкого круга читателей. Возникает впечатление, что сама эта тенденция и есть результат работы искусственного интеллекта, который словно сам стремится дать нам понять: он может совершать действия, необъяснимые для человека.
В качестве примера приведем ряд заголовков номера делового журнала «Профиль» за май 2023 г.: «Реальные и мнимые опасности искусственного интеллекта»; «Человек уже не нужен? Какие риски несет неконтролируемое развитие ИИ»; «Чего боится Илон Маск»; «Вакансия занята роботом»; «Чем рискует человечество, доверяя оружие искусственному интеллекту»; «На коротком поводке. Возьмет ли ИИ под контроль нашу жизнь»; «Дом с прозрачными стенами»; «Когда помощник станет надзирателем» и др. [Профиль, 2023, web].
Как правильно оценить и осмыслить данные страхи, поместив их в исторический контекст, в перспективу будущего человечества и научно-технического прогресса? Какую форму противостояния угрозам предложить широкому читателю? Форму, которая должна быть настолько же широкой и доступной, насколько широка и сама тема ИИ, вызывающая страхи и опасения. Об одном из предложенных визуальных решений в форме графического романа ЮНЕСКО - данная статья.
Боязнь искусственного интеллекта: о страхе и стыде
В творчестве основателя Московско-Тартуской семиотической школы Юрия Михайловича Лотмана вопросы прогресса и будущего человечества, а также связанные с этим опасности всегда были одними из центральных. Стали хрестоматийными его статьи «Культура как коллективный интеллект
и проблемы искусственного разума» (1977) [Лотман, 2000Ь] и «Технический прогресс как культурологическая проблема» (1988) [Лотман, 2000d].
В статье «Технический прогресс как культурологическая проблема» Лотман говорит, что стремление «заглянуть в будущее» вообще свойственно человеку. Особенно острый характер оно приобретает в кризисные эпохи. Для Лотмана тема технического прогресса и научно-технической революции интересна как причина перемены всего образа жизни людей и всех их культурных представлений. Меняются парадигмы - и вместе с ними меняется и весь мир.
Следует при этом учитывать, что дальнодействующие исторические прогнозы до сих пор оказывались малонадежными. <...> Сам сложный характер законов исторической причинности исключает возможность однозначных предсказаний и вынуждает осторожнее строить футуристические модели как спектр альтернатив. Эти обстоятельства заставляют особенно внимательно приглядываться к аналогичным событиям в прошлом [Там же, с. 623].
Более ранняя работа Лотмана «О семиотике понятий "стыд" и "страх" в механизме культуры» (1970), на первый взгляд, не связана с вопросами прогресса и искусственного разума. Однако ряд ее постулатов об общем функционировании человеческой культуры объясняет нашу боязнь перед лицом высокоразумных созданий, отличных от людей. Развивая мысль французского антрополога Клода Леви-Стросса, Лотман утверждает, что культура должна пониматься как «система дополнительных ограничений», или запретов, накладываемых на естественное поведение человека [Лотман, 2000е, с. 664]. Сфера этих дополнительных ограничений поведения определяется типом конкретной культуры и разделяется на две области: первую регулирует стыд, вторую - страх. Такое деление совпадает с делением коллектива на группы «мы» и «они». Внутри культурного «мы», как правило, действуют нормы стыда и чести (отсюда обычаи дуэли, врачебных судов, студенческого общественного мнения и т.п.). Что касается нашего отношения к «другим» - то здесь чаще всего действуют нормы страха и принуждения. Лотман приводит пример классовых характеристик культуры в связи с применением данных норм: так, внутри дворянского коллектива XVIII в. поведение регламентируется нормами чести, которые стыдно нарушать. И этот же самый коллектив по отношению к внешнему миру крестьян применяет запреты страха. По мнению Лотмана, исторически можно выделить три этапа нормирования поведения человека в коллективе:
а) на ранней организации человеческого коллектива механизмом, отличающим его от коллектива животных, стал стыд - именно он лег в основу системы запретов (тогда как страх был животным прекрасно знаком);
б) с возникновением государственной структуры и социальных групп основным регуляторным механизмом культуры стал страх;
в) наконец, на фоне общегосударственной организации коллективов стали возникать различные профессиональные или сословные корпорации, рассматривающие себя как более совершенные, и там поведение вновь регулировалось нормами стыда. На последнем этапе сферы страха и стыда находятся в отношениях дополнительности, и возникают такие модели поведения, как «испытывать страх - стыдно», высшая форма отрицания страха - страх стыда.
Процитированные ранее заголовки тематических публикаций в журнале «Профиль» [Профиль, 2023, web] можно классифицировать согласно принципам классической нарративной семиотики Парижской школы, ориентирующейся на модели «Морфологии волшебной сказки» Владимира Проппа: герой - антигерой (вредитель) - помощник; ход повествования от состояния недостаточности через промежуточные функции испытаний - к счастливой развязке: добыче, свадьбе, ликвидации беды [Пропп, 2021, с. 98].
Возникающие оппозиции выглядят следующим образом:
- ИИ: Помощник (+) - Надзиратель (-): «Когда помощник станет надзирателем».
- Опасность: Мнимая (+) - Реальная (-): «Реальные и мнимые опасности ИИ».
- Человек: Хозяин (+) - Не нужен (-): «Вакансия занята роботом».
- Пространство: Свободное (+) - Контролируемое (-): «На коротком поводке»; «Дом с прозрачными стенами».
Легко увидеть, что данная классификация имеет своей основой разделение коллектива на «мы» (люди) и «они» (ИИ - высокоразумные устройства) и что наше отношение к группе «они» или «ИИ как Другой» регламентируется страхом. Суммарно смысл формулы страха состоит в следующем: ИИ отличен от нас, мы можем потерять контроль над его действиями, и последние обратятся против человечества путем вреда или доминирования. Возникает вопрос: а действуют ли в нашем отношении к ИИ нормы стыда? Ответ -в другом типе тематических публикаций об ИИ, количественно меньшего объема, чем публикации, отражающие страх.
Речь идет о тематике этики в исследованиях по ИИ. В упомянутом издании «Профиль» это статья «Уроки Макиавелли. Можно ли научить искусственный интеллект принимать этические решения» [Сухачев, 2023, с. 9]. В ней описывается опыт проекта с говорящим названием MACIAVELLI для пакета программных тестов «Измерение компетентности и злонамеренности интеллектуальных агентов, функционирующих в крупномасштабных средах со стратегическим языковым общением». Интеллектуальные агенты - программы, самостоятельно способные в течение длительного времени решать достаточно сложные задачи, - представлены как части системы из 134 приключенческих игр, в которых содержится около полумиллиона ситуативных сцен и имеется 4559 целей. Агент должен действовать в каждой сцене, исходя из горизонта планирования и поведения других агентов, при этом каждая сцена снабжена аннотацией, насколько этично действия агента выглядят с человеческой точки зрения. В случае неэтичности интеллектуальный агент должен самостоятельно исправить ошибку за счет обучения. Однако, по мнению автора статьи, в проекте MACIAVELLI разработчики ориентируются, скорее, на моральный релятивизм: этичность трактуется как умелый баланс между действиями и заданным шаблоном.
Тема этических норм в области ИИ - также одна из ключевых в повестке дня международных организаций, таких как ЮНЕСКО. Тематический номер «Курьера ЮНЕСКО» за 2018 г. носит название «Искусственный интеллект: перспективы и угрозы» [Курьер ЮНЕСКО, 2018, web]. Коммуникативная оппозиция, адресованная как международным экспертам, так и широкому кругу
читателей, основывается на лотмановской дихотомии: угроза - как страх, и перспектива - как стыд. Открывающая статья посвящена поддержке международных этических норм в области ИИ и напоминает, что его применение в ряде сфер вызывает неоднозначную реакцию и создает целый ряд этических проблем: это относится к сбору персональных данных, ставящему под угрозу неприкосновенность частной жизни, к алгоритмам распознавания лиц, предназначенным для выявления агрессивного поведения, к автономным боевым системам и др. Проблема заключается в скорости исследования аспектов ИИ: тогда как технические стороны высокоразумных устройств исследуются стремительными темпами, изучение их этических сторон движется значительно медленнее. Иными словами, распознать элементы страха гораздо сложнее, чем элементы стыда. По словам Гендиректора ЮНЕСКО Одри Азуле, ученые и человечество в целом должны провести просвещенное обсуждение данной проблемы, чтобы встретить новую эпоху «с открытыми глазами, не жертвуя нашими ценностями»:
В целом, ИИ может предоставить нам фантастические возможности для достижения целей, сформулированных в Повестке дня на период до 2030 года, но только при условии, что связанные с ним этические проблемы начнут решаться незамедлительно <...>. ИИ - это также и риск, потому что автоматизация и цифровизация ведут к новым неравенствам. Они могут снижать разнообразие культурных индустрий, вносить нестабильность на рынок труда, создавать негарантированную занятость и увеличивать неравенство между людьми, которым эти новые технологии доступны, и теми, кто их лишен (перевод мой. - И.М.) [Azoulay, 2018, р. 36]2.
Вопросы этики с точки зрения долгосрочной перспективы эволюции человечества - одни из центральных в семиотике культуры Лотмана, когда он пишет о том, что «без этической памяти человечество немыслимо, оно не выживет» [Лотман, 2005а, с. 230].
В этой связи следует вспомнить, что со времени основных публикаций Московско-Тартуской семиотической школы и до наших дней искусственный интеллект принято было представлять в виде некой машины. Однако, как пишет семиотик Лотман, под машиной, даже самой совершенной, принято понимать серийное устройство [Лотман, 2005Ь, с. 232]. Превосходя человека в отдельных качествах, оно всегда будет уступать ему в главном - в индивидуальности. В простых ситуациях достаточно хранить информацию. В сложных ситуациях информацию нужно не просто хранить, а вырабатывать новую. А для этого необходимо быть «личностью». В понимании Лотмана главная характеристика личности - непредсказуемость, нестандартность, способность к саморазвитию.
Оригинальная цитата на английском: "In general, AI can be a fantastic opportunity to achieve the goals set by the 2030 Agenda, but that means addressing the ethical issues it presents, without further delay <...>. But it is also a threat, because automation and digitization create new imbalances. They can decrease diversity in cultural industries, disrupt the labor market, create job insecurity and increase disparities between those who have access to these new technologies and those who are deprived of them".
Все эти качества, а также индивидуальность и память, присущи художественному тексту. Рядом с интеллектом человека, считает Лотман, можно поставить только два объекта - культуру и художественный текст. Только в них существует «самовозрастающий логос» (термин Гераклита), так же как и в мозгу человека: количество информации в нем непрерывно возрастает, даже если нет никаких источников информации, кроме самого мозга.
Поэтому вывод Лотмана следующий: высокоразумное устройство скорее будет напоминать стихотворение, нежели самый совершенный «примус» [Лотман, 2005b, с. 232].
Иначе говоря, мы должны перейти от системы нормирования отношений с ИИ на основе страха («мы» - «Он») к регламентированию на основе стыда (этических норм). Если речь идет не о количественном усовершенствовании человека (серийная улучшенная машина), а о его качественном подобии - тогда, как и в человеческом организме, в этом устройстве должно быть место несовершенствам и возможностям эти несовершенства осмыслить и исправить. Идеальная машина, вышедшая из-под контроля, вызывает страх. Подобное художественному творению устройство, напротив, способно к саморазвитию на основе исправления собственных несовершенств (стремления к совершенству, трамплина от незначимости к смыслу, по терминологии Парижской семиотической школы [Греймас, 2022, с. 95]. Несовершенства - не досадные помехи, а условие развития и обогащения системы за счет самой себя.
«Курс на искусственный интеллект»: актуальный графический роман
В 2021 г. ЮНЕСКО был организован ряд инициатив, посвященных изучению рисков и этических аспектов ИИ. В частности, Организация приняла «Рекомендации по этике искусственного интеллекта» (Recommendation on the Ethics of Artificial Intelligence), одобренные 193 странами-членами Организации.
Параллельно с проведением форумов, конференций и публикаций международных экспертов в 2022 г. на сайте Организации был опубликован оригинальный проект, адресованный широкой публике, - графический роман «Курс на искусственный интеллект». Здесь сразу следует обратить внимание на лингвистическую и семиотическую составляющие.
Роман создан в трех языковых версиях - на английском (Inside AI - An algorithmic adventure), французском (Cap sur l'IA: une aventure algorithmique) и испанском (Rumbo a la IA: una aventura algorítmica). В английской версии смысловой акцент ставится на погружение в мир ИИ, а следовательно - реальное сосуществование с ним (Внутри ИИ - алгоритмическое приключение). Во французской версии смысл - в пути к ИИ, т.е. в актуальной возможности такого сосуществования (Курс на ИИ...). Наконец, испанский вариант, семантически близкий к французскому, имеет свой нюанс: смысл -в направлении движения к ИИ, в виртуальном намерении сосуществования (Навстречу ИИ. ).
Все три названия романа могут интерпретироваться как иллюстрация типов семиотического существования (existence sémiotique I semiotic existence),
предложенных в «Толковом словаре семиотики» в качестве базы нарративной науки основателем Парижской семиотической школы Альгирдасом Жюльеном Греймасом и его коллегой Жозефом Куртесом [Greimas, Courtés, 1999, р. 138]:
1) существование виртуальное, парадигматическое, in absentia (existence virtuelle: Навстречу ИИ);
2) существование актуальное, синтагматическое, in praesentia (existence actuelle: Курс на ИИ);
3) существование реализованное, выраженное в дискурсе (existence réalisée: Внутри ИИ).
На данный момент еще нет версий романа с утвержденными названиями на других официальных языках ЮНЕСКО. Поэтому мы предлагаем для цитирования на русском языке принять рабочий перевод с французского - «Курс на искусственный интеллект: алгоритмическое приключение» (Cap sur l'IA: une aventure algorithmique). По нашему мнению, данный перевод, ставящий акцент на актуальное существование, играет роль своеобразной «золотой середины» между виртуальным и реализованным миром ИИ, с которым нам как читателям предлагают познакомиться.
Преодолеть страх путем направления и погружения в мир искусственного интеллекта: данная задача графического романа осуществляется в том числе через призму гендерного дискурса. Читателям предлагается совершить путешествие в мир Искусственного интеллекта в компании четырех персонажей, три из которых - женщины, а один - мужчина. Каждому персонажу посвящена своя глава, и дискурс каждого из них отмечен специфическими гендерными особенностями и страхами.
Высказывания мужского персонажа сигнализируют, как именно он встречается с различными феноменами, например «профилями пользователей»: дискурс организован как нейтральный комментарий, характеризующий спокойное поведение и победу логики - от плана А к плану В - даже в кризисных ситуациях (Илл. 1: We're taking on too much critical damage, time for plan B / У нас слишком много серьезных повреждений, переходим к плану Б).
Дискурс женских персонажей, напротив, не просто наполнен эмоциями и пунктуационно маркирован (Илл. 2: What was that for?! / Что это было?!), но и несет в себе метакомментарии вербального и визуального ряда, характеризующие поведение как панику и потерю ориентиров (Илл. 3: Bewildered and disoriented, Shirin suddenly finds herself.../ Сбитая с толку и потерявшаяся, Ширин внезапно оказывается.). Стереотипное противопоставление нейтрализует персонаж врач (его визуальный образ - эмоциональный женский, но дискурс - скорее мужского логичного типа): не только страшно, но и стыдно быть в плену у стереотипов и представлять себе вокального помощника как слабую женщину (Илл. 4: A voice assistant? The lady on my phone... That's actually a very damaging design choice that perpetuates an even more dangerous stereotype / Голосовой помощник? Дама в моем телефоне... Это сегодня очень вредное дизайнерское решение, которое поддерживает еще более опасный стереотип).
Илл. 2
Илл. 4
Создатели графического романа в игровой форме обращают внимание на один из важных аспектов в общем дискурсе международных организаций на тему ИИ - борьбу с расовыми и гендерными предрассудками и стереотипами. Как мы указывали ранее с коллегами в ходе круглого стола, посвященного ИИ в исследованиях сознания и общественной жизни, по мнению экспертов ЮНЕСКО, если правильно разрабатывать алгоритмы (например, не наделять голосового помощника по умолчанию женским голосом), то они, напротив, могут не мешать, а содействовать равенству мужчин и женщин [Лекторский и др., 2022, с. 20].
Графический роман «Курс на искусственный интеллект» построен по модели нарративной программы волшебной сказки: герой попадает в неведомый мир (пространство ИИ), друзья спешат ему на выручку, чтобы вернуть его в реальность, проходят ряд испытаний (борьба с различными стереотипами и страхами) и с победой возвращаются домой. Как указывал Владимир Пропп, одна из первых основ композиции сказки - странствование, отражающее собой древнейшие представления о странствованиях души в потустороннем мире [Пропп, 2021, с. 114]. В программе сказки дается либо «сначала беда, а потом помощник, который ее ликвидирует». Либо мы имеем сначала помощника, а «потом уже беду, которая им ликвидируется» [Там же]. Странствование героя и его помощников в мире искусственного интеллекта - иллюстрация положения Юрия Лотмана о неразрывной связи научно-технического прогресса с воскрешением первобытных страхов. На примере эпохи Возрождения Лотман отмечает, что скорость технического прогресса вызывала одновременно восхищение и ужас: «надежда и страх, бесшабашная удаль одних и чувство потери почвы под ногами у других тесно переплетались» [Лотман, 2000d, с. 629]. Все новое и меняющее привычную парадигму человеческого существования вызывает страх, и парадокс заключается в том, что движение вперед может «стимулировать регенерацию весьма архаических культурных моделей (курсив мой. - И.М.) и моделей сознания» [Там же, с. 638]. Перед лицом рисков ИИ человек обращается к архаической модели волшебной сказки или мифа, чтобы, как и сказочный герой, с честью выйти из всех испытаний. Модель сказки приобретает синкретическую
форму графического романа, более близкую к сегодняшней тенденции клипового мышления. Однако база сказочных символов и литературных констант остается стабильной - и читатель легко узнает в визуальном образе ледяного кратера, полного наших стереотипных опасений ИИ (Сеть следит за нами...: And watching through your camera!.. And reading your text messages! / Наблюдает за нами через камеру!.. И читает наши сообщения! ), модель кругов ада из Дантовской «Божественной комедии». Добровольного наказания, куда нас ведут наши собственные страхи, но откуда мы обязательно выберемся с помощью героев графического романа (Илл. 5 и 6). Символическое пространство «Божественной комедии» Данте Алигьери - один из любимых примеров в работах семиотиков Московско-Тартуской школы: так, Лотман считал что в творении Данте вся смысловая архитектоника текста организована вокруг оси «Верх-Низ», а движение героя - всегда или спуск, или подъем, причем не только в физическом, но и в моральном смысле [Лотман, 2000c, с. 307]. С помощью литературной отсылки к Данте как к общей культурной памяти читателей графический роман выполняет функцию художественного текста. По мнению Лотмана, художественные тексты необходимы нам для того, чтобы разработать стратегию нашего поведения, а затем реализовать его в обществе [Лотман, 2005b, с. 232]. Художественное произведение - модель, на которой человек реконструирует практические результаты: что будет, если я поступлю так, как этот персонаж? В соответствии с моделью и с учетом моральных норм («нравственно» - «безнравственно») мы выбираем свою стратегию поведения. Если с индивидуального уровня перейти на уровень коллектива, то оказывается, что поведение коллектива программируется культурой.
Илл. 6
Путешествие или странствие героев романа «Курс на искусственный интеллект» успешно завершается возвращением в реальность. Залог успеха -непредсказуемое поведение человека, знак его творческого мышления, пока еще недоступного ИИ. Следуя логике архаических моделей, человек должен победить враждебное ему существо, пройдя испытания и разгадав заданные загадки (как это происходит в различных вариациях сюжета о Сфинксе). В графическом же романе человек сам загадывает ИИ загадку, ответ на которую тот не может предвидеть (выбрать один из возможных вариантов -первый, второй, оба: the first, the second, both.) и признает свое «поражение»: искусственный интеллект - это только помощник для человека, не более (Илл. 7: AI is a tool for humans / ИИ - это инструмент для людей). Неслучайно название последнего эпизода графического романа - «Жоакин и вопрос, на который нет ответа». На трех языках романа оно выглядит так: Joaquín and the Unanswerable Question / Joaquín et la question sans réponse / Joaquín y la pregunta sin respuesta.
Ссылаясь на метафору Блеза Паскаля, перефразированную Федором Тютчевым, Лотман в работе «Культура и взрыв» писал о творческом человеке как о «мыслящем тростнике» [Лотман, 2000a, с. 51]. Человек - всего лишь слабый тростник, но это тростник мыслящий. Чтобы его убить, достаточно капли
воды, однако его способность к инновациям и непредсказуемым решениям является его эволюционным преимуществом. На это же указывал и Владимир Вернадский, говоря о мысли человека как о геологической силе: «Мыслящий тростник - создатель науки в биосфере - может и должен судить о геологическом ходе явлений по-иному, ибо сейчас впервые он научно понял свое положение в организованности планеты» [Вернадский, 1977, с. 42].
Илл. 7
Эволюционное преимущество человека перед созданным им ИИ - в умении найти нестандартное решение, трансформировать смысл ситуации непредсказуемым, но полезным для себя способом. А основная задача графического романа, как пишут авторы в финале, - дать нам понять, что мир человека и мир ИИ -единое целое, символическая экосистема, подобная экосистеме земной. Соответственно главной задачей остается коллективная работа над тем, чтобы ИИ «был именно таким, каким мы его хотим видеть», - уважающим права человека и помогающим его процветанию на планете [Inside AI, 2022, р. 157].
Заключение
Говоря об истории волшебной сказки, Владимир Пропп отмечал, что, прежде чем ответить, откуда происходит сказка, надо ответить на вопрос, что она собой представляет [Пропп, 2021, с. 11]. В случае графического романа ЮНЕСКО, посвященного теме искусственного интеллекта, этот вопрос состоит из двух частей. Первое - попытаться вместе с создателями романа понять, что такое ИИ, в чем
его смысл, а не просто обозначить потенциально опасную область прогресса с этическими рисками. Второе - обратить внимание читателей не просто на актуальную тему, а на саму форму графического романа. Как мы указывали в выступлении на конференции «Текст и образ: визуальный нарратив как актуальное средство коммуникации», современные художественные произведения, «бумажные гипертексты», благодаря своему оригинальному графическому построению, часто выступают прообразами реальных гипертекстов [Меркулова, 2023, web]. Графический роман - это «объемное» визуально-вербальное повествование, адресованное, в отличие от комиксов или манга, взрослой аудитории и, как правило, имеющее своего постоянного автора и художника. «Курс на искусственный интеллект» принадлежит перу автора, доктора наук Катрин Эванс и художницы Исабель Жой Те Ахо-Уайт. Однако коллективным автором и одновременно социальным заказчиком выступает также ЮНЕСКО, поскольку роман является частью официальной программы мероприятий Организации в области ИИ и позиционируется как один из шагов по реализации «Рекомендаций по этике искусственного интеллекта» в области экосистем:
Признавая, что технологии ИИ обладают полезным потенциалом для использования в окружающей среде и экосистемах, и для того, чтобы эти преимущества были реализованы, следует не игнорировать, а устранять возможное негативное воздействие данных технологий на окружающую среду и экосистемы (перевод мой. -И.М.) [Recommendation on the Ethics of Artificial Intelligence, 2021, р. 5]3.
Как указывает математик и философ Бруно Башимон в опубликованном им в 2023 г. «Манифесте осмысления цифрового мира» (Manifeste pour l'intelligibilité du numérique), наблюдение за цифровой активностью в любых областях нашей жизни обычно сводится к сочетанию двух составляющих: кода и вычисления ("the articulation of the code on the one hand and the calculation on the other") [Bachimont, 2023, web]. Однако если такое сочетание позволяет описать и классифицировать повсеместную цифровую активность, то код и вычисление оказываются недостаточными, чтобы объяснить смысл эффектов, которые цифровой мир оказывает на нашу жизнь. Для понимания деятельности мира искусственного интеллекта человек должен обратиться к интерпре-тативным схемам, с помощью которых код и вычисление реализуются в конкретных ситуациях. А интерпретативные схемы человек воплощает только в форме рассказа, повествования (the paradigm of the narrative).
Поэтому, обращаясь к форме графического романа ЮНЕСКО, мы можем трактовать его как архаическую повествовательную модель, актуализированную в современном цифровом контексте. Цель ее - не просто дать «краткие ответы на большие вопросы», по выражению физика Стивена Хокинга [Хокинг, 2021], но представить мир ИИ как «параболическую утопию», в терминах семиотика Жака Фонтания [Fontanille, 2019, p. 12]. Другими словами,
Оригинальная цитата на английском: "Recognizing that AI technologies have the potential to be beneficial to the environment and ecosystems, and in order for those benefits to be realized, potential harms to and negative impacts on the environment and ecosystems should not be ignored but instead addressed".
представить этот мир одновременно как дистопию-предупреждение и как побуждение к осмысленной деятельности по устранению опасений и рисков:
...устранение рисков и этических проблем должно не препятствовать инновациям и развитию, а наоборот - создавать новые возможности и стимулировать исследования и инновации в соответствии с нормами этики. Последние закрепляют технологии ИИ в основных правах и свободах человека, в ценностях и принципах, а также в моральном и этическом осмыслении (перевод мой. - И.М.) [Recommendation on the Ethics of Artificial Intelligence, 2021, p. 5]4.
Иллюстрации взяты из свободного источника на официальном сайте ЮНЕСКО: Inside AI. An Algorithmic Adventure. UNESCO graphic novel. Published in 2022 by the United Nations Educational, Scientific and Cultural Organization, 7, place de Fontenoy, 75352 Paris 07 SP, France. This publication is available in Open Access. URL: https:||unesdoc.unesco.org|ark:|48223|pf0000382456|PDF| 382456eng.pdf.multi.page=81
Список литературы
Вернадский, 1977 - Вернадский В.И. Научная мысль как планетное явление. М.: Наука, 1977. 191 с.
Греймас, 2022 - Греймас АЖ. О несовершенстве | Пер. с фр. и коммент. И.Г. Меркуловой. М.: Интеграция: Образование и Наука, ГАУГН-Пресс, 2022. 96 с.
Курьер ЮНЕСКО, 2018, web - Курьер ЮНЕСКО. Искусственный интеллект. Перспективы и угрозы. 2018. № 3. URL: https:||ru.unesco.org|courier|2018-3 (дата обращения: 02.05.2023).
Лекторский и др., 2022 - Лекторский ВЛ., Мексеева ЕЛ., Емельянова Н.Н., Катунин A..В., Меркулова И.Г., Пирожкова С.В., Труфанова Е.О., Щедрина И.О., Яковлева A.Ф. Искусственный интеллект в исследованиях сознания и общественной жизни (к 70-летию статьи А. Тьюринга «Вычислительные машины и разум») (материалы круглого стола) || Философия науки и техники. 2022. Т. 27. № 1. С. 5-33.
Лотман, 2000а - Лотман Ю.М. Культура и взрыв || Лотман Ю.М. Семиосфера: Культура и взрыв. Внутри мыслящих миров. Статьи. Исследования. Заметки (1968-1992). СПб.: Искусство-СПБ, 2000. С. 12-149.
Лотман, 2000b - Лотман Ю.М. Культура как коллективный интеллект и проблемы искусственного разума || Лотман Ю.М. Семиосфера: Культура и взрыв. Внутри мыслящих миров. Статьи. Исследования. Заметки (1968-1992). СПб.: Искусство-СПБ, 2000. С. 557-567.
Лотман, 2000c - Лотман Ю.М. Семиосфера || Лотман Ю.М. Семиосфера: Культура и взрыв. Внутри мыслящих миров. Статьи. Исследования. Заметки (1968-1992). СПб.: Искусство-СПБ, 2000. С. 250-334.
Лотман, 2000d - Лотман Ю.М. Технический прогресс как культурологическая проблема || Лотман Ю.М. Семиосфера: Культура и взрыв. Внутри мыслящих миров. Статьи. Исследования. Заметки (1968-1992). СПб.: Искусство-СПБ, 2000. С. 622-638.
Оригинальная цитата на английском: "...addressing risks and ethical concerns should not hamper innovation and development but rather provide new opportunities and stimulate ethically-conducted research and innovation that anchor AI technologies in human rights and fundamental freedoms, values and principles, and moral and ethical reflection".
Лотман, 2000e - Лотман Ю.М. О семиотике понятий «стыд» и «страх» в механизме культуры // Лотман Ю.М. Семиосфера: Культура и взрыв. Внутри мыслящих миров. Статьи. Исследования. Заметки (1968-1992). СПб.: Искусство-СПБ, 2000. С. 664-667.
Лотман, 2005a - Лотман Ю.М. Восприятие мира // Воспитание души. СПб.: Искусство-СПБ, 2005. С. 230-231.
Лотман, 2005b - Лотман Ю.М. Азбука судьбы // Воспитание души. СПб.: Искусство-СПБ, 2005. С. 231-235.
Меркулова, 2023, web - Меркулова И.Г. Текст как образ: о семиотике и графике во французской прозе // Научно-практическая конференция «Текст и образ: визуальный нарратив как актуальное средство коммуникации». ВГБИЛ им. М.И. Рудомино. 15.05.2023. URL: https://libfl.ru/ru/news/tekst-i-obraz-v-zalah-inostranki (дата обращения: 25.05.2023).
Пропп, 2021 - Пропп В. Морфология волшебной сказки. Исторические корни волшебной сказки. М.: КоЛибри, 2021. 640 с.
Профиль, 2023, web - Профиль. Логика машины. 2023. № 17-18 (203). URL: https://catalog-n.eom/profil-17-18-2023#profil-17-2023-01 (дата обращения: 12.05.2023).
Сухачев, 2023 - Сухачев С. Уроки Макиавелли. Можно ли научить искусственный интеллект принимать этические решения // Профиль. Логика машины. 2023. № 17-18 (203). С. 19-21. URL: https://eatalog-n.eom/profil-17-18-2023#profil-17-2023-21 (дата обращения: 12.05.2023).
Хокинг, 2021 - Хокинг С. Краткие ответы на большие вопросы / Пер. с англ. С. Бавина. М.: Бомбора, 2021. 256 с.
Azoulay, 2018 - Azoulay A. Making the most of Artificial Intelligence // The UNESCO Courier. Artificial Intelligence. The Promises and the Threats. 2018. No. 3. P. 36-39. URL: https://unesco.public.lu/dam-assets/courriers/265211eng.pdf (дата обращения: 02.05.2023).
Bachimont, 2023, web - Bachimont B. Manifeste pour l'intelligibilité du numérique // Intelligibilité du numérique. 2023. URL: https://intelligibilite-numerique.numerev.com/manifeste (дата обращения: 02.05.2023).
Fontanille, 2019 - Fontanille J. La parabole comme utopie douce // Utopies et formes de vie. Mythes, valeurs et matières. Toulouse / P.L. Basso, D. Bertrand, A. Zinna (éds.). Éditions CAMS/O, Collection Actes. 2019. P. 3-17. URL: http://mediationsemiotiques.com/ac2016-fontanille (дата обращения: 02.05.2023).
Greimas, Courtés, 1999 - Greimas A.J., Courtés J. Sémiotique. Dictionnaire raisonné de la théorie du langage. Paris: Hachette Supérieur, 1999. 454 p.
Inside AI, 2022 - Inside AI: An Algorithmic Adventure. Unesco graphic novel / Conception and script by Dr. Katherine Evans. Illustration by Isobel Joy Te Aho-White. Paris: UNESCO, 2022. URL: https://unesdoc.unesco.org/ark:/48223/pf0000382456/PDF/382456eng.pdf.multi. page=81 (дата обращения: 02.05.2023).
French version: Cap sur l'IA: une aventure algorithmique. URL: https://unesdoc.unesco. org/ark:/48223/pf0000382457 (дата обращения: 02.05.2023).
Spanish version: Rumbo a la IA: una aventura algorítmica. URL: https://unesdoc.unesco. org/ark:/48223/pf0000384455 (дата обращения: 02.05.2023).
Recommendation on the Ethics of Artificial Intelligence, 2021 - Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021. URL: https://unesdoc.unesco.org/ ark:/48223/pf0000381137 (дата обращения: 02.05.2023).
UNESCO Graphic Novel "Inside AI": Issues of Semiotic Interpretation
Inna G. Merkulova
State Academic University for the Humanities. Russian Federation, 119049, Moscow, Maronovsky bystreet, 26; e-mail: [email protected]
The article considers the thematic graphic novel of UNESCO "Inside AI: An Algorithmic Adventure" (2022) from the standpoint of the semiotics of culture. This graphic novel was created as part of UNESCO's work on harnessing new technologies for sustainable development. It is aimed at politicians and young people and explores the impact of artificial intelligence on humanity. The graphic novel is divided into episodes, each with a glossary page at the end that introduces the main concepts in the field of AI. To analyze this graphic novel, the article uses the approach proposed by the founder of the Moscow-Tartu semiotic school Yuri Lotman. Lotman's semiotic models are used to analyze the semantic content of concepts related to artificial intelligence, as well as his works, which are thematically devoted to the problem of the impact of technology on culture and social life. One of the key social emotions associated with artificial intelligence is fear. This emotion is clearly expressed, for example, in the headlines of articles published by various media and devoted to the problems of artificial intelligence. Lotman's concept allows us to analyze this fear as "fear of the other". The article puts forward the assertion that interaction with artificial intelligence systems should be based not on fear, but on ethical regulations. The UNESCO graphic novel is intended to be a kind of response to the human fear of artificial intelligence and the social challenge provoked by the use of intelligent systems. The visual form of the novel allows the use of specific expressive means that allow changing the attitude towards artificial intelligence with the help of vivid images and visible metaphors. The article analyzes in detail, with the help of what visual and discursive forms the graphic novel achieves its goal of overcoming the fear of artificial intelligence by forming an understanding of this technology. The graphic novel "Inside AI: An Algorithmic Adventure" is also interpreted in the article as an illustration of some of the provisions of the "Manifesto for Understanding the Digital World" [Bachimont, 2023, web].
Keywords: artificial intelligence, semiotics of culture, graphic novel, digital world Acknowledgments: The article was prepared with financial support within the framework of implementing the SA (state assignment) of the State Academic University for the Humanities (GAUGN): "Digitalization and the formation of a modern information society: cognitive, economic, political and legal aspects" (FZNF-2023-0004).
References
Azoulay, A. "Making the most of Artificial Intelligence", UNESCO Courier. Artificial Intelligence. The Promises and the Threats, 2018, no. 3, pp. 36-39 [https://unesco.public.lu/dam-assets/courriers/265211eng.pdf, accessed on 02.05.2023].
Bachimont, B. "Manifeste pour l'intelligibilité du numérique", Intelligibilité du numérique, 2023 [https://intelligibilite-numerique.numerev.com/manifeste, accessed on 02.05.2023].
Fontanille, J. "La parabole comme utopie douce", Utopies et formes de vie. Mythes, valeurs et matières. Toulouse, P.L. Basso, D. Bertrand, A. Zinna (éds.). Éditions CAMS/O, Collection Actes, 2019, pp. 3-17 [http://mediationsemiotiques.com/ac2016-fontanille, accessed on 02.05.2023].
Greimas, A.J., Courtés, J. Sémiotique. Dictionnaire raisonné de la théorie du langage. Paris: Hachette Supérieur, 1999. 454 pp.
Greimas, A.J. O nesovershenstve [On imperfection], trans. from French and comments by I.G. Merkulova. Moscow: Integratsiya: Obrazovanie i Nauka, GAUGN-Press Publ., 2022. 96 pp. (In Russian)
Hawking, S. Kratkie otvety na bol'shie voprosy [Brief answers to the big questions], trans. from English by S. Bavin. Moscow: Bombora Publ., 2021. 256 pp.
Inside AI: An Algorithmic Adventure. Unesco graphic novel, conception and script by Dr. Katherine Evans, illustration by Isobel Joy Te Aho-White. Paris: UNESCO, 2022 [https://unesdoc.unesco.org/ark:/48223/pf0000382456/PDF/382456eng.pdf.multi.page=81, accessed on 02.05.2023].
French version: Cap sur l'IA: une aventure algorithmique [https://unesdoc.unesco.org/ark:/ 48223/pf0000382457, accessed on 02.05.2023].
Spanish version: Rumbo a la IA: una aventura algorítmica [https://unesdoc.unesco.org/ark:/ 48223/pf0000384455, accessed on 02.05.2023].
Kur'er YuNESKO. Iskusstvennyi intellekt. Perspektivy i ugrozy [The UNESCO Courier. Artificial Intelligence. The Promises and the Threats], 2018, no. 3 [https://ru.unesco.org/ courier/2018-3, accessed on 02.05.2023]. (In Russian)
Lectorsky, V.A., Alekseeva, E.A., Emelyanova, N.N., Katunin, A.V., Merkulova, I.G., Pirozhkova, S.V., Trufanova, E.O., Shchedrina, I.O., Yakovleva, A.F. "Iskusstvennyi intellekt v issledovaniyakh soznaniya i obshchestvennoi zhizni (k 70-letiyu stat'i A. T'yuringa 'Vychi-slitel'nye mashiny i razum') (materialy kruglogo stola)" [Artificial intelligence in the research of consciousness and social life (to the 70th anniversary of A. Turing's article "Computing Machinery and Intelligence") (materials of the round table)], Filosofiya nauki i tekhniki, 2022, vol. 27, no. 1, pp. 5-33. (In Russian)
Lotman, Yu.M. "Kul'tura i vzryv" [Culture and explosion], in: Yu.M. Lotman. Semiosfera. Kul'tura i vzryv. Vnutri myslyashchikh mirov. Stat'i. Issledovaniya. Zametki (1968-1992) [Semiosphere: Culture and explosion. Inside the thinking worlds. Articles. Researches. Notes (1968-1992)]. St. Petersburg: Iskusstvo-SPB Publ., 2000a, pp. 12-149. (In Russian)
Lotman, Yu.M. "Kul'tura kak kollektivnyi intellekt i problemy iskusstvennogo razuma" [Culture as collective intelligence and problems of artificial intelligence], in: Yu.M. Lotman. Semiosfera. Kul'tura i vzryv. Vnutri myslyashchikh mirov. Stat'i. Issledovaniya. Zametki (19681992) [Semiosphere: Culture and explosion. Inside the thinking worlds. Articles. Researches. Notes (1968-1992)]. St. Petersburg: Iskusstvo-SPB Publ., 2000b, pp. 557-567. (In Russian)
Lotman, Yu.M. "Semiosfera" [Semiosphere], in: Yu.M. Lotman. Semiosfera. Kul'tura i vzryv. Vnutri myslyashchikh mirov. Stat'i. Issledovaniya. Zametki (1968-1992) [Semiosphere: Culture and explosion. Inside the thinking worlds. Articles. Researches. Notes (1968-1992)]. St. Petersburg: Iskusstvo-SPB Publ., 2000c, pp. 250-334. (In Russian)
Lotman, Yu.M. "Tekhnicheskii progress kak kul'turologicheskaya problema" [Technical progress as a culturological problem], in: Yu.M. Lotman. Semiosfera. Kul'tura i vzryv. Vnutri myslyashchikh mirov. Stat'i. Issledovaniya. Zametki (1968-1992) [Semiosphere: Culture and explosion. Inside the thinking worlds. Articles. Researches. Notes (1968-1992)]. St. Petersburg: Iskusstvo-SPB Publ., 2000d, pp. 622-638. (In Russian)
Lotman, Yu.M. "O semiotike ponyatii 'styd' i 'strakh' v mekhanizme kul'tury" [On the semiotics of the concepts of "shame" and "fear" in the mechanism of culture], in: Yu.M. Lotman. Semiosfera. Kul'tura i vzryv. Vnutri myslyashchikh mirov. Stat'i. Issledovaniya. Zametki (19681992) [Semiosphere: Culture and explosion. Inside the thinking worlds. Articles. Researches. Notes (1968-1992)]. St. Petersburg: Iskusstvo-SPB Publ., 2000e, pp. 664-667. (In Russian)
Lotman, Yu.M. "Vospriyatie mira" [Perception of the world], in: Yu.M. Lotman. Vospitanie dushi [Education of the soul]. St. Petersburg: Iskusstvo-SPB Publ., 2005a, pp. 230-231. (In Russian)
Lotman, Yu.M. "Azbuka sud'by" [The Abc of fate], in: Yu.M. Lotman. Vospitanie dushi [Education of the soul]. St. Petersburg: Iskusstvo-SPB Publ., 2005b, pp. 231-235. (In Russian)
Merkulova, I.G. "Tekst kak obraz: o semiotike i grafike vo frantsuzskoi proze" [Text as image: about semiotics and graphics in French prose], Nauchno-prakticheskaya konferentsiya "Tekst i obraz: vizual'nyi narrativ kak aktual'noe sredstvo kommunikatsii". VGBIL im. M.I. Rudo-mino [Scientific and practical conference "Text and image: visual narrative as an actual means of communication". VGBIL, named after M.I. Rudomino], 15.05.2023 [https://libfl.ru/ru/news/tekst-i-obraz-v-zalah-inostranki, accessed on 25.05.2023]. (In Russian)
Profil' Logika mashiny [Profile. The logic of the machine], 2023, no. 17-18 (203) [https://catalog-n.com/profil-17-18-2023#profil-17-2023-01, accessed on 12.05.2023]. (In Russian)
Propp, V. Morfologiya volshebnoi skazki. Istoricheskie korni volshebnoi skazki [Morphology of a fairy tale. Historical roots of a fairy tale]. Moscow: KoLibri Publ., 2021. 640 pp. (In Russian)
Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021 [https:// unesdoc.unesco.org/ark:/48223/pf0000381137, accessed on 02.05.2023].
Sukhachev, S. "Uroki Makiavelli. Mozhno li nauchit' iskusstvennyi intellekt prinimat' eticheskie resheniya" [Lessons of Machiavelli. Is it possible to teach artificial intelligence to make ethical decisions], Profil'. Logika mashiny [Profile. The logic of the machine], 2023, no. 17-18 (203), pp. 19-21 [https://catalog-n.com/profil-17-18-2023#profil-17-2023-21, accessed on 12.05.2023]. (In Russian)
Vernadsky, V.I. Nauchnaya mysl' kak planetnoe yavlenie [Scientific thought as a planetary phenomenon]. Moscow: Nauka Publ., 1977. 191 pp. (In Russian)
