CC BY
3
Сравнительная политика, Том 13, No 3, сс. 130-139 DOI 10.24833/2221-3279-2022-3-13-130-139
ИНСТРУМЕНТ «ФИЛОСОФСКОГО ВОПРОШАНИЯ»: CHAT GPT И ДРУГИЕ МОДЕЛИ ИСКУСТВЕННОГО ИНТЕЛЛЕКТА В ПОЛИТИЧЕСКОЙ ТЕОРИИ, МЕТОДОЛОГИИ И ПРИКЛАДНЫХ ИССЛЕДОВАНИЯХ
Интервью: Михаил ВИНОГРАДОВ Беседовала Дарья КАЗАРИНОВА
Дарья Казаринова (Д.К.): Михаил Юрьевич, исходя из Вашего опыта взаимодействия с моделью и результатов обсуждения этого инструмента в экспертном сообществе, ChatGPT - это deus ex maquina, вызов человечеству или игрушка для ленивых?
Михаил Виноградов (М.В.): Chat GPT - самый прорывной из числа ИИ и прочих нейросетей в гуманитарной экспертизе и социально-гуманитарных науках, поэтому мы будем говорить именно об этой модели. Исходно у меня не было определенного отношения, но я видел очень разную реакцию, которую вызвал ChatGPT. Первый тип реакции - незнание и нежелание знать, что это такое и как с этим работать. Скепсис, как к любой новой идее, инициативе или моде. И этот тип реакции широко распространен сегодня и в гуманитарной экспертизе, и гуманитарной науке как в России, так и в мире. Второй тип реакции - люди попробовали работать с моделью, чтобы убедиться в ничтожестве ИИ и его неспособности приблизиться к естественному. Это было либо
Виноградов Михаил Юрьевич - политолог, президент Фонда «Петербургская политика»
197110, г. Санкт-Петербург, ул. Большая Разночинная, д. 14 к. 9 лит. Б.
Казаринова Дарья Борисовна - кандидат политических наук, доцент кафедры сравнительной политологии, РУДН им. П. Лумумбы. E-mail: kazarinova-db@rudn.ru.
117198, Москва, ул. Миклухо-Маклая, д.10 к. 2, каб. 208
Поступила в редакцию: 13.09.2023 Принята к публикации: 15.10.2023
Конфликт интересов: Автор заявляет об отсутствии конфликта интересов.
Благодарности. Исследование проведено в рамках проекта «Опыт применения ChatGPT и инструментов на основе искусственного интеллекта в российской социально-политической сфере и социальных исследованиях: ожидания, разочарования, риски и перспективы (№ 123091200073-8). Реализован в ИНИОН РАН по итогам отбора научных проектов, поддержанных Министерством науки и высшего образования РФ, РАН и ЭИСИ.
заведомое предубеждение, либо люди пытались задавать вопросы, а полученные ответы приводили к быстрому разочарованию и выгоранию. Третий тип реакции связан с ощущением у пользователя, что ChatGPT- это не только революционная технология, но и предвестник грядущего «цифрового ада», потому что в результате его развития исчезнет значительная часть профессий, гуманитарных и не только: психологи, юристы и многие другие... У этой позиции есть своя логика, но такие же страхи существовали и существуют вокруг Интернета, цифровизации. С ними связан тезис о том, что в обществе будущего останутся только топ-менеджеры и курьеры, а средний класс «белых воротничков» исчезнет. Есть и реакция со знаком плюс, с восторгом и ощущением того, что человечество расширяет границы возможного. Этот взгляд соблазнительный, но к нему надо относиться с осторожностью.
В ChatGPT мы, по всей видимости, увидели принципиально новую модель извлечения гуманитарного знания. Первоначально кажется, что работает коллективный интеллект, который объединил достижения сотен ученых, психологов, футурологов, социологов, философов, биологов, стал вершиной научного знания, настолько наукоподобными и человекоподобными были ответы. Качество его ответов было на уровне неплохого аспиранта. Вторая притягательная черта - это элемент игры, даже флирта, который существует при общении пользователя с Chat GPT, что добавляет эмоций, интереса, романтики, которой часто не хватает в исследовательской и научной деятельности. С другой стороны, скоро стало очевидно, что есть сферы, в которой возможности ChatGPT велики или почти безграничны, а есть сферы, где он бесполезен и не заменяет даже существующий интернет-сервис.
Еще одним важным фактором успеха ChatGPT является ощущение преодоления языкового барьера. Технологии перевода с годами развиваются, мы ими активно пользуемся. Но новый уровень скорости и ощущение, что можно получить доступ к сферам, о существовании которых ты раньше почти не имел представления, например, японским сказкам, открывают совершенно новые возможности.
Наработка коллективного опыта и коллективного знания о работе с сервисом позволит в полной мере понять его возможности и ограничения.
Сегодня ChatGPT - это собеседник, младший партнер, «об которого можно думать», который обладает экспертизой, знаниями и способностями, которыми не обладаешь ты сам. Это напоминает экспертное интервью, когда исследователь общается с экспертом, соизмеримым с ним по погруженности в исследуемую сферу. В чем-то он превосходит исследователя, в чем-то ему уступает, но вы в полной мере не можете до конца доверять его суждениям, его методам и способу познания, достоверности его информации, что является обычным делом в исследовательской практике. Как младший партнер, который по вашей команде выполняет указания, ChatGPT хорош. От
вас же требуется определенный уровень экспертности для качественного формулирования запросов и интерпретации ответов - своего рода промпт-инжиниринг.1
У любого ученого, исследователя есть огромное количество формально стандартизованных текстов, которые необходимо писать и которые не несут большого научного содержания. В этих вещах сервис может помогать. Например, огромным успехом сервис пользуется в сфере рекрутинга для подготовки сопроводительных писем по итогам собеседования.
Различное отношение к сервисам ИИ в научном сообществе - это нормально, но беспокоит нехватка коллективной рефлексии тех энтузиастов и скептиков, которые попробовали с ним работать и могут дать квалифицированную обратную связь по тому, где ChatGPT эффективен, а где опасен.
Д.К.: Сегодня в экспертно-академических кругах развивается дискуссия о субъектности и правовой природе такого рода инструментов. Всегда ли за результат использования ChatGPT несет ответственность пользователь или разработчик? Кто обладает авторским правом при использовании этого инструментария, насколько это соответствует академической этике? Следует ли особым образом маркировать интеллектуальную продукцию, произведенную с использованием ChatGPT? Например, есть представление, что авторские права на изображение, созданное нейросетью, не принадлежат создателю запроса. В данном случае у работы, сгенерированной нейросетью, не может быть авторских прав, потому что у работы отсутствует понятие автора как человека, чьи представления отражает произведение. На этом основании крупнейшие фотобанки запретили загружать и продавать иллюстрации, сгенерированные нейросетями. Однозначного консенсуса в этой дискуссии пока не достигнуто. Сложилась ли у Вас позиция по этому поводу? Где бы Вы поставили запятую в дилемме «запретить нельзя регулировать», которую выводят авторы, занимающиеся этой проблемой?
М.В.: Разговор об этом пока преждевременный. Нормально, когда законодательная и регуляторная деятельность описывает совокупность случившихся опытов и практик на основании Big Data. На сегодня такого количества кейсов пока не накоплено. Есть вопросы, связанные с использованием ИИ, которые необходимо отрегулировать здесь и сейчас, например, ответственность за ДТП с автомобилем-беспилотником, так как велико количество возникающих рисков. Но законы и правила должны идти за существующей практикой и описывать ее.
1 Промпт-инжениринг - управление поведением больших языковых моделей ^М) для получения желаемых результатов без обновления самих моделей, новая дисциплина разработки и оптимизации промптов для эффективного использования языковых моделей ^М) в широком спектре приложений и исследовательских тем. Навыки промпт-инжиниринга помогают лучше понять возможности и ограничения больших языковых моделей НМ).
Пока мы не очень понимаем, с чем мы будем иметь дело, когда появится ChatGPT 5.0, как он научится обходить возможные ограничения, будет ли он становиться лучше или хуже под воздействием регулятора. Пока вопрос о том, следует ли маркировать научные тексты, полученные с помощью ChatGPT, можно приравнять к проблеме необходимости маркировки использования поисковых сервисов или Википедии. К разным существующим потребительским практикам участники сообщества могут относиться по-разному. Пример Википедии очень интересен: качество контента в ней гораздо выше, чем можно было бы ожидать от самоуправляющейся модели. Отсутствие регулятора - это не всегда плохо. Государственные структуры склонны к простым решениям. В случае ChatGPTу регулятора есть три возможных стратегии и все сомнительные: 1) запрещать, 2) игнорировать, 3) массово внедрять. Все три идеи кажутся в равной степени пугающими.
У значительной части исследователей, взаимодействующих с ChatGPT, сохраняется исследовательская этика, и ее значение не надо недооценивать.
Сегодня исследователей условно можно разделить на две категории. Первые - авторы одной или нескольких концепций, которые они однажды сформулировали и их придерживаются всю жизнь, прикладывая их к различным проблемам. С их стороны можно ожидать негативной реакции на ChatGPT, потому что с его помощью за минуту можно придумать с десяток оригинальных концепций с обоснованиями, которые стартово окажутся вполне соизмеримыми по глубине с концепциями, предложенными учеными. Это может вызывать ревность, невроз, неприятие модели. Второй тип ученых - те, кем движет интерес, способность задавать вопросы, формулировать гипотезы. Для них ChatGPT станет существенным расширением горизонтов и границ возможного. Его технически можно попросить формулировать гипотезы и задавать вопросы, рецензировать свой текст, сделать его более образным и метафоричным или адаптированным к той или иной аудитории. Для этой категории ученых ценность научного знания состоит не столько в формулировании ответов, сколько в постановке вопросов. Задавая правильные вопросы и побуждая нас к мысли, эксперты уже выполняют часть своей работы. Сегодня мы видим, что и западные, и российские экономисты, социологи, политологи очень часто не попадают в истину со своими ответами, и впору разочароваться в самом гуманитарном знании. Но их ценность в предположениях, гипотезах, неожиданных разворотах темы, задавании вопросов, и она остается непреходящей. Для меня как человека, не утратившего исследовательского азарта, ChatGPT продуктивен. Но и игнорирование, и сопротивление ИИ со стороны более классической части академии тоже вполне понятны и объяснимы.
Д.К.: То есть, ChatGPT- это в том числе тренажер, который позволяет нам заниматься более эффективно философским вопрошанием? Его можно соотнести с сократовской майевтикой, последовательным задаванием вопросов,
в результате ответов на которые «рождается истина»? Можем ли мы согласиться с идеей, что в университетах сегодня следует учить тому, как формулировать вопросы для таких языковых моделей?
М.В.: Да. И, кроме того, любой исследователь в чем-то несовершенен: один слабоват в формулировках терминов и определений, другой слабее знает иностранные языки, третий затрудняется с формулировкой четких выводов. Зная свои слабые стороны, ученые могут использовать ресурсы ИИ для их корректировки. Можно запросить у ChatGPT дать последовательно философское, политологическое, психологическое, культурологическое определение нового понятия. Полученные ответы станут хорошим основанием для дальнейшей рефлексии. И они однозначно будут сильнее и глубже, чем то, что может выдать, условно, политолог для психологического или экономического определения, то есть неспециалист. В этом смысле ChatGPT «усовершенствует» ученого до более универсального специалиста в социогуманитарной проблематике. У нас много социологов, политологов и философов, но каждое направление говорит о своем. Нам не хватает межотраслевых специалистов. А самое интересное, яркое, провокационное, но и самое ошибочное знание рождается на стыке двух-трех дисциплин.
Д.К.: Можете ли Вы назвать какие-то выстраданные Вами принципы и правила работы с ChatGPT? Вы уже стали специалистом в том самом промпт-инжиниринге, поделитесь его секретами. Что нужно и не нужно делать в общении с моделями ИИ?
М.В.: Начнем с легкого - что не нужно делать. Во-первых, не использовать ChatGPT для факт-чекинга, сервис для этого не работает, с равным успехом он может выдавать фактически точный ответ и глубоко ошибочный. Его выдуманные результаты (иногда называемые «галлюцинацией сети» - Д.К.) часто интереснее достоверных. Он может выдумывать удивительные библиографические источники, концепты. И в целом, ChatGPT склонен придумывать, когда вы просите его сказать правду, и давать очень близкий к правде ответ, когда просишь его что-то придумать.
Во-вторых, не стоит спрашивать у ChatGPT советов напрямую. Это очень эмпатичная модель, настроенная на психологически комфортное для пользователя общение, она будет пытаться угадать ваш ответ или возвращать ваши формулировки. Гораздо лучше попросить ChatGPT дать пять аргументов «за» и пять аргументов «против» того или иного действия, мысли, концепта, чтобы на этом основании самому принять решение.
В-третьих, не стоит принимать первую версию ответа, который дает ChatGPT. Стоит отнестись к нему критически, задать уточняющие вопросы, а иногда обращаться к нему с требованиями типа «прекрати говорить как чиновник, говори как ученый» или попросить включить образное мышление. В таком диалоге к четвертому-пятому ответу вы получите то, что вы хотели бы.
Чем, на мой взгляд, ChatGPT интересен и хорош. Первое - в части формулирования предположений и гипотез. Второе - в формировании образов, метафор. Третье - в формировании технических текстов: гайдов, стандарт-
ных документов по образцу. Четвертое - в формировании творческих текстов, например, сценариев сериалов, стихов (хотя по-русски он пишет стихи пока не очень хорошо - сложнее с рифмами). Пятое - иногда, обращаясь к нему на английском языке, вы можете получить более глубокие и точные ответы -но для большинства обыденных и экспертных запросов достаточно русского языка вне зависимости от того, со спецификой какой территории и языка связан ваш интерес. Наконец, ChatGPT позволяет сориентироваться в смежных сферах, собрать и изучить мировые практики. Например, можно запросить десять основных тенденций в развитии в определенной отрасли в глобальном контексте и отдельно по ключевым странам. Так или иначе, Вы соприкоснетесь с реальными практиками, о которых вряд ли узнали бы самостоятельно, не будучи полиглотом-специалистом-универсалом. Важно помнить, что все полученные с помощью ChatGPT ответы нуждаются в проверке доступными интернет-сервисами.
Д.К.: Из новостей мы часто слышим о том, что ИИ все больше проникает в политику и управление. Известны феномены дипфейков, виртуальных моделей политиков, фактически реализован антиутопический сценарий В.Пелевина из романа «Generation «П»». Недавно мы узнали, что чат-бот «Жириновский» даже получит партбилет ЛДПР. На каком уровне ChatGPT уже вошел в прикладную политику и что еще остается неосвоенным?
М.В.: Думаю, что ChatGPTпока в политику не вошел, пока это удел энтузиастов и романтиков, но в их числе российские политикоформирующие круги, люди из топа российской политики. Когда человек чем-то начинает увлекаться, у него возникает иллюзия, что вспомогательный аппарат больше не нужен и он получил непосредственный доступ к ноосфере без посредников, что не всегда справедливо. Сегодня ChatGPT интересен для спичрайтинга наполнением речи образами и метафорами, которых обычно не хватает в риторике российских политиков. Он также может выступить как тренажер оппонента в политических дебатах: он может раскритиковать текст проекта выступления и программы политической партии, а потом по запросу дать возражения и ответы на эту критику. Также он может найти слабые места в выступлении конкурента.
Д.К.: Иными словами, с его помощью политику можно «поддать харизмы», а с другой стороны - усилить его рациональную составляющую, укрепить его аргументацию?
М.В.: С его помощью также можно приобщиться к мировому опыту, изучить успешные практики и на этой основе получить колоссальное пространство для размышления. Кроме того, публичным политикам часто не хватает какого-то резюме результата. С квинтэссенцией деятельности, с идеями чаще всего бывает плохо. Российское общество исходит из идеи несменяемости существующих реалий, соответственно, запрос на изменения никак не может быть детализирован и вербализирован. В этих условиях идеи, концепции, направления, векторы - эта сфера, где ChatGPT прекрасно справится, особенно с учетом бедности текущей политической повестки.
Д.К.: Какова практика использования ChatGPTв прикладном политическом консалтинге? Анализ выборов, написание концепций и стратегий: в каких еще видах деятельности из традиционного набора политконсультанта может хорошо работать ChatGPT?
М.В.: Начнем с начала. Вы приходите на переговоры с заказчиком, и вам нужно погрузиться в его логику и проблематику. С помощью ИИ вы можете это сделать буквально за 10 минут, а за полчаса получить прорывные идеи, которые можно будет предложить и протестировать. И еще: вы продаете на рынке услуги, которые вы умеете оказывать, или услуги, которые нужны заказчику? Важно найти баланс между этими двумя подходами. Чаще всего политику нужны не идеи и концепты, а инструменты. Какие-то из предложенных ChatGPTмогут оказаться вполне рабочими и быть отобраны заказчиком. Модель также быстро составит вам гайд для фокус-групп, причем сделает это более эффективно. Часто модератору-человеку важно отработать темник, а не пойти за аудиторией, не подхватить ту волну, которая в такого рода исследованиях ценнее остальных вопросов гайда.
У политтехнолога существует риск всю жизнь реализовывать одну кампанию, немало людей именно так и делают. Это люди одного сценария, одной модели. ChatGPTможет предложить несколько сценариев, это дает запас прочности и сближает вас с заказчиком, у которого могут быть иные приоритеты и цели.
Д.К.: Кого, в таком случае, может заменить ChatGPTв сегменте политических профессий? Кто оказывается в зоне риска или, выражаясь Вашими словами, кто попадет в цифровой ад?
М.В.: Сегодня риски выглядят соизмеримо с представителями всех других профессий. В результате развития технологий так или иначе ряд людей оказывается за бортом. От ChatGPT возникает эйфория, что он экономит ваше время, ресурсы, расходы. Он может сократить число юристов и психологов, то есть тех профессий, где отрабатываются определенные алгоритмы, а выживут, с одной стороны, консервативные цифрофобы и профессионалы, которым ChatGPT добавит межотраслевых компетенций. Сегодня риски и неопределенности, не связанные с цифровизацией, для представителей политических профессий гораздо выше, чем риски, создаваемые ИИ.
Мы часто забываем, что одна из функций политконсалтинга - это социальный дизайн, то есть придание миру яркости, красок, смыслов, эмоций, которых подчас нет в реальном политическом мире. Большое количество потребителей политического контента выходит с такими ожиданиями. Неслучаен феномен российского Телеграма не просто как неподцензурного пространства, а как пространства, предлагающего более интересную, насыщенную и яркую картинку борьбы всех против всех в сравнении с тем, что есть в реальности. Раскрашивание реальности не всегда плохо. Иногда придание красивого вида плохой реальности решает задачу реабилитации публичной политики. В России во многом забыли, для чего нужна публичная политика, о ее функциях медиации, выявления противоречий и конфликтов, поиска компромиссов.
Из современной политики исчезает слово «цель», потому что представление о целеполагании весьма размыто, непривычно для сегодняшнего политического языка.
ChatGPT - это носитель способностей к социальному дизайну. Поэтому, наряду с рисками для политических профессий, он одновременно несет шансы на обновление политической реальности, ухода от стереотипных клише «политики в России нет». Политика существует в любом социуме, но имеет разные формы, не всегда классические. Использование ChatGPTи ИИ вообще может стать вызовом против существующей политической апатии, в которой находится наше общество. Восприятие того, что политика - это другая планета: непонятная, корпоративная, запрещенная, которой лучше никак не касаться, - проблема российского общества. Способность же ИИ предлагать более яркую и насыщенную, значимую, целеустремленную картинку, чем та, с которой мы сталкиваемся, может привести к повышению качества политического лидерства, их амбиций, целей, этических ограничителей. А без спасения политической отрасли нет смысла говорить о выживании политических профессий, а также политической науки, экспертизы, консалтинга. Без нее они превратятся в сугубо имитационные.
Д.К.: Меняет ли опыт общения с ИИ и ChatGPT привычки в общении с живыми людьми, требования к сотрудникам?
М.В.: Тревоги, которые сегодня существуют вокруг ИИ, исходят из преувеличенных возможностей субъектности цифрового мира. Мы часто идем за представлениями из книг писателей-фантастов, хотя уже понятно, что фантастика не воплощается в полной мере, в реальности реализуются несколько другие сценарии. Ключевые риски от использования ИИ связаны не с его субъектностью и желанием захватить и поработить мир, а с ошибками человека при его использовании.
Общение человека с человеком и влияние ИКТ на это - отдельная большая тема. Образование сильно пострадало в пандемию, но одновременно получило мощный импульс к развитию и новые возможности. Но эта ситуация продемонстрировала, что трансляция знания в этом процессе - не самое важное. Мы общаемся с людьми, не только чтобы получить информацию и поделиться ей, но чтобы увидеть в зеркале общения самих себя, получить эмоции. В эмоциональной части ChatGPT во многом заменяет человека. На вопрос, относитесь ли вы к ChatGPT как существу своего пола или противоположного, люди отвечают по-разному, экспериментируют, и для них это актуальный вопрос. Он затрагивает что-то заветное.
В обществе происходят изменения, и сервисы подстраиваются под эти изменения, а не задают их. Они не задают волну социофобии, например. По своему интерфейсу они ориентированы на то, что сегодня продается. Они скорее встраиваются в большие тренды, чем сами их задают. Человек - существо хитрое и может уклоняться от навязываемых моделей, которые ему неорганичны. Так, множество людей уклоняется от того же ChatGPT, чувствуя
в нем несоответствие своим ценностям и социальным запросам. Как собеседник ChatGPT интереснее половины людей из круга общения любого из нас. С одной стороны, это печально, с другой, - мы в выигрыше.
Д.К.: Как бы Вы определили место ChatGPTв политической теории, помимо междисциплинарности, сомнений и вопрошаний, о которых мы уже сказали?
М.В.: На мой взгляд, ChatGPT дает прорывные возможности в сравнительных исследованиях. Даже сравнение политических режимов в странах, подобранных по алфавиту: Мали, Малави, Малайзия и Марокко, может дать совершенно удивительные результаты. Сравнивая различные режимы, модели, лидеров, вы можете получить неожиданные гипотезы. Так вы повышаете плотность гипотез, на основе которых в дальнейшем можно проводить исследование, выстраивать концепции и теории. Такой неожиданный, парадоксальный подбор кейсов для сравнения, который не придет в голову ученому, стоящему на определенном теоретическом фундаменте и с готовым и наработанным методологическим инструментарием, может дать интересные результаты. Сейчас мы ищем наиболее эффективные способы манипуляции моделью ChatGPT,а не стремимся подчинить себя и свою исследовательскую деятельность ей.
Д.К.: Какую роль играет субъектность создателей моделей и алгоритмов в том результате, которую эти модели выдают? Можно ли «заказать» тот результат, который алгоритм почерпнет из коллективного разума, из ноосферы? Можно ли ему навязать некую логику, некую волю, на основе которой он будет создавать контент? Доводилось слышать, что алгоритмы, созданные в недружественных странах, могут быть недружественны к пользователю.
М.В.: Ниша ученого в том, чтобы уклоняться от представлений, навязываемых воинствующими дилетантами. Признаков того, что чья-то рука манипулирует нашим сознанием, нет. Это недооценка собственного сознания и переоценка упорядоченности мира. Алгоритмы выдают не то, что навязано их создателем, а реагируют на ваши же запросы. Сам мир достаточно хаотичен, и контрольного пакета от него нет ни у кого. Это справедливо и для цифрового мира. Проецирование собственных фобий на общество имеет свои ограничения. Не удел ученых заниматься ими.
И понятно, что есть риски, что регуляторы, под влиянием алармистских настроений дилетантов, будут пытаться ухудшать работу ChatGPT. Давление на Интернет сегодня идет во всем мире, и это тревожит. Та волна романтики, которая была когда-то вокруг Интернета, потом вокруг российского Телегра-ма, закончилась, ей на смену пришло влияние регулятора, которое ухудшает сервис. Россия в целом остается технооптимистичной и цифрооптимистичной страной. Не случайно в России так мало популярны антиутопии. В сравнении с США и Европой российское общество настроено скорее романтически по отношению к цифровым технологиям. Когда регуляторы и публичные спикеры пугают Интернетом, часто они сами оказываются в ловушке.
About the interviewee:
Mikhail Yu. VINOGRADOV - Political Scientist, President, The "St. Petersburg Policy" Foundation 14/9b, Bolschaya Raznochinnaya St., St Petersburg, Russia, 197110
The interview was conducted by Dr Daria B. KAZARINOVA, Associate Professor, Department of Comparative Politics, RUDN University. E-mail: kazarinova-db@rudn.ru. Miklukho-Maklaya str., 10-2-208, Moscow, Russia, 117198
Received September 13, 2023 Accepted October 15, 2023
