CC BY
7
С КНИЖНОЙ ПОЛКИ
А.Ю. ДОЛГОВ*
ДИВНЫЙ НОВЫЙ ЦИФРОВОЙ МИР: ПОЛИТИКА В ЭПОХУ БОЛЬШИХ ДАННЫХ И ИСКУССТВЕННОГО ИНТЕЛЛЕКТА (РЕЦЕНЗИЯ)
Рец. на кн.: Risse M. Political theory of the digital age: where artificial intelligence might take us. - Cambridge: Cambridge university press, 2023. - xxvi, 304 p.
Для цитирований: Долгов А.Ю. Дивный новый цифровой мир: политика в эпоху больших данных и искусственного интеллекта (Рецензия) // Политическая наука. - 2023. - № 4. - С. 274-283. - DOI: http://www.doi.org/10.31249/poln/2023.04.11
Элементы языка утопии и антиутопии при описании развития цифровых технологий прочно закрепились в словаре социальных исследований, а многие самые смелые предположения фантастов прошлого уже стали частью нашей повседневности. Поэтому уже не вызывает удивления, когда в многочисленных научных работах обсуждаются проблемы грядущих масштабных социальных изменений, которые местами перекликаются с научно-фантастическими сюжетами. Казалось бы, очередное рассуждение о том, как сильно техноло-
* Долгов Александр Юрьевич, кандидат социологических наук, старший научный сотрудник Отдела социологии и социальной психологии, Институт научной информации по общественным наукам (ИНИОН) РАН (Москва, Россия); доцент Департамента социологии, Национальный исследовательский университет «Высшая школа экономики» (Москва, Россия), e-mail: dolgovalexandr@yandex.ru
DOI: 10.31249/poln/2023.04.11
гии поменяют нашу жизнь, окажется скучным и малополезным. Но книга профессора Гарвардского университета Матиаса Риссе [Risse, 2023], благодаря опоре на разные интеллектуальные традиции и стремлению переосмыслить значение искусственного интеллекта для политической сферы и политической теории ставит новые и весьма небезынтересные научные и практические вопросы.
Книга состоит из предисловия, 11 глав и эпилога. Главы посвящены очень разным темам: дистрибутивной справедливости и публичному разуму, цифровым жизненным мирам, будущему демократии, надзорному капитализму, эпистемическим правам человека, истине, значению технологии дипфейков и даже смыслу жизни. Отметим, что такое разнообразие рассматриваемых вопросов при знакомстве с текстом может «сбивать» фокусировку читателя -иногда становится непонятным, какая тема для автора является центральной.
Связь цифровых трансформаций с политической теорией сформулирована в довольно простом тезисе в предисловии: политическая мысль сосредоточена на исследовании того, как нам жить вместе, а поскольку наша жизнь все больше разворачивается в цифровом мире, политическая теория должна исследовать, как нам уживаться в цифровую эпоху (с. ix). Основные достижения и ожидания в цифровой сфере сегодня связаны с машинным обучением, т.е. с совокупностью методов, с помощью которых можно проанализировать огромное количество доступных данных («больших данных») для выявления тенденций и получения выводов. Алгоритмы машинного обучения, в отличие от обычных программ, обучаются самостоятельно на имеющихся у них данных, в основе таких алгоритмов лежат так называемые нейронные сети - программы, которые построены по принципу имитации взаимодействия клеток мозга. Как правило, именно такие алгоритмы называют искусственным интеллектом (ИИ).
М. Риссе полагает, что уже в наш век может возникнуть совершенно новый мир, населенный новыми видами сверхинтеллекта (с. xi). Все это требует от социальных ученых создания специальных языков описания и постановки оригинальных исследовательских вопросов, какими бы спекулятивными они ни были на данный момент. Полезный ресурс для концептуализации происходящих цифровых трансформаций М. Риссе находит в либерально-эгалитарных идеях американского политического философа Джона Ролза. Однако
М. Риссе отмечает, что либерально-эгалитарная точка зрения упускает из виду две очень важные темы. Первая тема (общая) - «исключительное значение технологий для политической мысли», вторая (частная) - «роли граждан как познающих и познаваемых», т.е. как тех, кто одновременно обладает и поставляет данные и информацию (с. х1). Для устранения этого пробела М. Риссе предлагает дополнить политическую теорию и политическую философию (в частности, ролзовскую теорию справедливости) философией техники.
Как пишет М. Риссе, в книге Дж. Ролза «Теория справедливости» (1971) [Ролз, 2010] справедливость характеризуется как честность, а демократическое общество, согласно его концепции, состоит из свободных и равных граждан, обладающих равными основными правами и сотрудничающих в рамках экономической системы, которая в определенных аспектах является эгалитарной. Ролз описывает справедливое устройство основных политических и социальных институтов либерального общества (т.е. его базовую структуру): конституцию, правовую систему, экономику, семью и т.д. Базовую структуру можно организовать по-разному и от этого будет зависеть, появятся ли у каких-то групп преимущества в получении большей части общественно произведенного продукта. Дж. Ролз исходит из того, что никто не заслуживает получать какие-либо социальные преимущества от рождения или оказываться в невыгодном положении, и что совместно произведенные общественные первичные блага должны распределяться поровну, если только неравное распределение не работает на благо всех. Граждане вправе требовать от институтов соблюдения этого условия, они также свободны в возможности взять на себя ответственность за свою жизнь и могут без ограничений кооперироваться (с. хш).
Дж. Ролз полагал, что идеал дистрибутивной справедливости достижим либо при демократии, основанной на собственности (реформированной капиталистической системе), либо при демократическом социализме. Он не соглашался с К. Марксом в том, что реформирование существующих социальных систем возможно только через революцию, но и не отрицал существование фундаментальных социальных конфликтов вокруг несправедливого распределения благ. Но с конфликтами нужно лишь уметь правильно обращаться, считал Дж. Ролз. Для решения этой проблемы он, помимо внедрения принципов дистрибутивной справедливости,
предложил использовать концепцию публичного разума. М. Риссе предлагает развить эти идеи в эпоху цифровых трансформаций.
Опора на публичный разум в политическом процессе предполагает, что граждане могут обосновывать друг другу решения по фундаментальным политическим вопросам, используя общедоступные ценности и стандарты. Признавая других равными себе, они стремятся найти причины, убедительные для тех, чья точка зрения отличается. При этом всегда будут существовать конкурирующие идеи и неизбежно будут возникать конфликты, поскольку люди неизменно будут по-разному интерпретировать происходящее. Эти идеи Дж. Ролза становятся для М. Риссе отправной точкой в анализе тех изменений, которые уже принесла и еще принесет цифровая эпоха.
В первой главе (она же - введение) дается описание концепции жизненных миров, очерчиваются различия между Жизнью 1.0, 2.0 и 3.0. М. Риссе делает обзор технологических достижений и научных теорий, изменивших наш взгляд на то, что такое данные, информация и знания.
В 1940-е годы аналоговые жизненные миры, основанные на тактильных, акустических или других физических ощущениях, сменяются цифровыми, структурированными вокруг электронных устройств и числовой закодированной информации (с. 1-2). XXI в., как считает М. Риссе, может стать не просто веком доминирования цифровых технологий, но и возникновением нового этапа - Жизни 3.0. Сущности Жизни 1.0 не могли ни обучаться, ни менять свою физическую форму. Сущности Жизни 2.0 (т.е. нынешней цифровой эпохи) могут создавать свой культурный контекст (обучаться как индивидуально, так и коллективно), но не могут менять свою физическую форму (с. 2-3). Жизнь 3.0 может стать эпохой, когда возможности человеческого тела будут расширены до такой степени, что будут преодолены биологические, культурные и исторические ограничения Homo sapiens (с. 21-22). Разум будет связан с мозгом так же, как программное обеспечение связано с оборудованием, а хрупкость и несовершенство человеческого тела больше не будут определять ограничения человеческой жизни. Кроме того, в таком мире человек утратит монополию на получение и производство знаний -возникнет множество других нечеловеческих сущностей, которые также будут способны познавать.
Во второй главе М. Риссе показывает, что технологии всегда политизированы и сегодня они настолько сильно влияют на будущее человечества, что политическая теория не может игнорировать их значение. Поэтому, как отмечает автор книги, политическая философия всегда должна быть также и философией техники, а регулирование технологий должно быть важной частью политики. Здесь он определяет понятия политического и политики, отмечая, что они всегда связаны со способами установления порядка - устойчивых и стабильных условий осуществления власти в данном контексте (с. 27-28). Связь политического порядка с техникой М. Риссе выводит из марксистской диалектики производительных сил и производственных отношений. По сути, К. Маркс, как считает М. Риссе, предложил концепцию технологического детерминизма, поскольку именно совершенствование техники в его концепции исторического материализма приводит к изменению социальных структур. Обращение к К. Марксу для автора книги стало необходимым для того, чтобы дополнить ролзовский либерально-эгалитарный подход, который обходит стороной вопрос о технологиях. М. Риссе также отсылает читателей к амишам как к необычному примеру сообщества, которое сильно озабочено обеспечением контроля над технологиями, поскольку от этого зависит само его существование. Соответственно, то, как человечество будет контролировать технологии, определит его будущее.
Третья глава книги посвящена перспективам демократии в условиях все большего внедрения искусственного интеллекта в политические процессы. Современные демократии включают в себя структуры коллективного выбора, которые периодически позволяют относительно небольшому количеству людей определять направление для всех. Как и в любой форме управления, это не может происходит без использования различных технологий. Теории демократии, отмечает М. Риссе, обычно фокусировались на демократии как идеале или практиках и институтах, и мало кто из исследователей обращался к ее материальности (с. 48). Хотя надо заметить, что под влиянием акторно-сетевой теории Б. Латура и объектно-ориентированного подхода внимание к материальным основам демократии в политических исследованиях возрастает. Такой взгляд позволяет увидеть, как многочисленные актанты (не только люди, но и системы, устройства, инфраструктуры и т.д.)
через процедуру перевода превращают жизнь множества людей в жизнь граждан.
Демократия, подчеркивает М. Риссе, это, в том числе, набор артефактов, устройств и систем, с помощью которых реализуется демократическая политика. Технические устройства использовались уже в Древней Греции (достаточно упомянуть хотя бы клеротерион -устройство для жеребьевки при распределении должностей) и тем более активно они применяются сейчас, когда мы делегируем техническим устройствам выполнение огромного количества самых разных задач. Развитие информационно-коммуникационных технологий позволяет современным демократиям решать проблему дистанцирования государства от граждан, а также проблему сбора адекватной информации для выработки политических решений. Воображая возможное будущее демократий, опирающихся на потенциал искусственного интеллекта, М. Риссе пишет о том, что ИИ мог бы знать предпочтения и взгляды каждого и предоставлял бы соответствующую информацию правительствам. Он мог бы вовлекать граждан в обсуждение проблем, объединяя вместе не только единомышленников, но и тех, кто придерживается противоположных взглядов, чтобы помочь им услышать друг друга (то, что требуется для реализации принципов публичного разума). Он бы мгновенно отслеживал мошенничество и коррупцию, помечал и удалял бы сообщения и аргументы, вводящие в заблуждение, и т.д. и т.п. (с. 60). Конечно, у такого будущего есть и опасная сторона. Одна из возможных проблем заключается в том, что мы вкладываемся в создание системы, облегчающей коллективное принятие решений, но совсем не уделяем внимание тому, чтобы сделать самих людей лучше. Вторая проблема в том, что создание такой системы неизбежно связано с усилением возможностей государства, а это грозит различными злоупотреблениями и манипуляциями с данными граждан (с. 61-62). Есть также опасения, связанные с тем, что ИИ, опираясь на данные прошлого и отражая предубеждения людей, будет действовать предвзято и воспроизводить существовавшую несправедливость.
Четвертая глава посвящена проблеме истины в цифровых жизненных мирах. Здесь М. Риссе отмечает, что хотя благодаря цифровым коммуникациям дезинформация может распространяться в объемах и со скоростью, которые ранее были недоступны, неправда и заблуждения чрезвычайно важны для жизни людей, так
как они помогают ориентироваться в сложном мире. В плюралистических демократиях важна не истина, а приемлемость для граждан (с. 91), но при этом правдивость в публичной сфере должна считаться важной ценностью. Наверное, сегодня это не самая популярная точка зрения, но для М. Риссе плюрализм мнений, пусть даже ошибочных, должен сохраняться, чтобы жизнь людей не превратилась в фанатичную борьбу за существование единственно правильной позиции.
В пятой главе, опираясь на понятие эпистемы М. Фуко [Фуко, 1977], М. Риссе показывает, как его можно использовать при анализе цифровых жизненных миров. Эпистема определяется как совокупность того, что считается знанием в данный момент времени, как оно получено, по каким правилам структурируется и как все это формируется отношениями власти. В эпистеме данных осуществляется новый тип власти, выходящий за рамки устойчиво существующих суверенной власти и биовласти. М. Риссе называет его информационной властью, которая реализуется через инфополитику (с. 102). Инфополитика в первую очередь касается государственного надзора в его все более изощренных способах. Эпистемические акторы цифровых жизненных миров выступают не только в качестве познающих, но и в качестве познаваемых, как на индивидуальном, так и на коллективном уровнях. Причем в таком мире, как уже было показано выше, актором будет не только человек, но и новые виды сущностей, включая ИИ. Все это будет определять конфигурации новой эпистемы.
В шестой главе рассматриваются потенциал и опасности использования технологии дипфейков - новой формы синтетических медиа. Благодаря дипфейкам становятся доступными ранее не существовавшие способы генерирования знаний, которые обогащают нашу эпистему, считает М. Риссе (с. 133-134). Например, эта технология используется для «оживления» исторических сюжетов или объектов искусства, что стимулирует интерес к знаниям, творчеству и воображению. Но также дипфейки могут наносить огромный репутационный удар по отдельным людям или институтам. В дальнейшем они могут привести к усилению эпистемической неопределенности, когда люди перестанут пытаться отделить правду от лжи, хотя еще совсем недавно видео-, фото- или аудиоданные были главной «эпистемической опорой» при приведении доказательств.
В седьмой главе обсуждаются эпистемические права. М. Риссе считает, что если возникнет Жизнь 3.0, то потребуется защита прав, которые должны обеспечивать самобытность человеческой жизни в ее сосуществовании с другими видами интеллекта, превосходящими по возможностям человеческий.
В восьмой главе М. Риссе фокусируется на понятии «надзорный капитализм», предложенном Шошаной Зубофф [Зубофф, 2022]. Этот термин используется Ш. Зубофф, чтобы показать, насколько сбор данных стал важным для функционирования экономики. Отличительной чертой надзорного капитализма является «инструментальная власть», т.е. власть, направленная на прогнозирование, модификацию и монетизацию поведения с помощью многочисленных устройств сбора данных и создания способа мышления, который безоговорочно коммерциализирует человеческий опыт (с. 162). М. Риссе полагает, что в противовес такой власти должны создаваться фоновые структуры, способствующие защите прав, в том числе эпистемических.
В девятой главе М. Риссе поднимает вопрос о том, кто имеет право контролировать данные и извлекать выгоду из выводов, которые могут быть получены из них. Здесь снова используется обращение к принципу дистрибутивной справедливости. Сегодня общая практика состоит в том, что по умолчанию данные контролируются теми, кто их собирает (обычно это крупные корпорации), и они же могут на их основе создавать долгосрочные прогнозы и управлять социальными тенденциями. Однако данные создаются коллективно, следовательно, использоваться и контролироваться они должны тоже коллективно. Компании, собирающие и анализирующие данные, должны получать справедливое вознаграждение за свои услуги, но они не могут их монопольно приватизировать (с. 204).
Десятая глава посвящена смыслу жизни - теме, которая редко обсуждается в одной связке с технологиями. Но М. Риссе указывает, что поскольку наша жизнь в цифровую эпоху всегда технологически опосредована, технологии могут влиять на то, каким будет этот смысл. Так, все больше передавая контроль над своей жизнью машинам, человек теряет свободу действий. Это, по мнению М. Риссе, пример того вмешательства технологий в нашу жизнь, которое необходимо контролировать.
Наконец, в одиннадцатой главе автором делаются спекулятивные построения о моральном статусе машин, а также рассмат-
ривается вопрос о том, что повышение морального статуса машин будет означать для политической сферы. Этот вопрос по мере развития ИИ возникнет на повестке дня, считает М. Риссе, и нужно быть готовыми к тому, что машины в конечном итоге получат любой моральный статус. В этом случае публичная сфера будет включать в себя не только людей, но и ИИ, который тоже будет участвовать в совместной политической жизни и управлении государством.
В книге Матиаса Риссе считываются две линии рассуждений. Одна представляет собой перепрочтение классических и современных философских и социально-политических исследований для концептуального описания последствий внедрения искусственного интеллекта в социальную жизнь. Среди авторов, к которым он обращается, - К. Маркс, Ф. Ницше, Э. Дюркгейм, Т. Адорно, Х. Арендт, Дж. Ролз, М. Фуко, Б. Латур, Ш. Зубофф, Ю.Н. Харари и многие другие. Эта линия наиболее интересна, поскольку здесь автор проводит тщательную теоретическую проработку понятий, извлеченных из разных направлений философской и политической мысли, и снабжает свое повествование историческими примерами.
Вторая линия - это спекулятивные рассуждения по поводу возможного будущего. Эта линия более спорная. Многие социальные ученые считают исследования будущего противоречивой, бесполезной или идеологически нагруженной задачей, поскольку невозможно знать то, чему еще только предстоит случиться. Хотя такие исследования не только привносят в публичные дискуссии новые знания, но и влияют на изменение повестки дня, обозначая альтернативные сценарии социального развития [Schulz, 2016]. М. Риссе с помощью своей книги предложил представителям политической мысли подумать о темах, которые, вероятно, станут актуальными, и счел необходимым выдвинуть идеи о том, как обществу следует подготовиться к изменениям в технологической сфере, с которыми, возможно, придется столкнуться (с. xxiv). Вероятность остается главным ограничением и слабым местом подобного рода исследований. Тем не менее можно только приветствовать появление теоретических работ, авторы которых, используя потенциал разных дисциплин и направлений мысли, ищут ответы на острые политические вопросы современности.
A.Yu. Dolgov* Brave new digital world: politics in the age of Big data and artificial intelligence (Review)
For citation: Dolgov A.Yu. Brave new digital world: politics in the age of Big data and artificial intelligence (Review). Political science (RU). 2023, N 4, P. 274-283. DOI: http://www.doi.org/10.31249/poln/2023.04.11
References
Foucault M. Words and things. An archaeology of the human sciences. Moscow:
Progress, 1977, 407 p. (In Russ.) Risse M. Political theory of the digital age: where artificial intelligence might take us.
Cambridge: Cambridge university press, 2023, xxvi, 304 p. Schulz M.S. Debating futures: global trends, alternative visions and public discourse.
International sociology. 2016, Vol. 31, N 1, P. 3-20. Zuboff Sh. The age of surveillance capitalism: the fight for a human future at the new frontier of power. Moscow: Gaidar institute publishing house, 2022, 784 p. (In Russ.) Rawls J. Theory of justice. 2 nd ed. Moscow: LKI publishing house, 2010, 536 p. (In Russ.)
Литература на русском языке
Зубофф Ш. Эпоха надзорного капитализма: битва за человеческое будущее на новых рубежах власти / пер. с англ. А.Ф. Васильева; под ред. Я. Охонько и
A. Смирнова. - М.: Издательство Института Гайдара, 2022. - 784 с.
Рспз Дж. Теория справедливости / пер. с англ., науч, ред. и предисл.
B.В. Целищева. Изд. 2-е. - М.: Издательство ЛКИ, 2010. - 536 с.
Фуко М. Слова и вещи. Археология гуманитарных наук. - М.: Прогресс, 1977. -407 с.
* Dolgov Aleksandr, INION (Moscow, Russia); HSE University (Moscow, Russia), e-mail: dolgovalexandr@yandex.ru
