CC BY
10
Рецензии
От имитаций разума к имитации контроля
Рецензия на книгу: Пасквинелли M. (2024) Измерять и навязывать. Социальная история искусственного интеллекта, М.: Индивидуум
Дмитрий Ю. Кралечкин
РАНХиГС, Москва, Российская Федерация
Работа Маттео Пасквинелли «Измерять и навязывать. Социальная история искусственного интеллекта» в современном теоретическом ландшафте может показаться анахронизмом. Действительно, в последние десятилетия философская и социологическая концептуализация техники оказалась в ситуации, где техника никак не может считаться «просто техникой», то есть некоторым необязательным дополнением, приемом или кунштюком, который можно было бы вывести за скобки. С одной стороны, техника представляется особым, независимым «слоем» реальности или отдельной эволюционной линией, развивающейся по собственной логике, — в том смысле, что предшественниками одних технологических форм могут быть только другие технологические формы. В каноничном виде такую позицию разработал Ж. Симондон [Simondon 1958], но впоследствии она была подхвачена во многих философских концепциях техники, в част-
SOCIOLOGY
of Power Vol. 36
NO. 2 (2024)
Рекомендация для цитирования: Кралечкин Д.Ю. (2024) От имитаций разума к имитации контроля. Рецензия на книгу: Пасквинелли M. (2024) Измерять и навязывать. Социальная история искусственного интеллекта, М.: Индивидуум. Социология власти, 36 (2): 207-218. https://doi.org/10.22394/2074-0492-2024-2-207-218
For citations:
Kralechkin D.Yu. (2024) From Imitation of Mind to Imitation of Control. Book Review: Pasquinelli M. (2024) The Eye of the Master: A Social History of Artificial Intelligence, Individuum. Sociology of Power, 36 (2): 207-218. https://doi.org/10.22394/2074-0492-2024-2-207-218
Поступила в редакцию: 07.07.2024; прошла рецензирование: 10.07.2024; принята в печать: 11.07.2024 Received: 07.07.2024; Revised: 10.07.2024; Accepted for publication: 11.07.2024
This article is an open access article distributed under the terms and conditions of the Creative Commons Attribution (CC BY) license (https:// creativecommons.org/licenses/ by/4.0/).
© 2024 by the author(s).
ности постделезианских. Техническое существование не сводится ни к общим законам природы (хотя каждый технический артефакт должен им удовлетворять), ни к действиям производителя или потребителя (хотя они и важны для производства и узуса техники). Можно сказать, что в этом случае восстанавливается система разных причин в стиле Аристотеля, указывающая на то, что материальная или действующая причина никогда не совпадает с формальной. И хотя формы молотка или дисковода не существуют извечно, в то же время они не являются всего лишь следствием их непосредственного производства. Техника, таким образом, онтологизиру-ется и натурализуется, но не может быть выведена за скобки или же дедуцирована из какой-то другой реальности.
В другом варианте той же тенденции — представленной общим проектом ANT — техника «натурализуется», но уже в том смысле, что получает настолько полные и безоговорочные права гражданства, что само понятие обособленной «философии техники» оказывается устаревшим. Технические артефакты — это в таком случае подмножество множества кооперирующихся агентов, и в таком качестве они не занимают какой-то одной категориальной ячейки, но могут 208 относиться к разным «модусам существования». Техника оказывается слишком общим, омонимическим понятием, требующим критического анализа, тем более в ситуации устранения базового различия технического и нетехнического (или природного). Принцип «следования за агентами» означает, что выделение какого-то специфического региона «техники» всегда остается своего рода философской схоластикой, да и «эволюция техники» сама по себе является скорее примером просвещенческого системотворчества, стремления описать развитие артефакта как последовательный прогресс, выступающий аналогом постоянного умножения знаний.
Пасквинелли, не полемизируя прямо с указанными направлениями («техника — это не просто техника»), по сути, выступает против обоих сразу. Декларативная задача исследования — набросать социальную историю искусственного интеллекта, то есть производства, обособления, автономизации и автоматизации определенных практик, социально маркируемых как «интеллектуальные». Методологическая база первой части книги, посвященной автоматизации индустриальной эпохи, представляет собой хрестоматийный исторический материализм, предполагающий, что техника существует как производное от общественных производительных сил и производственных отношений, а потому не может считаться ни независимым эволюционным «филумом», постепенно порождающим самого себя и создающим отдельный «слой» (вплоть до «нова-цена» Дж. Лавлока [Лавлок: 2022]), ни толпой агентов, растаскиваемых по принципиально разным практикам. Пасквинелли нужно
Социология
ВЛАСТИ
Том 36
№ 2 (2024)
снова сделать технику техникой, то есть вернуть ей смысл дополнения, пусть даже с определенного момента обязательного и неизбежного, но в то же время объясняемого извне, экстериорно. Конечно, экстериорных историй техники хватает, и главная их проблема уже не в герметизации повествования, как при натурализации или онтологизации техники, а в необходимости ответить на два вопроса. Первый — что именно считать экстериорным, от чего отсчитывать реконструируемую социальную историю, что полагать «последней инстанцией», если говорить в марксистских категориях? И второй — как именно выстраивать соотношение между этой последней инстанцией и собственно предметом, экспланандумом исследования, как управлять дистанцией между ними? И если ответ на первый вопрос дает исторический материализм, то второй вопрос — о дистанции между экспланансом (производственными отношениями) и экспланандумом (различными формами автоматизации и, прежде всего, собственно интеллекта) — оказывается намного более сложным и не получает окончательного ответа.
Методологическая сложность второго вопроса, не учитываемая Пасквинелли напрямую, связана не только с тем, что техника представляла трудность и для классического исторического материа- 209 лизма, не став отдельным предметом исследования, но и с определенной теоретической экономией, в которой сложно найти точку равновесия. Попытка «вывести» технику из базовой социальной реальности, определяемой так или иначе, сталкивается с необходимостью в достаточной мере эту же технику автономизировать, чтобы ненароком не редуцировать ее полностью, но в то же время удерживать ее на дистанции доступной дедукции или хотя бы достаточно подробного объяснения, структура которого, однако, изначально не задана. Отчасти эту проблему удалось решить классическим концептом «надстройки» (политики, искусства и т. д.) в марксизме XX века, однако это потребовало перестройки концептуального аппарата и многолетних дискуссий. Отказ от решения этой проблемы грозит созданием достаточно наивного повествования, в котором восстановленный «социальный контекст» должен сам по себе объяснять технические артефакты, например, способом их производства или применения. В таком случае «социальной историей», не обязательно критической, может оказаться что угодно — например, биографии изобретений, рассказ об индустриальной экономии, достигаемой путем введения того или иного артефакта, социальные истории угнетения машинами или их использования в революционных целях и т. д.
Пасквинелли не избегает таких рисков, обусловленных дистанцией объяснения, на которой техника не должна ни слишком обособляться, ни превращаться в малозначительную подробность.
Sociology
of Power Vol. 36
No. 2 (2024)
Нередко социальная история (и история медиа) становится у него описанием хорошо известных социальных процессов, не выходящим за пределы пересказа, — например, подробностей создания «разностной машины» Ч. Бэббиджа или отдельных производственных и социальных практик. Так, описание ведического ритуала Агничаяна как алгоритма [Пасквинелли 2024: 46-51] показывает, что ритуал служит, по сути, записью для самоисполнения (в том числе в строительных инструкциях, выполнение которых, то есть строительство алтаря, необходимо для проведения собственно ритуала). Однако какова бы ни была природа алгоритма Агничаяны (математики указывают на реализацию в нем техники пошаговой аппроксимации [Там же: 49]), генезис этого алгоритма остается скрыт, и, более того, сама его привязка к ритуалу оказывается под вопросом, поскольку вряд ли можно восстановить необходимость осуществления ведического ритуала именно в такой, математически изощренной форме (затем, предположим, ставшей основанием для формальных математических теорий, зафиксированных в сутрах), то есть ритуал уже дан в своей математизированной форме, но не вполне понятно, что именно это добавляет и к ритуалу, и к его матема-210 тике. Проблема в том именно, что эта математическая форма уже слишком хорошо склеена с ритуалом, чтобы ее можно было из него вывести. Возможно, ритуал воспроизводится так же, как пчелами строятся соты — их геометрическая форма настолько плотно связана с самой их биологической «природой», что остается им предельно внешней, являясь результатом не их собственных действий, а их эволюции, а потому, по сути, объяснение практик пчел никак не объясняет строения сот. Последние, однако, являются по большому счету органами пчел (пусть и экзосоматическими), но не таков ритуал, который мог бы, вероятно, проходить и иначе, а раз так, нам не удается отмотать ситуацию до того момента, когда рабочих, призванных каждый раз строить алтарь по строгим математическим формулам, потребовалось угнетать именно таким способом — изощренным и математическим.
Расширительное понимание алгоритма — как «конечной процедуры пошаговых инструкций для преобразования ввода в вывод вне зависимости от данных и с наилучшим использованием ресурсов» [Пасквинелли 2024: 49] — также не способствует аналитической строгости, поскольку такое определение сливается со многими формами правилосообразной деятельности (с соответствующим ей кругом вопросов, известных и по философии, и по социальной теории, в частности, в пункте «выполнения правил» [Крипке 2005]). Если алгоритмические практики представляют собой всего лишь «решение задач на основе правил» [Пасквинелли 2024: 51], тогда не вполне ясно, почему бы не взять в качестве примера алгоритма не только
Социология власти Том 36
№ 2 (2024)
очевидно математический ритуал, но и, скажем, обычаи проводов зимы, правила коронования и присяги, ритуалы посвящения в армии и колледжах и т.п. Ясно, что во всех этих случаях термин «алгоритм» мало что добавляет к исследуемой реальности, а погруженность таких алгоритмов в «общественную и материальную деятельность» оказывается самоочевидной и не слишком продуктивной в плане анализа.
Центральная и наиболее сильная часть работы Пасквинелли, посвященная анализу автоматизации в индустриальную эпоху, отчасти решает указанные проблемы, но, возможно, потому, что здесь мы оказываемся на хорошо размеченной территории классического марксистского анализа, где сама конечная инстанция — «производительные силы и производственные отношения» — определяется гораздо четче, чем сегодня. Компоновка трех авторов — А. Смита, К. Маркса и Ч. Бэббиджа — позволяет сформулировать «трудовую теорию автоматизации», предполагающую, что автоматизация труда, в том числе интеллектуального, следует строго за процессом разделения труда в его оформлении производственными отношениями. Функции станков — экстериоризированные функции рабочих, превращение их навыков и рутинизированных задач в техни- 211 ческие приспособления, а потому один станок может объединять нескольких работников или, напротив, разбивать их на части, тогда как «реальные» работники получают другую функцию, например, оператора. Однако помимо традиционно выделяемой процедуры экстериоризации как основы для инструментализации, Пасквинелли, ссылаясь на Бэббиджа, акцентирует момент «метрики», заложенный в разделение труда, и ее формализации в условиях индустриального производства. Разделение труда требует метри-рования, точной оценки вклада каждого работника потому именно, что обычно рабочие создают лишь промежуточный продукт (например, отдельные детали), а потому оценить их труд так же, как у ремесленника, невозможно. Распределение труда по автоматам означает в то же время и его хронометрирование, а потому и трудовая теория стоимости могла родиться только в условиях индустриального труда. Часы — не только элемент станков (включенный в само их устройство) и не только основа «разностной машины», но и сверхмашина: автоматизация нужна, прежде всего, для того именно, чтобы хронометрировать труд, «кодировать» его в новых условиях, и лишь во вторую очередь она возникает как следствие продуктивного разделения труда (в конце концов, последнее началось не в индустриальную эпоху и обходилось без автоматизации). Таким образом, автоматизация оказывается гибридным процессом: продуктивность труда в его разделении с самого начала коннотиру-ется необходимостью контроля (со стороны собственника завода),
Sociology
of Power Vol. 36
No. 2 (2024)
неразделенный труд (если таковой вообще возможен) не контролируем, и только доведение его до автоматизации позволяет совершенствовать контроль до бесконечности. Результат оказывается в какой-то мере парадоксален: автоматизация труда создала для рабочих ненадуманную угрозу остаться без рабочих мест (или по крайней мере потерять квалификацию как нечто неотчуждаемое от их физического навыка), но именно такое выведение рабочих за скобки и было нужно для их контроля. Хотя в таком виде Паскви-нелли свой тезис не формулирует, контролировать рабочих можно лишь в том случае, если они находятся на грани перманентного «морального устаревания».
Некоторая проблематичность «трудовой теории автоматизации» заключается в ее всеобщности: хотя часовой механизм задействован во всей автоматике, достаточно сложно было бы выписать конкретный генезис определенных автоматов или станков из общей логики разделения труда и его метрирования. Сформулированный в явном виде проект автоматической «разностной машины» Ч. Бэб-биджа, призванной автоматизировать ручной труд вычислителей, остается все же лишь отдельным и незавершенным примером авто-212 матизации, не охватывающим весь ее феномен в целом. Не показывает Пасквинелли и того, насколько трудовая автоматизация действительно служила контролю — хотя она и создавала, допустим, горизонт метрирования рабочего времени, трудно предположить, что у владельцев производств не было других, гораздо более эффективных средств управления (через найм, ставки зарплаты, полицейские силы, частные детективные агентства и т.п.). Теория стоимости уже выполнена на уровне автоматизации производства, однако это создает несколько странную ситуацию — ее непризнания в буржуазной экономике, которая обходилась и обходится рыночными сигналами, так что, скажем, вознаграждение за труд в пределах производственной линии вряд ли должно и может руководствоваться автоматическим метрированием труда. Возможно, что автоматизация подготовила контроль планового типа, необходимый для социалистической экономики, но этот вопрос Пасквинелли не рассматривает, что потребовало бы, видимо, отдельной работы. В итоге получается, что «онтологически» социалистическое, на базовом уровне плановое производство (уже метрированное автоматикой) существовало и существует в интерфейсе «рынка». Тем не менее из аргументов Пасквинелли следует, что автоматика — это социализм (каждому по труду), но не вполне ясно, чем тогда может быть коммунизм.
Вторая, центральная, часть работы посвящена главному тезису Пасквинелли — генезису искусственного интеллекта из психометрии по кружной траектории через кибернетику и первые нейрон-
Социология власти Том 36 № 2 (2024)
ные сети (перцептрон Ф. Розенблатта). Анализируя каноническую историю становления кибернетики и появления современных ЭВМ, Пасквинелли обращает внимание на ключевую роль столкновения гештальта и символических алгоритмов на раннем этапе кибернетики и на своеобразное снятие этого противоречия в нейронных сетях, которое было ознаменовано превращением «паттерна» в геге-монное понятие компьютерных наук. По сути, паттерн становится вычислительно реализуемым эквивалентом гештальта восприятия, который ранее считался прерогативой исключительно человеческого интеллекта. Иными словами, ставкой теперь становится отчуждение не вычислительных способностей человека (как в разностной машине, нацеленной на то, чтобы автоматизировать труд сидящих по домам «вычислителей» (computers), в основном женщин), а специфического «фирменного знака» человеческого как такового, то есть самой функции «распознания» и «узнавания», сначала в зрительных образах, а затем и во множестве других медиумов — в языке, звуках, радиолокации и т.п. Связь с психометрией прослеживается Пасквинелли в импорте разработанных в ней техник и методологий в сферу нейронных сетей. Именно в психометрии опознание паттернов становится ключевым критерием изучения 213 и ранжирования интеллектов людей (в том числе в «IQ»). Еще важнее то, что Розенблатт прямо применил психологический метод многовекторного анализа в реализации перцептрона. Таким образом, нейронные сети стали не «отрицанием» символического интеллекта, но своего рода надстройкой: реализуясь на основе классической архитектуры Неймана, они позволяют делать статистические выводы и обучаться в процессе настройки множества собственных параметров.
Отличие второй части работы состоит в том, что, несмотря на высокий уровень детализации, Пасквинелли не слишком опирается в ней на свой собственный историко-материалистический принцип, ограничиваясь, скорее, достаточно стандартной медиатеорией и медиаисторией, известной и по другим исследованиям (гештальт-психология — кибернетика — модель нейрона МакКаллока-Питт-са — теории информации — нейронные сети — экономика Хайека). Генетическая связь перцептрона с психометрией остается слишком узкой, чтобы прямо утверждать происхождение одного из другого, скорее речь может идти об одном, наряду с множеством других, источнике идей. С другой стороны, даже если бы такая связь была ведущей, не вполне понятно, как она может реконструироваться на основе общей детерминации производственными отношениями. Конечно, психометрия была вписана в проект тейлоризации производства, но вопрос опять же в том, насколько ее «контрольная» функция была реальной и насколько она оставалась лишь элемен-
Sociology
of Power Vol. 36
No. 2 (2024)
том корпоративно-бюрократического аппарата (то есть на заводе мог работать штатный психолог, но существует и множество других способов контролировать производство и рабочих). Пасквинелли подчеркивает необходимость выхода контроля в современной экономике за пределы одного завода, обусловленную значительным усложнением логистических и производственных цепочек в послевоенное время, то есть это аргумент от сложности. Однако международный рынок с его логистикой существовал и в XIX веке, и точно так же рынок периодически порождал крахи и кризисы, не снимаемые ни новейшими нейронными сетями, ни классической статистикой. До последнего десятилетия применение нейронных сетей было достаточно ограниченным, а во времена Розенблатта речь шла, по сути, о прототипах, создаваемых для получения военных грантов. Интересно, что описывая жесткую борьбу между сторонниками нейронных сетей и защитниками классического искусственного интеллекта, опровергнувшими возможности перцептронов (М. Минский и С. Пейперт), Пасквинелли, вероятно, подрывает тезис об историко-материалистической детерминации искусственного интеллекта: слишком большое количество сюжетных поворотов 214 создает эффект «счастливого случая», то есть вся история ИИ могла бы сложиться иначе, если бы, к примеру, критика не была бы столь жесткой, а гранты распределялись иначе. Или, например, нейронные сети могли бы возникнуть существенно позже, в той ситуации, в которой, возможно, они уже не будут гомологичны логике рынка (если мы действительно утверждаем их гомологию, следуя несколько метафорическим выкладкам Хайека, который сам нейронных сетей, естественно, не строил).
Таким образом, вопрос о контроле, подхватываемом Паскви-нелли у Делеза («Общество контроля»), распадается на два других вопроса: что именно в современной ситуации требует принципиально нового, по сравнению с индустриальной эпохой, качества контроля и как именно это качество обеспечивается нейронными сетями, построенными на распознавании образов? Но на оба этих вопроса Пасквинелли не дает полного и удовлетворительного ответа. Сложность связывания контроля в послевоенной экономике с необходимостью введения нейронных сетей заметна в том, что их идеологические обработки (у Хайека) были нацелены на своего рода контроль без контроля, то есть без «центральной станции», единой инстанции управления и т.п. Логика хайековского рынка, устраняющая директивный контроль и требующая свободной игры частных, но неполных знаний индивидуальных агентов, может быть описана как метафора нейронной сети, тогда как сама нейронная сеть описывается как метафора рынка (что широко применяется в программировании, где, например, отдельные вы-
Социология власти Том 36 № 2 (2024)
числительные процессы требуют одних и тех же дефицитных ресурсов). Однако совмещение одной метафоры (бес)контрольности с другой никоим образом не доказывает ужесточения и существенного роста контроля, который, видимо, предполагает Пасквинел-ли. Может ли соединение двух метафор (бес)контрольности дать новый, невиданный контроль? Еще более проблематична позиция «хозяина» (из оригинального названия книги Пасквинелли «The Eye of the Master»): если «хозяин», то есть единая управляющая инстанция, исчезает и в рынке, и в топологии нейронной сети, тогда кто же в конечном счете осуществляет контроль? Ответ на этот вопрос потребовал бы исследования искусственного интеллекта как разновидности искусственной персоны, аналогичной государству, предпринятого не так давно, в частности Д. Рансименом [Runciman 2023], но Пасквинелли вопрос государства практически не затрагивает, предполагая самоочевидность принадлежности контроля, осуществляемого «через» нейронные сети, государству и крупным корпорациям. Конечно, можно было бы указать на всеобщую «цифровизацию», в том числе в «социальном рейтинге», однако в большинстве случаев она является продолжением статистических и бюрократических методов контроля, то есть пас- 215 портизацией с геолокализацией, не требующей собственно распознавания образов нейронными сетями, и еще сложнее установить детерминацию цифровизации современными производственными отношениями (скажем, развитием гиг-экономики). Возможно, более релевантный пример для аргументации Пасквинелли обнаруживается не в полицейском и государственном контроле, а в социальных сетях, но в них постоянное метрирование пользователей нацелено, прежде всего, на решение проблемы распределения товаров в условиях насыщения рынка. То есть это контроль, но не производителя или рабочего, а потребителя.
Согласно Пасквинелли, ставка на нейронные сети и техники распознавания в конечном счете меняют саму нашу концепцию интеллекта, который перестает быть априорной логической или дедуктивной машиной, становясь своего рода социальным конструктом, самообучающейся экстериорной машиной социально релевантного знания: «Акт распознавания или классификации паттернов — особый вид умственного труда, глубоко социальный акт, который мобилизует неявные и явные ноу-хау, научные и традиционные таксономии, народные и технические грамматики, то есть создание знаний как исторический и зачастую противоречивый процесс» [Пасквинелли 2024: 322]. Нейронные сети — обучающаяся машина, обучить ее можно чему угодно (на что указывает быстрое подхватывание нейронными сетями расистских предубеждений в интернете), но нет ничего, что нужно выучить обязательно, нет никакого
Sociology
of Power Vol. 36
No. 2 (2024)
«содержания» интеллекта, даже чисто логического. Нейронную сеть можно научить делать неправильные логические выводы и проводить неправильные арифметические операции. Соответственно, Пасквинелли приходит к выводу: «Семиотическая структура классификатора (машины имитации) подтверждает то, что заявлял Выготский: в интеллекте нет доступной для обнаружения внутренней логики, поскольку по своему устройству он представляет собой социальный процесс» [Там же: 322-323]. То есть, по сути, интеллекта, разума не существует, а существует лишь социальная структура обучения, ориентируемая механизмами подкрепления, формально описанными кибернетикой. Но изменение в статусе интеллекта затрагивает в конечном счете и положение исторического материализма как теории исторического разума. Действительно, вслед за Гегелем Маркс понимал процесс разделения труда (и, соответственно, автоматизации) как развитие объективного духа, то есть глобальную логику, постепенно восходящую ко все более сложным и в конечном счете справедливым формам. Фигуры Gesamtarbeiter (совокупного рабочего) и всеобщего интеллекта указывают именно на внутреннюю логику объективного духа, пусть и реализованного 216 в самой материи производства. Но если нейронные сети полностью описывают само понятие интеллекта, который становится механизмом эволюционного приспособления (что, собственно, и утверждает современная англо-американская философия сознания, подписывающаяся под эволюционизмом и отрицающая наличие какой-то особой сущности у интеллекта), тогда методологическая база исторического материализма, да и марксистского анализа ИИ полностью подрывается. Парадоксальным образом существует видимость, симулякр интеллекта, но нет «самого интеллекта» (и под этим выводом тоже могли бы подписаться некоторые ведущие философы сознания и когнитивисты). Пасквинелли, разумеется, не делает такого вывода, указывающего на необоснованность его первой части, однако он угадывается в стилистическом отличии его исследования от, например, работ М. Хардта и А. Негри [Хардт, Негри 2004], двадцать лет назад предполагавших, во вполне классическом русле, что «всеобщий интеллект» развивается в некоторой объективной логике наращивания собственного могущества, каковое обязательно приведет к радикальным социальным переменам. Пасквинелли не делает подобных революционных или пророческих выводов, да и не может их сделать, ограничиваясь кратким обсуждением возможности передачи вычислительных мощностей ведущих корпораций в руки сообщества (то есть речь не о переходе всеобщего интеллекта к новой социальной формации, а об обобществлении или, возможно, национализации компаний, владеющих нейронными сетями). Радикальный сдвиг — от объективного духа
Социология власти Том 36 № 2 (2024)
к имитационному искусственному интеллекту — остается в его тексте скрытым.
В конечном счете именно миметизм искусственного интеллекта, возможно, является его наиболее показательной чертой. Смещение в сторону миметизма происходит уже в тесте Тьюринга, то есть на стороне только-только разрабатываемой классической архитектуры ЭВМ и символического интеллекта. Неотличимое подражание как принцип интеллекта открывает лазейку для создания интеллекта как того, что «только похоже на интеллект», но без необходимости исследовать его мифическую внутреннюю сущность. Соответственно, и наиболее эффектное действие нейронных сетей обнаруживается не в воспроизведении неких продуктивных или производственных действий, но в неотличимой имитации или генерации того, что может генерировать и обычный человек (текста, опознания), хотя, например, для имитации речи современному ИИ требуется намного больший массив данных для обучения, чем ребенку. Но если так, не затягивается ли в эту имитационную воронку и сам «контроль», как ведущий ориентир для ИИ? Собственно, задача ИИ — не дать в руки «власть имущим» (кем бы они ни были) более эффективные инструменты, 217 а скорее создать некую видимость контроля, по модели потребительских подсказок и рекомендаций, которые зачастую не совпадают с желаниями потребителей, но что с того, если они почти ничего не стоят и иногда все же попадают в цель? Обещанный прецизионный контроль на деле заменяется контрольной взвесью, контролирующим первичным бульоном, с постоянно растущей концентрацией стимулирующих и получающих фидбек имитационно-интеллектуальных механизмов, которые все совершенно слепы, но иногда все же оказывают контролирующий (или, что то же самое, «продающий») эффект. Видеокамеры в подъездах могут не работать, но они все же создают отпугивающий эффект, то есть работают цифровыми пугалами. И хотя каждый сможет увернуться от одного или десятка таких механизмов, вряд ли можно убежать от миллионов слепых имитаций контроля.
Библиография / References
Пасквинелли M. (2024) Измерять и навязывать. Социальная история искусственного интеллекта, Индивидуум.
— Pasquinelli M. (2024) The Eye of the Master: A Social History of Artificial Intelligence,
Individuum. — in Russ. Крипке С. (2005) Витгенштейн о правилах и индивидуальном языке, Издательство Томского университета. EDN: QKIBQQ
Sociology of Power
Vol. 36 No. 2 (2024)
— Kripke S. (2005) Wittgenstein on Rules and Private Language, Tomsk University Press. — in Russ.
Лавлок Дж.; при участии Эпплъярда Б. (2022) Новацен: Грядущая эпоха сверхразума, Европейский университет в Санкт-Петербурге.
— Lovelock J., Appleyard B. (2022) Novacene: The Coming Age of Hyperintelligence, European University at St. Petersburg. — in Russ.
Хардт М., Негри А. (2004) Империя, Праксис. EDN: QODCNV
— Hardt M., Negri A. (2004) Empire, Praxis. — in Russ.
Simondon G. (1958) Du mode d'existence des objets techniques, Éditions Aubier-Montaigne.
Runciman D. (2023) The Handover: How We Gave Control of Our Lives to Corporations, States and Ais, Profile Books.
Кралечкин Дмитрий Юрьевич — кандидат философских наук, младший научный сотрудник Центра перспективных социальных исследований ИОН РАНХиГС, член редколлегии журнала «Логос». Научные интересы: онтология, история французской философии XX века. E-mail: kralechkin@gmail.com
218 Dmitriy Yu. Kralechkin — PhD, junior research fellow of the Center for Perspective Social Studies of ISS RANEPA, member of the editorial board of the "Logos" journal. Research interests: ontology, history of French philosophy of the 20th century. E-mail: kralechkin@gmail.com
Социология власти Том 36
№ 2 (2024)
