CC BY
2ПРОФЕССИОНАЛЬНЫЙ ВЗГЛЯД
УДК 338.364+331.1+316. DOI: 10.31249/snsn/2023.04.06
РОБОТИЗАЦИЯ КАК ПУТЬ К СУРРОГАТНОЙ ЧЕЛОВЕЧНОСТИ? Рецензия на кн.: Atanasoski N., Vora K. Surrogate humanity: race, robots, and the politics of technological futures. -Durham ; London : Duke university press, 2019. - 240 p.
Положихина Мария Анатольевна
Кандидат географических наук, ведущий научный сотрудник Отдела экономики Института научной информации по общественным наукам (ИНИОН) РАН, Москва, Россия, e-mail: polozhihina2@mail.ru
Ключевые слова: технолиберализм; автоматизация; роботы; занятость; эмоции; человечность.
Для цитирования: Положихина М.А. Роботизация как путь к суррогатной человечности? // Социальные новации и социальные науки. - 2023. - № 4. - С. 77-92. - Рец. на кн. : Atanasoski N., Vora K. Surrogate humanity : race, robots, and the politics of technological futures. - Durham ; London : Duke university press, 2019. - 240 p.
URL: https://sns-journal.ru/ru/archive DOI: 10.31249/snsn/2023.04.06
Рукопись поступила 27.09.2023. Принята к печати 10.10.2023.
Введение
Разворачивающиеся в настоящее время процессы цифровизации, ускоряясь и охватывая разнообразные виды деятельности, означают все более глубокое внедрение цифровых технологий в жизнь общества. Новые направления автоматизации позволяют воплощать сценарии, которые ранее относились к области научной фантастики, и открывают широкие перспективы для социально-экономического развития. Однако высокая скорость научно-технического прогресса и быстрый переход от воображаемых проектов к реальности порождает множество новых проблем. Представители различных научных дисциплин - философы и социологи, антропологи, экономисты, политологи и т.д., - размышляют о будущем общества, стараясь выявить доминирующие тенденции, возникающие угрозы и риски. Причем главные из них, по мнению многих специалистов, относятся к этической сфере. В частности, распространение роботов и искусственного интеллекта (ИИ) требует переосмысления того, что же такое человек и человечность, а также разных аспектов взаимоотношения людей с «почти разумными» их созданиями.
Данной теме посвящена монография «Суррогатная человечность: раса, роботы и политические сценарии технологического будущего» (Surrogate humanity: race, robots, and the politics of technological futures). Ее авторами являются Н. Атанасоски (профессор Калифорнийского университета в Санта-Круз, США), специализирующаяся на гендерной проблематике и работах в рамках критической расовой теории, и К. Вора (профессор Йельского университета, США), также занимающаяся тендерными и антропологическими исследованиями. Монография состоит из вступления, шести глав и эпилога. Фактическим материалом для книги служат примеры из истории и современности США, начиная со второй половины XX в. (после Второй мировой войны) и заканчивая периодом президентства Д. Трампа.
Следует отметить, что работа выполнена в русле свойственных данным авторам подходов (критической расовой теории и феминистской идеологии). Это определяет специфику используемой терминологии, которая сильно отличается от принятой в отечественном научном дискурсе. Так, Н. Атанасоски и К. Вора придерживаются мнения, что современное общество основано на «расовом капитализме» (racial capitalism), который «расширяется не за счет объединения рабочей силы, ресурсов и рынков по всему миру, а путем создания колониальных отделений (colonial divisions): одних регионов - для производства, а других - для забвения, одних групп населения -для эксплуатации, а других - для уничтожения» [Atanasoski, Vora, 2019, p. 13], т.е. в результате углубления неравенства в глобальном масштабе. Практически полное отсутствие интереса к таким
идеям в России выражается в сложности прямого перевода текста монографии и необходимости его адаптации для понимания российскими читателями.
Тем не менее приводимые в книге примеры и рассуждения авторов являются достаточно интересными и информативными, а также отражают распространенное евро-американское направление исследований. В связи с этим монография была замечена в российском информационном пространстве - отклик на нее был опубликован в журнале «Медицинская антропология и биоэтика» в 2021 г. (см. [Середа, 2021]). Однако широкий круг затронутых вопросов и их актуальность в контексте последних событий заставляют вновь обратиться к данной работе, более подробно остановившись на таких аспектах, как отношение к человеческому труду и определение человечности в целом.
Технолиберализм и его критика
Особенностью рассматриваемой книги служит ее вовлеченность в дискуссию между сторонниками и критиками идей технолиберализма. Последний оформился в начале XXI в. в результате осмысления радикальных преобразований общества в ходе процессов цифровизации. Согласно распространенному определению, технолиберализм - это философское течение, «основанное на идеях свободы, индивидуальности (individuality), ответственности, децентрализации и самосознания (self-awareness)» [Технолиберализм, 2023]. В свою очередь, Атанасоски и Вора под техноли-берализмом подразумевают «идеологию, согласно которой развитие технологий приближает человеческую свободу и пострасовое (postracial) будущее, утверждая постлейбористский мир, в котором преодолены расовые различия вместе со всеми социальными человеческими различиями» [Atanasoski, Vora, 2019, p. 28]. «Иными словами, технолиберализм предполагает, что мы вступаем в совершенно новую фазу человеческой эмансипации (в которой человек освобождается от ограничений расы, пола и даже труда), которая становится возможной благодаря технологическому развитию» [ibid., p. 14].
Одними из наиболее ярких и последовательных формулировок положений технолиберализма считаются работы А. Фиша (Adam Fish)1 «Технолиберализм и современность» (2013) и «Технолиберализм и конец культуры участия в США» (2017). По словам этого ученого, технолиберализм представляет собой «веру в то, что сетевые [цифровые] технологии смягчат противоречия современного общества», позволив совместить свободный рынок (идеи экономического либерализма) и социальную справедливость (подходы социального либерализма). Это включает в себя: а) защиту свободы отдельных лиц при одновременном сохранении свободы окружающих; б) свободные рынки с жестко соблюдаемыми правилами; в) справедливое налогообложение, особенно крупных
1 Адам Фиш - культурный антрополог, научный сотрудник Школы искусств и медиа Университета Нового Южного Уэльса, Сидней (Австралия). Ранее читал курс социологии в Ланкастерском университете (Великобритания).
79
компаний; г) защиту окружающей среды (посредством строгого регулирования экологического ущерба); д) развитие малого и среднего бизнеса; е) обеспечение свободы слова и использования коммуникационных технологий; ж) акцент на технологический прогресс [Технолиберализм, 2023].
Данное философское направление мало распространено в России, как и его критика, о чем свидетельствует дефицит статей отечественных ученых на эту тему. При этом нельзя не признать его привлекательность, так как постулаты технолиберализма во многом совпадают с общественными ожиданиями в отношении научно-технического прогресса.
Однако авторы книги «Суррогатная человечность» критически относятся к идеям техноли-берализма. По их мнению, представляя технологическое будущее современного капиталистического общества, они повторяют «фантазию о том, что по мере того, как машины, алгоритмы и искусственный интеллект возьмут на себя скучный, грязный и рутинный труд (в настоящее время выполняемый представителями этнических меньшинств, женщинами и беднякамии даже репродуктивные функции, человек будет освобожден для развития своих творческих способностей» [Atanasoski, Vora, 2019, р. 28].
Атанасоски и Вора критикуют тезис «о свободе западного либерального субъекта, а также описывают структурное угнетение в технолиберальном капитализме» [Середа, 2021] с позиции расовой теории и подходов феминизма. «Со времен первой промышленной революции автоматизация представляла собой замену определенных видов человеческих функций и работников, которые являются расовыми и тендерными. На самом деле [это] предопределяется методами дифференцированной эксплуатации и лишения собственности в рамках капитализма. Технолиберализм является политическим алиби современного капитализма, скрывающим расовое и гендерное неравенство в сфере труда, власти и социальных отношений». Авторы рассматриваемой монографии убеждены, что «расовая логика категоризации, дифференциации, инкорпорирования и элиминации является составной частью самой концепции технологии и технологических инноваций» [Atanasoski, Vora, 2019, р. 4, 5].
По их мнению, происходящие «радикальные сдвиги в сторону экономики совместного пользования» и увеличение объема производимых благ (например, за счет использования 3D-прин-теров) «могут даже привести к концу капитализма в том виде, в каком мы его знаем». Однако «нарративы о технолиберальном прогрессе на самом деле маскируют усиление эксплуатации в условиях расового капитализма» [Atanasoski, Vora, 2019, с. 24].
Следует отметить, что наиболее глубокие разногласия между сторонниками представленных философских направлений существуют по отношению к труду и занятости. Атанасоски и Вора
1 В терминологии авторов - «расовыми, тендерными и колониальными работниками» (racialized, gendered and colonized workers) [Atanasoski, Vora, 2019, p. 28].
считают, что «скрытым источником поддержки кажущейся автономии либерального субъекта на протяжении всей его истории был несвободный [наемный] и невидимый труд, включая гендерно обусловленный домашний труд и труд в сфере обслуживания» [Atanasoski, Vora, 2019, p. 6].
Продолжающаяся автоматизация трудовых функций серьезно трансформирует спрос на рынке труда, что позволяет специалистам говорить о кризисе «общества труда». Особенно острые дискуссии вызывает «революция роботов» - расширение использования роботов в разных сферах деятельности.
К настоящему времени уже разработаны и начали применяться роботы-охранники и роботы-полицейские, роботы-уборщики и домашние работники, ремонтники и продавцы, садовники и официанты, носильщики, спасатели, курьеры, а также дирижеры, художники и даже роботы для развлечения домашних животных. Сотни исследований, посвященных перспективам замещения людей роботами, приходят к выводам о том, что многие профессии в скором времени просто исчезнут (рис. 1). Согласно результатам, полученным экономистами К. Фреем (C. Frey) и М. Осбор-ном (M. Osborne), «в США к 2033 г. под натиском роботизации рискует исчезнуть 47% рабочих мест, существовавших в 2018 г. Мировой банк подсчитал, что для Китая эта доля может составить и вовсе 77%. Международная организация труда считает, что даже в таких станах, как Камбоджа, Индонезия, Филиппины, Вьетнам и Таиланд, 56% работников подпадают под риск автоматизации» [Как роботы заменяют людей, 2023].
Рис. 1. Рабочая сила в будущем
Источник: [Atanasoski, ^га, 2019, р. 3].
В книге «Суррогатная человечность» приводятся две противоположные позиции по вопросу
влияния «технологий на рабочую силу: (1) искусственный интеллект и робототехника развивают-
81
ся настолько быстро, что практически весь человеческий труд будет заменен в течение трех десятилетий; (2) робототехника приведет к появлению новых рабочих мест и создаст новые огромные направления экономической деятельности». Недостатком обеих точек зрения, по мнению авторов книги, является то, что будущее человечества связывается «с технологическими разработками, сосредоточенными <только> на вопросах производительности и эффективности» [Atanasoski, Vora, 2019, p. 60].
Известный американский ученый Дж. Рифкин (Jeremy Rifkin)1 считает, что дальнейшая автоматизация / роботизация «приведет к освобождению человека от работы и концу капитализма». В его книге «Общество нулевых предельных издержек» (The Zero Marginal Cost Society, 2014) «утверждается, что взаимодействие людей и вещей в Интернете <...> делает человеческий труд устаревшим, но <.> в конечном счете производит революцию, освобождая людей для более значимых или творческих занятий» [цит. по: Atanasoski, Vora, 2019, p. 65].
Полемизируя с ним, Атанасоски и Вора отмечают, что «заявления о вытеснении человеческого труда технологиями делают невидимой и обесценивают квалифицированную рабочую силу, решающую задачи, которые предлагается рассматривать как выполняемые роботами и искусственным интеллектом». На примерах трудовой политики, дизайна и инфраструктуры таких сервисов, как Alfred2, и платформ, как Amazon Mechanical Turk3, авторы показывают, как человеческий труд «маскируется под машинный» и создается «суррогатный эффект для потребителей» за счет физического исключения людей-работников [Atanasoski, Vora, 2019, p. 24-25].
Определенные надежды авторы книги «Суррогатная человечность» связывают с «одним из недавних достижений, пытающимся устранить опасения по поводу замены людей роботами (и расового аутсорсинга дешевой рабочей силы)», которым является «зарождающаяся область колла-боративной робототехники. Говорят, что коллаборативные роботы работают бок о бок с людьми, а не предназначены для их замены» [Atanasoski, Vora, 2019, p. 70]. В книге приводятся примеры таких коботов: промышленного робота Бакстера (Baxter), созданного в 2011 г. компанией Р. Брукса (Rodney Brooks) и выпускавшегося до 2018 г., а также робота-дворецкого Ботлра (Botlr), который начал использоваться в 2014 г. в гостинице Aloft (Купертино, Калифорния, США).
Однако такое «сотрудничество», как, по мнению авторов, его представляют в современной робототехнике, «повторяет разделение разума и тела, при котором человек свободно развивает свой творческий потенциал за счет освобождения от ненужного тяжелого труда» [Atanasoski, Vora,
1 Джереми Рифкин - социальный философ, экономист, писатель и общественный деятель, консультант ряда известных политиков.
2 Artificial intelligence driven systems - это чат-ассистент GPT для iOS, т.е. приложение, которое упрощает работу с компьютером, новый механизм поиска и создания контента на основе ИИ (запуск программ, поиск в Интернете и т.д.).
3 Amazon mechanical turk - краудсорсинговый веб-сайт, запущенный в 2005 г. в США, с помощью которого предприятия могут нанимать удаленных работников для выполнения отдельных задач.
82
2019, p. 70]. Одновременно новые технологии «воспроизводят существующие противоречия и насилие капиталистической экспансии», рисуя и создавая только «суррогаты, а не новые социальные, политические или субъективные формы, которым еще предстоит появиться. Интернет вещей и другие технофантазии могут быть связаны с желанием освободиться от непривлекательного труда, но даже когда у них есть политические намерения, такие как конец капитализма, они репродуцируют мировоззрение [идеологию], в котором задумывались, и развиваются только чтобы делать то, что уже делают люди» [ibid., p. 70].
Авторы подчеркивают, что «призрак человеческого устаревания лежит в основе как утопических, так и антиутопических подходов к <...> эффекту технологий, которые, как надеются, освободят и в то же время, как опасаются, уничтожат человеческий субъект. Автоматизация и представления о технологическом будущем наглядно демонстрируют, что труд остается центральной позицией, по отношению к которой определяются контуры полноценного человека с точки зрения (расовой) свободы и несвободы» [Atanasoski, Vora, 2019, p. 30]. На протяжении всей книги они акцентируют внимание на «противоречии между экономической и технологической рациональностью, отличительными чертами политического и экономического либерализма, и инженерным и культурным воображением, которые стремятся преобразовать нашу современность с помощью платформ и приложений, волшебство которых заключается <в старании> исключить эксплуатацию человека» [ibid., p. 17].
Следует отметить, что в данном случае Атанасоски и Вора вовлекаются в продолжающуюся уже очень длительное время дискуссию по вопросу отношения к труду, которое до сих пор остается весьма противоречивым.
Как пишет отечественный философ И.Д. Джохадзе, «если обратиться к истории европейской культуры, от Античности до Нового времени, можно убедиться в том, что [представления о целе-рациональном труде как смысле человеческой жизни] разделялись далеко не всегда и уж, конечно, не всеми. Наоборот, в большинстве дошедших до нас исторических, философских и литературных текстах древних авторов мы обнаруживаем прямо противоположное отношение к труду». Так, древние греки рассматривали труд (производительную полезную деятельность) «как "не-досуг", своего рода отклонение от нормального образа жизни». В Средние века в христианской этике труд выступал в качестве наказания. Реабилитации «vita active»1 способствовала Реформация и распространение протестантской этики. Современное «панлейбористское» общество (или «общество труда») «ударилось» в другую крайность, возведя в основной принцип «работать - или умереть» [Джохадзе, 2006, с. 37-62]. По словам У. Бека, «труд и профессия в XX в. сделались «осью образа
1 «Активная жизнь» - в переводе с латыни.
жизни западного человека» [цит. по: там же, с. 52], что, однако, не исключает существования хронической безработицы и не занятых общественно полезным трудом индивидов.
В то же время наемный труд часто продолжает восприниматься как «репрессивный мир наемного рабства» [Джохадзе, 2006, с. 62] и, соответственно, «отмена принуждения к труду» - как очередной закономерный шаг по освобождению человечества. При этом мало кто осознает, что включает в себя принуждение к труду, насколько и почему оно предполагает репрессии и можно ли отменить его в принципе. Вместе с тем любой процесс, требующий совместной деятельности людей или их организации, предполагает ограничение индивидуальной свободы, т.е. принуждение. Кроме того, проблема «безбилетника»1 существует столько же, сколько сама человеческая цивилизация, и разрешить ее без принуждения невозможно. Тезис, что «депрофессионализиро-ванный индивид, избавившись от экономической и психологической зависимости от конкретной профессиональной деятельности, сможет обрести в свободном труде подлинный смысл своего существования <...>. Вместо того, чтобы трудиться для жизни, он получит возможность жить для труда» [Джохадзе, 2006, с. 60, 62], представляется чистым идеализмом, не соответствующим реальным условиям (требующим именно профессиональных навыков) и не учитывающим мотивы человеческих действий.
Еще одним моментом, осложняющим формирование адекватных представлений о труде, служит путаница в таких понятиях, как бездеятельность и незанятость, а также наличие формальной и неформальной занятости. К сожалению, критика неоднозначного и часто идеалистического отношения к труду, смешения эксплуатации и принуждения / мотивации к труду, свободного труда и освобожденного от труда человека, свойственные технолиберализму и ряду других современных концепций (например, идее безусловного базового дохода2), недостаточно полно представлена в отечественном информационном пространстве. Хотя продолжающаяся автоматизация и тем более роботизация актуализируют обсуждение, казалось бы, давно изученных теоретических аспектов трудовой деятельности.
Суррогатная человечность
Вторым важнейшим содержательным мотивом книги «Суррогатная человечность» служит попытка дать «четкое представление о человеческой сущности посредством формулирования различий между человеком и машиной. (то есть спектра от полностью человеческого до несомненно нечеловеческого)» на примере того, что могут и должны делать люди, а что - роботы [А1апа808к1, Vora, 2019, р. 70]. Авторы отмечают, что согласно современным подходам, наличе-
1 Проблема «безбилетника» - экономическая ситуация, при которой потребитель общественных благ уклоняется от их оплаты.
2 Безусловный базовый доход - регулярные выплаты определенной суммы каждому члену конкретного общества со стороны государства, независимо от уровня его доходов и необходимости выполнения какой-либо работы.
84
ствует «полностью человеческая сущность, которая никогда не может быть воспроизведена нечеловеком или не совсем человеком» [ibid., p. 72]. Хотя создатели роботов стараются имитировать человеческие эмоции и отношения.
«Объединяя проблемы ИИ и расового неравенства» [Середа, 2021], Атанасоски и Вора выдвигают свою концепцию «суррогатной человечности». Как известно, «суррогатный» означает «не настоящий, поддельный, лишь по некоторому критерию служащий заменой настоящему» [Суррогатный, 2023]. Авторы книги представляют суррогат как (расовую и гендерную) форму, определяющую границы человеческого сознания и автономии. Новые технологии (прежде всего, роботы на основе ИИ) начинают повторять или имитировать некоторые человеческие свойства, создавая тем самым «эффект суррогатной человечности». Последний направлен, «во-первых, на консолидацию чего-то как "человеческого", а во-вторых, на монополизацию "человеческого" путем продвижения концепции либерального субъекта периода постпросвещения в качестве универсальной» [Atanasoski, Vora, 2019, p. 8, 9].
Если отвлечься от риторики, относящейся к расовой теории, то безусловный интерес вызывает обсуждение Атанасоски и Вора такого вопроса, как «понадобятся ли роботам права?». В книге приводится ответ на него Р. Курцвейла (Raymond Kurzweil), американского изобретателя и футуролога, специалиста в области информатики: «Если ИИ сможет убедить нас, что в своих реакциях он находится на человеческом уровне, и если мы убедимся, <.> что он способен испытывать страдание и радость, то мы будем вынуждены предоставить ему права, которые он потребует». Другими словами, если робот сможет доказать, что он может испытывать эмоции (чувствовать боль, счастье, страх и т.д.), его человеческий статус может быть признан (путем предоставления юридических прав) [Atanasoski, Vora, 2019, p. 12, 20].
Социальные роботы. Авторы книги обращаются к наиболее ярким попыткам имитации / воссоздания человеческих отношений (т.е. их суррогата) в робототехнике - таким, как создание социальных роботов. Специалист по этике роботов К. Дарлинг (Kate Darling) определяет социального робота как «физически воплощенного автономного агента, который общается и взаимодействует с людьми на социальном уровне». Причем автономия в робототехнике понимается «как способность [робота] выполнять задачи без постоянного участия человека или его контроля» [Atanasoski, Vora, 2019, p. 112]. В книге описывается первый социальный робот Джибо (Jibo), предназначенный для домашнего использования, который производился в 2017-2019 гг. в США. Джибо был разработан для выполнения исчезающих (сервисных) функций обслуги, позволяющих «поддерживать существование нуклеарной гетеро-патриархальной семейной экономической ячейки» [ibid., p. 90].
Далее авторы переходят к роботам, которые предназначены для установления другого вида
социальных отношений с человеком - так называемым общительным эмоциональным роботам.
85
Примером служит робот Кисмет (Kismet), созданный в конце 1990-х годов в Массачусетском технологическом институте С. Бризил (Cynthia Breazeal). Данный робот (представляющий собой голову на подставке) был способен воспринимать различные социальные сигналы и отражать разные эмоции (рис. 2). При этом в основе моделей реакции Кисмета на человеческое воздействие лежала работа Ч. Дарвина об эмоциях и эволюции (что служит примером репрезентативного научного знания о человеке).
Ж
ттт
t ** н
Jä
*г Г < .1 » . щ
> -Mr -J
t ^JU'" ,
Calm
Interest
ТИм
Disgust
Рис. 2. Выражения эмоций робота Кисмета
Источник: [Atanasoski, Vora, 2019, р. 115].
Атанасоски и Вора отмечают, что в современной робототехнике и ИИ эмоции роботов в основном создаются посредством программирования заранее определенных побуждений, которые обозначают понятные людям эмоции, с целью облегчения взаимодействия человека с роботами, а также сокращения дистанции между машиной и человеком. По их мнению, конструирование общительных эмоциональных роботов доказывает, «что вершиной человеческой эволюции <...> является способность демонстрировать существование внутреннего мира <...> Программирование эмоций в роботах - это последний рубеж в робототехнике, потому что эмоции все чаще рассматриваются как признак сложного интеллекта. Таким образом, программирование эмоций заключа-
ется в правильном переводе внутренних состояний во внешний социальный мир. Иными словами, целями как аппаратного, так и программного обеспечения являются восприятие и действия, которые отражают уже сложившиеся представления людей об окружающем мире» [Atanasoski, Vora, 2019, p. 25].
При этом авторы книги «Суррогатная человечность» утверждают, «что социальность [т.е. вовлечение в социальные отношения] машин сохраняет эффект человеческой уникальности, поскольку функции [социального] робота постоянно сводятся к обслуживанию, выполняемому посредством проявления повиновения и энергичного реагирования на человеческие потребности» [Atanasoski, Vora, 2019, p. 25]. В свою очередь, «как выразилась С. Бризил, роботы - это зеркало, отражающее, что значит быть человеком и наши ценности, именно потому, что они - не совсем люди в нашем представлении» [цит. по: ibid., p. 77].
По мнению Л. Сачмен (Lucy Suchman)1, «человечность, предполагаемая при попытках механического воспроизведения человека, обычно является абстрактной, лишенной случайности, локализации, историчности и конкретных воплощений. Но если мы примем, что человек неотделим от конкретных социальных и материальных отношений, то вопрос переходит от «будем ли мы воспроизведены?» к чему-то большему, например, «в какие различные социально-материальные отношения мы вовлечены и с какими политическими и экономическими последствиями». Атана-соски и Вора считают, что программирование эмоций социальных роботов «позволяет вообразить универсальную "платформу" чувств и побуждений», общих для всех людей [Atanasoski, Vora, 2019, p. 119, 132].
Авторы книги «Суррогатная человечность» также полагают, что взаимодействие с искусственными мирами (созданиями) позволяет переосмыслить человеческую сущность и даже социальную. В качестве примера они обращаются к работе К. Добсон (Kelly Dobson, лаборатория Мас-сачусетского университета), чей проект Omo (или Дыхательный аппарат) является частью эксперимента под названием «Машинная терапия» и представляет собой особый вариант робота-компаньона (companion robot или carebot). «Omo создан так, чтобы человек воспринимал его как нечто среднее между своей частью (чем-то сродни протезу или части тела) и отдельной вещью. В некоторых ситуациях Omo может казаться или иногда вести себя как организм, существо, друг или домашнее животное, но это неустойчивые отношения, встроенные в дизайн объекта... Из-за шума в программировании Omo непредсказуем и предназначен не только для успокоения. Поскольку люди взаимодействуют с такими машинами и размышляют о них, они, по сути, обучаются новому пониманию заботы и отдыха. Таким образом, они бросают вызов утилитарной и неодар-
1 Люси Сачмен - профессор антропологии Факультета социологии Ланкастерского университета, Великобритания.
винистской логике эмоциональных влечений, представляя объекты как находящиеся вне отношений служению человеку» [Atanasoski, Vora, 2019, р. 132-133].
Роботы-убийцы. Противоположностью конструктивному и позитивному взаимодействию людей с социальными роботами служат человеко-машинные отношения, складывающиеся в ходе автоматизации ведения военных действий, которые обсуждаются в последних двух главах книги. Это относительно новый сюжет для научной дискуссии (но не для научной фантастики), поскольку традиционно роботизация рассматривается с точки зрения повышения производительности труда в экономике или его облегчения в социальной сфере, но не как физическая угроза человеческой жизни.
Атанасоски и Вора полагают, что возникающая автономия в рамках новых военных технологий превращает население (людей) в «мишени» для уничтожения, так как «роботы не могут провести различие между врагом и гражданским лицом в условиях неразберихи вооруженного конфликта» [Atanasoski, Vora, 2019, р. 177]. С другой стороны, как «автономное, так и полуавтономное оружие на самом деле не "беспилотно", а <является> коботами, в том смысле, что речь идет о совместных действиях человека и машины». Основанное на концепции автономии машин изображение беспилотной (безлюдной) войны является мифом [Atanasoski, Vora, 2019, р. 25-26].
Авторы книги считают боевых дронов (полуавтономное оружие) и так называемых роботов-убийц (автономное смертоносное оружие) примером технологий, которые представляют потенциальную угрозу человечеству, исходящую от ИИ. Одновременно эти «технологии позволяют описать, что значит чувствовать себя человеком». Они обращаются к попыткам правозащитных и некоммерческих организаций запретить роботов-убийц, т.е. «автономного оружия, которое может принимать решения о лишении людей жизни без контроля со стороны человека». Эти группы утверждают, что «роботы-убийцы являются нарушением прав человека» (хотя пока еще в будущем времени). В то же время «на фоне призрака робота-убийцы человечность предстает как способность сопереживать и признавать право на жизнь других людей, которых можно убить» [Atanasoski, Vora, 2019, р. 26, 163].
Хотя, по мнению Атанасоски и Вора, роботы-убийцы являются «спекулятивной технологией в том смысле, что еще не введены в эксплуатацию», они аморальны, т.к. такие «технологии могут принимать решения о человеческой жизни и смерти <...> Гуманистическая этика предполагает, что моральный поступок на поле боя основан на способности [человека] чувствовать боль и воображать боль других [людей] (так называемое страдание по доверенности). Поскольку смерть связана с болью, а боль - это другой вид представления о мире, отличный от того, который приписывается ИИ, роботы-убийцы считаются неспособными знать то, что знает человеческое тело (через боль)».
В конечном счете авторы книги определяют человечность как сопереживание, не зависящее от объекта этих чувств (человека, собаки или робота), различий и дистанций. «Способность преодолеть это расстояние, даже признавая, что другой никогда не сможет быть человеком, через чувство ужаса служит определением нашей собственной человечности» [Atanasoski, Vora, 2019, p. 170]. «Запрограммировать автономное оружие с необходимой эмпатией, чтобы сделать его способным принимать моральные решения об убийстве [человека]» не представляется возможным [ibid., p. 182].
Вместе с тем они признают, что «полностью автономное оружие само по себе не может быть признано ответственным за преступные деяния, которые оно может совершить, поскольку в нем отсутствует преднамеренность». Кроме того, такой робот не подпадает под юрисдикцию судов в качестве «физического лица». Даже если бы была введена соответствующая норма, «судебное решение не соответствовало бы целям наказания, <...> потому что робот не мог ни сдержаться осуждением, ни воспринять или оценить по достоинству то, что его наказали» [Atanasoski, Vora, 2019, p. 176].
Заключение
В целом следует иметь в виду, что книга «Суррогатная человечность» прежде всего является «левой» критикой идеологии и политики США и во многом конъюнктурна (связана с событиями периода президентства Д. Трампа). Причем теоретические подходы Атанасоски и Вора трудно считать универсальными, так как они основываются на весьма специфической истории США и роли в ней рабства, а также на особенностях положения темнокожего населения. Однако теория расового капитализма явно имеет ограниченное применение - так, она приложима далеко не ко всем странам. Кроме того, для российского научного сообщества выглядит чрезмерным феминизм авторов (например, при рассуждениях о создании секс-роботов). Но, помимо таких во многом традиционных именно для западного и особенно для американского общества вопросов: «внимание к расе и гендеру, свободе и несвободе в рамках (техно)либеральной логики», «соучастия (тех-но)либерализма в увековечении различных условий эксплуатации при расовом капитализме», - в книге затрагиваются и более общие проблемы.
В первую очередь к этому относится участие Атанасоски и Вора в дискуссии о будущем человечества (в свете продолжающейся автоматизации) и критика позиций технолиберализма. Как утверждают авторы, «инженерные проекты, которые создают роботов, программируют искусственный интеллект и улучшают цифровую инфраструктуру, <...> на самом деле предопределяются методами дифференцированной эксплуатации и лишения собственности в рамках капитализма» [Atanasoski, Vora, 2019, с. 4].
Данный дискурс, весьма широко представленный зарубежными исследованиями, во многом игнорируется отечественной общественной наукой, в которой монопольное положение занимает рыночный фундаментализм. Хотя, конечно, работы в подобном направлении существуют. В качестве примера можно привести статью Д.А. Давыдова о появлении современных концепций «посткапиталистического общества, которые позиционируются как нечто новое в пространстве политических смыслов». Причем многие авторы «левого» направления все чаще предпочитают термин «посткапитализм» привычным терминам «социализм» и «коммунизм» - в связи с известными негативными коннотациями. В то же время «дискурс посткапитализма представляет собой сплав старых марксистских идей с современной критикой "цивилизации труда". В сущности, он как бы символизирует ситуацию неопределенности будущего человеческого общества» [Давыдов, 2018, с. 114, 120], кризис современного «общества труда» и капиталистических отношений.
Во-вторых, безусловный интерес представляют размышления авторов о человеческом труде и о человечности в контексте реалий XXI в. Как пишут Атанасоски и Вора, «на нас надвигается якобы беспрецедентная социально-экономическая эпоха», которую называют по-разному: «Четвертая промышленная революция», «Вторая эра машин» или «Технобум 2.0». «Теперь даже интеллектуальный труд, желания и эмоции, "работа" по отнятию или сохранению человеческой жизни становятся направлениями автоматизации, <.> поскольку машины берут на себя все больше и больше задач, встают вопросы о том, какие задачи можно заменить и какими творческими способностями обладают только люди» [Atanasoski, Vora, 2019, р. 4].
Ускоряющаяся роботизация возрождает опасения о расширении категории «ненужных» людей (лишающихся работы из-за роботов как луддиты первой четверти XIX в. из-за станков), истоки которых восходят еще к идеям Т. Мальтуса XVIII в. Ряд исследователей в качестве социальных последствий продолжения автоматизации видят появление новых групп не участвующих в общественном производстве людей, которые будут заниматься своим самосовершенствованием и творчеством (т.е. незанятые и «свободные»). «Фантазия заключается в том, что, поскольку машины берутся за работу, которая унижает человека, люди становятся свободнее, чем когда-либо, в стремлении максимально использовать свой потенциал» [Atanasoski, Vora, 2019, р. 16]. И те, и другие категории населения признаются нуждающимися в материальной поддержке со стороны государства (например, в рамках безусловного базового дохода). Авторы книги «Суррогатная человечность» представляют еще одну, более оптимистичную позицию, которая связана с созданием коллаборативных и социальных роботов. Такие роботы, «выступающие в качестве партнеров людей, дополняют (не разрушая) представления о человеческой индивидуальности». При этом исследователи согласны с тем, что сегодня необходимо изучать новые формы труда, «возникающие в результате геополитических и экономических сдвигов, включая, например, неагентский труд, труд
животных и нечеловеческий труд, а также метафизический1 труд, которые не признаются в качестве тем современных научных и общественных обсуждений будущего труда» [ibid., p. 22-23].
Атанасоски и Вора отмечают, что разрабатываемые роботы - «промышленные, военные и социальные, - по мнению инженеров, будут лучше выполнять многие функции человека - более рациональных убийц, более эффективных работников или неутомимых компаньонов». Существуют «опасения, что по мере того, как технологии становятся все более приближенными к людям, внедряясь в <разные> сферы человеческой деятельности, теряется сущность человечности» [Atanasoski, Vora, 2019, p. 16]. Однако, подчеркивают авторы, такие технологии, как ИИ и роботы, не могут считаться человеческими в том смысле, что они не могут чувствовать боль или сопереживание. Именно эмпатия и способность к сопереживанию, считают авторы книги, делают человека человеком, т.е. являются истинной человечностью (в отличие от эмоций, которые можно воспроизвести искусственно). Вместе с тем «потому, что такие технологии [ИИ и роботы] никогда не могут быть человеческими, они позволяют исследовать стремления человечества» [ibid., p. 5] как бы «со стороны», выйдя за границы человеческого тела и разума.
Несмотря на неоднозначность взглядов и непривычность подходов Атанасоски и Вора для российских ученых, книга «Суррогатная человечность» заслуживает внимания отечественных специалистов - как с точки зрения новизны поднимаемых проблем, так и в качестве образца зарубежного научного дискурса. Представляется, что и российским исследователям есть что сказать на данную тему, хотя бы в контексте национальной специфики, которая во многом подрывает ряд западных теоретических конструкций, выдаваемых за универсальные (в частности, критическую расовую теорию или радикальные идеи феминизма). Участие отечественных ученых в подобных зарубежных дискуссиях имеет и чисто утилитарное значение, поскольку позволяет избежать некритического восприятия практических рекомендаций, которые формируются на их основе.
Список литературы
1. Давыдов Д.А. Есть ли смысл в концепте посткапитализма? // Дискурс-Пи. - 2018. - № 2 (31). - С. 114-122.
2. Джохадзе И. Демократия после модерна. - Москва : Праксис, 2006. - 112 с.
3. Как роботы заменяют людей // TADviser. - 2020. - 24 июня. - URL: https://www.tadviser.ru/index.php/Статья: Как_роботы_заменяют_людей (дата обращения: 08.09.2023).
4. Середа А. Сингулярность всех цветов кожи // Медицинская антропология и биоэтика. - 2021. - № 1. - URL: https://medanthro.ru/?page_id=5547 (дата обращения: 08.09.2023).
5. Суррогатный // Словари. - URL: https://sanstv.ru/dict/суррогатный (дата обращения: 15.09.2023).
6. Технолиберализм // Википедия. - URL: https://translated.turbopages.org/proxy_u/en-ru.ru.cd087109-65058d97-453d9f15-74722d776562/https/en.wikipedia.org/wiki/Technoliberalism (дата обращения: 15.09.2023).
7. Atanasoski N., Vora K. Surrogate humanity : race, robots, and the politics of technological futures. - Durham ; London : Duke university press, 2019. - 240 p.
1 То есть интеллектуальный - согласно принятой в отечественном научном сообществе терминологии.
91
ROBOTIZATION AS A WAY TO SURROGATE HUMANITY? Rec. ad op.: Atanasoski N., Vora K. Surrogate humanity: race, robots, and the politics of technological futures. - Durham; London: Duke university press, 2019. - 240 p.
Maria Polozhikhina
PhD (Econ. Sci.), Leading Researcher at Department of Economics, Institute of Scientific Information for Social Sciences, Russian Academy of Sciences, Moscow, Russia, e-mail:
polozhihina2@mail.ru
Keywords, technoliberalism; automation; robots; employment; emotions; humanity.
For citation. Polozhikhina M.A. Robotization as a way to surrogate humanity? Rec. ad op., Atanasoski N., Vora K. Surrogate humanity . race, robots, and the politics of technological futures. -Durham ; London . Duke university press, 2019. - 240 p. // Social novelties and social sciences. - 2023. -№ 4. - P. 77-92.
URL. https://sns-journal.ru/ru/archive DOI. 10.31249/snsn/2023.04.06
