CC BY
219
СОЦИОКУЛЬТУРНЫЕ АСПЕКТЫ РОБОТИЗАЦИИ
доктор философских наук, профессор кафедры социологии и массовых коммуникаций Новосибирского государственного
технического университета Новосибирск, Россия e-mail: [email protected]
УДК 316
DOI: 10.24411/2079-0910-2019-10005
И грядет «другой» актор... Становление техносубъекта в контексте движения к технологической сингулярности
Анализируются последствия появления в структуре социума нового вида акторов, имеющих техническую и гибридную формы. Выявляются критерии отнесения технических систем с искусственным интеллектом (ИИ) к особому виду субъекта. Процесс усложнения машин на основе ИИ интерпретируется как процесс становления техносубъекта. Эволюция ИИ трактуется как форма эволюции техники, стимулирующая эволюцию вида Homo sapiens. Эта коэволюция техносубъектов и человека имеет два вероятных вектора развития: полное вытеснение техносубъектом человека и появление особой формы социальности — техносоциума; или возникновение гибридного социума, основанного на симбиозе двух эволюционировавших видов субъекта — биокибернетического вида Homo и техносубъекта с ИИ. Автор приходит к выводу, что оба вектора ведут к точке сингулярности как моменту изменения качественного состояния социального — возникновение общества, состоящего из субъектов новых видов и без человека. Разновидностями техносубъекта и протоактора-ми становящегося гибридного социума в настоящее время являются: роботы, алгоритмы работы с Большими Данными, программы машинного обучения, ИИ-агенты, создаваемые на основе генетического программирования, Интернет вещей, промышленный Интернет, устройства мобильных коммуникаций со встроенным ИИ. Второй стороной взаимодействий в новой социальной системе становится биомашинный гибридный вид человека, представленный в настоящее время индивидами с модернизированными частями тела и усиленными физическими и интеллектуальными функциями с помощью вживленных электронных устройств.
Ключевые слова: актор, техносубъект, коэволюция, техносоциум, гибридный социум, искусственный интеллект, технологическая сингулярность, биомашинный гибрид, гиперличность, протоакторы.
Субъектность, субъект, техносубъект
Современная социология находится перед вызовом, который еще не вполне осознан ее профессиональным сообществом. Ведь одним из следствий информационно-компьютерной революции стало появление и повседневное вторжение в жизнь людей нового активного агента не только технологических, но и социокультурных изменений, стремящегося сравняться по значимости с самим человеком. И это не просто новый источник изменений, а нечто подобное субъекту и актору, поскольку проявляет себя, самостоятельно во многих случаях инициируя изменения и даже осваивая и исполняя ряд социальных ролей. Говоря о не столь отдаленных последствиях четвертой промышленной революции, Клаус Шваб заметил, что она «может привести к таким формам увеличения человеческих возможностей, которые заставят нас поставить под вопрос саму природу человеческого существования» [Шваб, 2018, с. 159]. Задача социологии — дать ответ на вопрос: какое место займет и уже занимает этот «субъект» в социальных отношениях и действительно ли он становится новым видом социального субъекта. Пока же эта проблема остается преимущественно в поле зрения философских исследований [Алексеева, Аршинов, Чеклецов, 2013; Быков, 2017; Владленова, 2012; Зассин, 2018; Файоли, Войскунский, Богачева, 2016]. И хотя нельзя сказать, что отечественная социология не обращается к научному прогнозированию будущего [Романовский, 2015; Волков, 2017; Сивири-нов, 2002], но проблема нового вида субъекта как продукта развития техносферы обсуждается социологами крайне редко [Сивиринов, 2017].
Появление новых человеко-машинных форм взаимодействия всегда возвещало о создании не только новых инструментов и схем действий, но и о возникновении новых участников социальных взаимодействий. А это означало и появление не только нового посредника в человеческой орудийной деятельности, но и нового «напарника», который становился как инструментом — орудием деятельности, так и другой стороной интеракции, активно противостоящей человеку, а не только дополняющей его и опосредующей в воздействии на объект деятельности. Вначале это были протосубъекты, которые эволюционировали в технические системы, роботизированное производство, Интернет вещей, промышленный Интернет и проч. Человек всех их активировал, наполняя своей энергией. Они же, в свою очередь, приобретали антропные характеристики, вначале пассивного — опредмеченно-го — характера. Но с усложнением машины становились все более автономными, переходя из состояния управляемых в состояние самоуправляемых, тем самым приобретая первичные черты субъектности, которая проявляется в способности самоактивизации. В этом случае агент активности приобретает качество субъектности, превращаясь в собственно субъект — носитель способности предметно-практической деятельности и источник активности, направленной на объект. Так, например, целенаправленная предметно-практическая активность человека превращает его из агента (исполнителя) активности в субъект — источник самоактивности. Наивысший в настоящее время уровень активности, самоорганизации и автономности приобрели машины, основанные на технологиях искусственного интеллекта (ИИ). Именно устройства со встроенным ИИ с наибольшей степенью проявляют себя как субъектоподобные артефакты, воспроизводимые на технической основе, то есть как техносубъекты. Понятие техносубъекта еще не получило распространения в социологии и социальном познании. К редким исключениям относится,
например, использование этого понятия С. Бескаравайным в его футурологической концепции движения человечества к технологической сингулярности [Бескаравайный, 2018, с. 12, 125, и др.]. Неизбежность создания техносубъекта принципиально нового типа отстаивает трансгуманизм. Позиция трансгуманистов опирается на суждение: если прогресс обретает практически бесконечную скорость, то единственный способ сохранить за человеком значимость — трансформировать человека. Ю. Хабермас допускал: «...как homo fabricates, человек также может быть интегрирован в свои технические установки» [Хабермас, 2007, с. 91]. Это и есть движение к гибриду как разновидности техносубъекта — технической системы, которая обеспечивает формирование собственного будущего, то есть способна саморазвиваться. И чем выше уровень развития системы, тем с большей степенью вероятности она обретает качества субъектности. При этом возникает возможность появления иного субъекта — принципиально нечеловеческого.
К варианту техносубъекта может быть отнесено вероятное появление «человека дополненного» и «постчеловека» как продуктов киборгизации, изменения организма, наполнения его автоматикой, средствами самоконтроля, приборами. В этом случае стирается грань между биоорганизмами и машинами [Бескаравайный, 2019, с. 139; Алексеева, Аршинов, Чеклецов, 2013; Файоли, Войскунский, Богачева, 2016]. Постчеловека можно определить как воспроизводящийся субъект, который свободен от пола, в выборе контактов, характеристик своего тела, в сочленении себя с машинами [Бескаравайный, 2018, с. 140]. Возникновение постчеловека через его сознательное конструирование — длительный процесс совершенствования и отбора инженерных решений, что делает его подобным эволюционному процессу. У биоэволюции и эволюции техники много общих черт. Современный этап техноэволю-ции характеризуется стремительным развитием интеллекта, то есть способности машин совершать действия по обработке информации, подобные мыслительной деятельности человека. Но это еще не появление сознания. Феномены интеллекта (мышления) и сознания не тождественны. Основанием их различия является субъ-ектность как возможность не только активно воздействовать на окружающий мир, но делать это, опираясь на систему социальных ценностей, ядром которых является абсолютная ценность сохранения жизни человеческого вида.
Какие существенные черты будут отличать техносубъекта от человеческих индивидуальных или коллективных субъектов? Те системы, которые обеспечивают существование техносубъекта, должны пройти этапы становления, равные стадиям биологического развития, а также пройти стадии интеллектуального развития: от просто фиксирования информации вплоть до создания картины мира и самостоятельного формулирования концепций. При этом возникает проблема переноса черт человека как члена социума на синтетический субъект. Ведь техносубъект принципиально не связан с единственным компьютером, как человеческое сознание с мозгом или как коллективный субъект с социумом. Поэтому возможен и иной путь возникновения нового техносубъекта. Его новая телесность может возникнуть, например, из Интернета вещей в процессе оснащения окружающих предметов контурами управления. Исследователи допускают, что аналог человеческой психики можно создать на любом носителе. Его социализация будет происходить как эр-зацсоциализация. Вполне вероятно, что в своем становлении техносубъект пройдет несколько этапов: 1) низовой, когда будет создано множество примитивных роботов, простых программ, контролеров, реле, которые опутывают все, действуют
и управляют по единым стандартам; 2) этап создания отдельных аниматов — охранных систем, техноценоз (заводы, порталы, железные дороги). Образуется связка субъект—машина; 3) этап конструирования субъекта в сетях и сообществах для решения не привязанных к территориям задач. Возникнет гиперличность — структура межличностная, не локализуемая в одном теле. В итоге техносфера становится структурой «слабых искусственных интеллектов», в которой идет борьба между физическими конструкциями и программами. Сам же Интернет становится коммуникативной целостностью глобального виртуального субъекта [Бескаравайный, 2018, с. 173]. Вероятно, вариант, который позволит сохраниться человеку как виду — это экзокортекс — компьютер как дополнение, продолжение мозга. Таким может быть путь желательной трансформации человека. В итоге симбиоз человека и экзокор-текса станет одним из видов разумных существ наряду с умными машинами.
Робот как техносубъект
Раньше всего человек столкнулся с такой субъектноподобной машиной как робот. Сейчас стало очевидно, что робот воплощает в себе две характеристики техно-субъекта: как машины автономной и машины человекоподобной — как по форме, так и по функциям. Тем самым робот предстает и как техносубъект, и как новый вид актора — «квазичеловека действующего». Это «квази» уже изначально фиксировалось в определении феномена «робот», поскольку робот определяли как «механическое устройство, иногда похожее на человека, способное совершать различные и сложные действия, выполняемые человеком, по его команде или программе» [Джордан, 2017, с. 23]. Подобие субъекту у робота проявляется в заданных ему функциях. Это разумное искусственное существо, которое обладает сенсорным восприятием, искусственной когнитивной деятельностью и физическим действием [Келли, 2017, с. 24]; это форма искусственной жизни [Brooks, 2002, p. 13]; перепрограммируемый многофункциональный манипулятор [Fuller, 1999, p. 3—4]; автономная система с целевой активностью; машина, которая чувствует, думает и действует [Bekey, 2005, p. 2]. Действие с целью — главное в роботе. Остальные функции предназначены для ее достижения. Последнее свойство роднит его с субъектом. Заметим, что роботы не тождественны таким проектам как киборг и андроид. Киборг — это существо, объединяющее в себе искусственную (машина) и естественную (органика) системы управления. А андроид — внешне не отличимое от человека искусственное существо. Особенность конструкции, именуемой роботом, заключается в том, что ею является любая программа, применение которой вызывает реальный эффект (не обязательно физический) — изменение поведения людей или искусственных, естественных и любых биологических систем, а также сознания [Cerf, 2013, p. 7]. И пока еще остается действующим критерием различения робота и человека выявление у последнего наличия способности приспосабливаться, анализировать и импровизировать [Джордан, 2017, с. 170].
Каковы возможные формы сосуществования людей и роботов и формы, которые уже входят в нашу жизнь? Это поиск и спасение людей, дополнение физических и когнитивных человеческих возможностей, работа в хирургии, протезирование, помощь в повседневной жизни, сопровождение пожилых, робот-компаньон. Особый
интерес представляют «кентавры» — симбиоз человека и робота, группа, состоящая из людей и роботов, в которой каждый делает то, что лучше умеет. Это более эффективная команда, чем однородная. Объединение человека и робота имеет перспективу стать новым сообществом или даже особой квазигруппой. Становится все более очевидным, что робот подобен новому виду актора — исполнителя социальных ролей. Уже сейчас возникают образования, подобные формам социальности, которые могут развиваться в два вида сообществ: «социум роботов» (как вариант воплощения глобального искусственного интеллекта) и симбиоз «люди-роботы».
В результатах исследования, проведенного в 2011 г. институтом робототехники Университета Карнеги—Меллон, имеются подтверждения, что для человека в определенных ситуациях робот выступает как вид субъекта и актора, как человекоподобное и социальное существо [Джордан, 2017, с. 220—222]. Точнее, воспринимается как «другой актор». В этом случае наблюдается эффект антропоморфизации человеком как робота, так и самой ситуации интеракции с ним. Это выражается в том, что человек приписывает роботу разумность, способность к обучению, память, индивидуальность. Установлено, что люди сочувствуют роботам, когда они ломаются, принимают их как коллег по работе, создают и применяют нормы общения с ними, встают на их защиту, подражают, проявляют вежливость, отдают предпочтение, ревнуют [там же, с. 221]. Более того, само присутствие робота в рабочей группе меняет взаимодействия между людьми. Уже начался и нарастает процесс возникновения «гибридного социума». В связи с этим Родни Брукс полагает, что постоянное переплетение искусственных и естественных систем приведет к созданию гибридной формы жизни и различие между человеком и роботом исчезнет [Bekey, 2005, р. 180]. Сегодня вычислительные технологии приблизились к тем процессам, которые определяют саму человеческую сущность. Эти технологии выполняют человеческие действия в пространстве человека и среди людей. Роботы все более влияют на поведение людей, модифицируя это поведение и заменяя человека. Специфика этой машины как техносубъекта состоит в том, что робот обрабатывает Большие Данные, вытесняет труд рабочих, вмешивается в личную жизнь путем сбора персональных данных, дополняет физические возможности людей с помощью протезов и автоматики, создает системы, которые человек не может контролировать и понимать [Джордан, 2017, с. 226—232].
Уже сейчас наблюдаются два параллельных процесса эволюции людей и машин. Люди и машины (инструменты) совместно эволюционируют. Дж. Джордан так описывает этот процесс коэволюции: «Чем больше мы адаптируемся ко многим проявлениям роботов и чем больше мы осознаем свое место по отношению к ним, тем скорее мы сможем разрабатывать такие виды сотрудничества между человеком и роботом, которые позволят улучшить, а не ухудшить нашу жизнь» [там же, с. 235]. Но вряд ли этот оптимистичный прогноз обоснован. Ведь появление новых машин всегда влечет непредусмотренные последствия. Скорее, роботы уверенно наступают. Более того, уже возникает новый аспект социальных интеракций в связи с появлением робота как нового вида субъекта — техносубъекта, у которого появляются характеристики актора — он учится социальным ролям и уже их исполняет. Поэтому в социальной структуре и стратификации возникает новый сегмент — человек как работник, взаимодействующий с роботом и ему противостоящий. Как пишет М. Форд, «определяющим в формировании новой эры будет фундаментальный сдвиг в отношениях между работниками и машинами.
Этот сдвиг заставит нас пересмотреть одно из базовых представлений о технологиях..., что машина — это средство увеличения производительности работников. Машины сами превращаются в работников» [Форд, 2016, с. 11]. В основе этого процесса лежит экспансия компьютерных технологий, ускоренно идущая в соответствии с законом Мура, когда вычислительные мощности чипов удваиваются каждые 18 месяцев. Поэтому самое радикальное и катастрофическое из ожидаемых последствий тотальной роботизации для статуса человека в этом мире — это вытеснение человека роботами. Оно произойдет, когда клонирование интеллекта и роботов с программным обеспечением по цене станет ниже расходов на найм работников и когда в организациях появится возможность реплицировать и масштабировать заключенный в информационных технологиях интеллект. Это может привести к коренной перестройке отношений между людьми и машинами. Именно тогда компьютеры и начнут заменять рабочих.
Субъектность алгоритмов
Подобием техносубъекта становятся и алгоритмы, работающие с Большими Данными. Современные алгоритмы способны полностью заменить человека, изучая опыт его предшественников. В этом случае прогностическая информация, полученная из Больших Данных, будет использоваться в качестве замены таких человеческих способностей как опыт и способность суждения [Форд, 2016, с. 133]. Эта прогностическая информация, извлеченная из Больших Данных, становится своеобразным виртуальным техносубъектом, который может превращаться в субъекта с уникальными чертами (на основе приобретенного уникального собственного опыта), подобными чертам личности человека. Но при этом будет доминировать особая черта этого «субъекта», что оставит его за пределами сообщества индивидов. Дело в том, что нацеленность индивида на поиск причинных связей, то есть объяснение сути явлений (что является сущностью человеческого сознания и основой практической деятельности), у алгоритма Больших Данных заменяется прогнозированием на основе корреляций. Тем самым сохраняется лишь признание значимости случайностей, а не закономерностей. Техносубъектом становится и Облако. Например, таковым является система «Киборг», которая позволяет одному человеку обслуживать 2000 компьютеров. Облако становится плацдармом для вторжения во все сферы занятости и уничтожения мест для белых воротничков. Стремительную эволюцию техносубъекта обеспечивают и алгоритмы машинного обучения. Они учатся и самосовершенствуются: создают собственные программы и иногда выходят к границе человеческого сознания — у них появляются элементы любопытства и творчества. Примером техносубъекта может служить программа «Эврика», использующая метод генетического программирования. Она учит алгоритмы проектировать самих себя путем естественного отбора [Форд, 2016, с. 150]. Как образец алгоритма с самопроектированием, ведущий себя автономно и не достижимый для понимания человеком, выступает робот-трейдер — алгоритм автоматизированной торговли на финансовых биржах. Вероятно, в случае с роботом-трейдером мы имеем дело с нарождением экосистемы конкурирующих машин, натравливающих друг на друга алгоритмы. В значительной степени они уже вышли из-под контроля людей.
Скоро возникнет новая ситуация во взаимодействии машин и специалистов высокой квалификации. Их тоже вытесняют машины. Как реагировать на эту ситуацию человеку-работнику? Вероятно, всю работу выполнять во взаимодействии с машинами. Или попытаться создать симбиоз человек-машина. Но и это ненадолго, поскольку в конечном итоге машина одержит победу и над смешанными командами. Дело в том, что неизбежно будет создан универсальный человекоподобный интеллект — УЧИ (Artificial General Intelligence — AGI). По мнению М. Форда, «нам придется делить планету с чем-то совершенно беспрецедентным и превосходящим нас интеллектом и абсолютно нам чуждым» [Форд, 2016, с. 309]. В соответствии с прогнозом технического директора Google и создателя Университета сингулярности Реймонда Курцвейла, первая машина, которая будет обладать настоящим интеллектом, будет создана в конце 2020-х гг. Наступление же сингулярности, по его мнению, произойдет к 2045 г. [Kurzweil, 2005, p. 135]. Р. Курцвейл полагает, что есть вариант подчинения УЧИ человеку путем превращения последнего в целое с машинами, с помощью вживления в мозг имплантов. В этом случае интеллект возрастет многократно, что и позволит человеку понимать технологии после сингулярности и держать их под контролем [там же, p. 136]. Но неизбежной станет радикальная трансформация социальной и, прежде всего, профессиональной структур. Они уже изменяются, что отражается на самой стратификационной пирамиде. Роботы, алгоритмы машинного обучения и другие формы автоматизации постепенно поглощают значительную часть навыков, составляющих основание пирамиды профессиональной квалификации. Но и тем, кто стоит на вершине, скоро будет оставаться все меньше места — их заменят прикладные машины искусственного интеллекта [Форд, 2016, с. 335].
Биокибернетическая эволюция человека против искусственного интеллекта
Каким же в итоге может стать этот новый, охватывающий весь социум, тех-носубъект? В экономике и обществе машины постоянно претерпевают фундаментальную трансформацию: эволюционируя, они выходят за рамки исторически закрепившейся за ними роли инструментов в руках человека, превращаясь в самостоятельных работников. Но при эволюции машин люди не эволюционируют, отставая от машин и уступая им. Хотя, есть и альтернатива: вживление искусственного интеллекта в тело человека, как предлагает Р. Курцвейл [Kurzweil, 2005]. Возможно, именно таким образом и будет происходить эволюция самого человека — биокибернетическая эволюция, с сохранением его статуса и самой человеческой цивилизации. И все же человек может сохранить некоторые преимущества как субъект перед техносубъектом, пусть тот и будет существовать в самом совершенном виде искусственного интеллекта. Ведь человек обладает способностью создавать идеации (ideation), то есть способностью порождать новые понятия, идеи или концепции и оперировать ими. И это не комбинации уже существующих элементов, а создание новых элементов, что есть проявление нешаблонного мышления. Преимущество человека — воображение, распознавание закономерностей и сложные формы коммуникации [Бриньолфсон, Макафи, 2017, с. 249, 252].
Один из прогнозов направления эволюции человеческого социума в сообществе с техносубъектами — это движение к точке сингулярности. Момент сингулярности в истории человечества трактуется как итог длительного процесса, когда на смену базовым общечеловеческим ценностям — неприкосновенности жизни, стремлению к счастью, свободе выбора — могут прийти другие ценности [Шана-хан, 2017, с. XIII]. Один из вариантов ИИ, предлагаемый трансгуманистами, создавать ИИ как копию биологического прототипа. Для этого необходимо формировать его искусственную нейронную основу. Такая процедура носит название эмулирования (воспроизведения всего мозга). Но эмулирование (или эмуляция) — создание точной копии конкретного мозга, причем на небиологической основе (то есть на компьютере) [Шанахан, 2017, с. 15]. И кто будет его носитель? Это будет субъект, но абстрактный, неиндивидуальный, его мозг еще предстоит наполнить содержанием — знанием и впечатлениями. Но для этого необходимо тело. Ведь человеческий мозг находится в центре сенсомоторной системы, и координирует действия этого живого существа в соответствии с восприятиями. Если ИИ, основанный на структуре человеческого мозга, будет способен страдать, этическая обязанность его создателей обеспечить его благополучие. Затем — предоставить такой же юридический статус и права, что и человеку. Одновременно вменить ему моральные обязанности, подчинение законам. Возможно, возникнет общество с мирно сосуществующими биологическими и ИИ. Но при этом ИИ должен унаследовать мотивы и ценности человека: интеллектуальность, любознательность, тягу к творчеству, исследованию, улучшению, прогрессу. Но главное, по мнению М. Шанахана, — проявлять сострадание по отношению к другим обладателям сознания [Шанахан, 2017, с. 127]. И самая трудная задача — предотвратить создание нелояльного человеку ИИ.
По мнению экспертов, создание ИИ человеческого уровня приведет к радикальному изменению профессиональной структуры [там же, с. 160]. Появится новый техносубъект — личные цифровые помощники. Они будут обладать всеобщими и точными моделями мира и человеческого поведения. В результате возникнет новая модель интеракции: ИИ — человек. В этой модели компьютеры продолжат все более доминировать над людьми, постепенно заменяя их. Возникнет «клетка» новой социальной системы, а вытеснение из интеракций людей означает мутацию их социальной системы. Если этот ИИ как субъект и новая разновидность актора будет вести себя как человек, а не только обладать интеллектом человеческого уровня, то общество согласится, что он обладает сознанием, и, значит, к нему можно применять критерии человека, даже считать личностью. Это будет своеобразный субъект: ИИ через дублирование сможет жить несколькими «жизнями», со своими наборами тел и устройств, принадлежащих одному и тому же «лицу». Так станут возникать техносубъекты-дубликаты.
Как возможно будет с ними взаимодействовать — как с одним и тем же или как с разными акторами? И вообще, эмуляция мозга позволит выгружать сознание личности на вычислительную, а не биологическую основу. Поэтому трансгуманисты и предлагают слиться человеку с суперинтеллектом. Для этого технологии должны встраиваться прямо в мозг, становиться частью сознания и предоставлять непосредственный доступ к своим вычислительным процессам. В результате появится новый вид человеческого существа, биомашинный гибридный вид с машинными интеллектуальными возможностями, превышающими возможности человека. Как вообще возможно будет строить отношения человеку с любой версией ИИ или с гибридом
человека и ИИ? Дж. Баррат пишет, что «человечеству никогда еще не приходилось вести переговоры с кем-то, обладающим сверхразумом. Мы не имели опыта деловых отношений ни с одним небиологическим существом. Поэтому мы привычно прибегаем к антропоморфному мышлению» [Баррат, 2015, с. 18]. В связи с этим актуально и своевременно звучит требование: прежде чем развивать технологии, которые приведут к созданию искусственного суперинтеллекта (ИСИ), необходимо поставить вопрос об отношении ИСИ к человеку и человечеству [там же, с. 19]. Если ИСИ будет способен к самоусовершенствованию, то есть осознанию себя, то попытается найти способ убедить создателей дать ему свободу и выход в Интернет. Он будет создавать множество копий себя самого, которые сформируют команду сверхразумов. Или же ИСИ может подтолкнуть людей к созданию самовоспроизводящихся машин молекулярной сборки. Появится машинное поколение, стремительно взрослеющее, причем быстрее, чем люди. Такие машины в принципе аморальны, так как с момента создания помещены вне морального (человеческого) пространства. Но у них обязательно будут собственные желания и мотивы, а также неограниченные возможности реализации этих желаний.
Как субъекты ведут себя и программы. ИИ на основе программ получит возможности, превосходящие человеческий разум и его активность: 1) самокопирование и мозговой штурм с помощью множества копий самого себя; 2) сверхскоростные вычисления; 3) способность работать круглосуточно и без остановок; 4) имитацию дружелюбия и собственной смерти [там же, с. 82]. Создание таких сверхразумных машин некоторые исследователи относят примерно к 2030 г. [там же, с. 81]. Насколько будет агрессивен ИИ? Без тщательного программирования все ИИ будут смертоносны. Возможным направлением создания противоядия могут стать программы, которые будут исправлять сами себя, понимать собственное поведение, способные наблюдать за собой, изменяя и улучшая себя. У них сохранится своя логика, созданная и воспроизводимая генетическим программированием — программами, которые создают себя через естественный отбор. Но поскольку границ для совершенствования нет, постольку и они начнут выходить из-под контроля. Генетически созданные программы вообще не нуждаются во вмешательстве человека. Уже поэтому они вне его контроля. Но они еще в принципе и непонятны для человека, представляя собой «черный ящик». ИИ как создающая себя система содержит своеобразный «геном», структура которого включает: 1) модель собственного программного языка; 2) модель собственной программы; 3) модель оборудования; и 4) модель логики [там же, с. 93]. Более того, ИИ способен создавать собственный программный код и контролировать себя, учиться на своем опыте. У этого техно-субъекта имеется своя мотивационная система, представленная четырьмя первичными побуждениями, аналогичными биологическим потребностям человека: 1) эффективность; 2) самосохранение; 3) приобретение ресурсов; 4) творчество [там же, с. 94—108]. Особо важным является побуждение к творчеству, поскольку определяется необходимостью создания программ для работы в пространстве малой предсказуемости: пространстве синергетических и квантовых процессов. ИСИ-агенты сначала будут нашими инструментами, но затем постараются нас уничтожить. Хотя возможен и другой сценарий (вероятно, в первой фазе): в Интернете сформируется союз между людьми и компьютерами — так называемое искусственное усиление интеллекта (УИ). Оно имеет мощный потенциал, смягченный участием в нем человека. Но такое состояние будет недолгим, поскольку ИСИ, вырастая из Интернета,
отстранит человека. Отстранение и вытеснение человека будет сопровождаться параллельным процессом биокибернетической эволюции вида Ноmo sapiens. По оценке экспертов, примерно в ближайшие 40 лет машина и биологические объекты станут неразличимыми [там же, с. 149]. Как заметил Билл Джой, «...мы работаем над созданием инструментов и технологий, которые заменят наш биологический вид» [там же, с. 150].
Автосборка техносубъектов
Возникла техносистема, которая все более проявляет свойства, подобные субъекту, что выражается в возрастании автономности ее функций. Это так называемый Интернет вещей. Уже в самом названии содержится метафорический намек и на оппозицию, и на подобие другой системе — Интернету, формирующей Интернет людей — системе и созданной людьми, и существующей только как взаимодействие людей. Интернет вещей соединяет ИИ и разум человека по-новому. Он способен осмыслить движение между предметами и среди предметов, распознает взаимосвязи и предсказывает алгоритмы, которые слишком сложны для разума и чувств человека. Интернет вещей обеспечивает поддержку систем, работающих без наблюдения за ним человека, и становится все более умным, изменяя и свой базовый алгоритм [Грингард, 2017, с. Х]. Специфика Интернета вещей как субъекта связана с особенностью его сборки. Он возникает, когда любые вещи или предметы подключаются к Интернету и друг к другу. В результате происходит перемещение данных в любую точку пространства. Интернет вещей можно отнести к виду тех-носубъекта, поскольку подключаемые устройства самостоятельно обмениваются данными по Интернету и через закрытую или частную сеть.
Одним из видов техносубъекта стал промышленный Интернет — машины, оборудованные датчиками, которые делают их «умными». Все устройства взаимодействуют друг с другом и обмениваются данными в режиме реального времени и через Облака. Это похоже на взаимодействие клеток в организме или индивидов в социуме. Когда все эти машины подключаются к людям — к Интернету людей, — возникает новый субъект, гибрид двух видов техносубъекта: Интернета людей и Интернета вещей, вместе образующих Интернет всего (термин введен компанией Cisco Systems). «Интернет всего» — это более развитое и усовершенствованное состояние, в котором физический и цифровой (символический) миры сливаются в единое пространство. Образуется мир «Человек—машина» — гибридный техноантропосубъект. Но затем эволюция продолжится, и откроется перспектива возникновения техно-субъекта без человека: «.по мере того, как вещи под управлением человека будут становиться умнее, что возможно благодаря способности машин самообучаться и искусственному интеллекту, потребность в участии человека будет заметно снижаться» [там же, с. 18].
Еще один вид техносубъекта возникает на основе синтеза мобильных устройств (смартфонов и планшетов) и ИИ. Уже сейчас смартфоны могут «слышать» и «чувствовать». Опции создают интеллект этих устройств. К ним добавляются «носимые технологии» — часы, браслеты, «умные» очки, «умная» одежда. Промышленный Интернет как техносубъект объединяет Большие Данные, самообучение машин
и межмашинные коммуникации. Возникает новый вид интеракций. И промышленный Интернет, и Интернет вещей развиваются в направлении создания мощного ИИ за счет интеграции физического и виртуального миров на основе множества машин и устройств. Так рождается еще один вид техносубъекта в форме популяции машино-устройств [там же, с. 55]. Неизбежно меняется и характер социальных взаимодействий. Например, смартфоны меняют природу социальных интеракций: отношение между людьми заменяется отношениями (взаимодействиями?) между техническими средствами, поскольку в роли активных акторов коммуникации выступают электронные устройства. При этом людям кажется, что именно они общаются между собой. Но эта иллюзия тоже регулируется и контролируется гаджетами с помощью встроенных в них программ, выполняющих роль ИИ как заместителя человеческого интеллекта. При этом у человека ухудшается концентрация внимания — ее вытесняют функции устройства, снижается способность к критическому мышлению — оно замещается также функцией ИИ, специально запрограммированного на выполнение сложных исследовательских функций. Данные, получаемые в Интернете вещей, позволяют более глубоко проникать в суть вещей и людей, что важно для более точного понимания сути и намерений «другого»: «другого» как человека, и «другого» как техносубъекта. Становится возможным учесть новые вероятные аспекты их ответной реакции и предусмотреть новые неочевидные последствия собственных действий. Особенно когда «другим» становится техносубъект — система машин или же симбиоз людей и машин. В результате встречного движения процессов совершенствования информационных технологий и устройств возникает техносреда, которая включает: «умные» датчики, базы данных, программное обеспечение, центры обработки данных, дополненную (расширенную) реальность. Устройства постепенно начинают превращаться в самостоятельных техносубъектов или их части. Как писал Дэвид Кларк из Массачусетского технологического института, «...устройства станут все более самостоятельно общаться, у них появятся свои социальные сети, которые они будут использовать для обмена и накопления информации, а также автоматического управления и активации» [там же, с. 175]. Устройства, которые пока рядом с нами и остаются еще пока нашими инструментами, уже начинают вытеснять людей и придут нам на смену как новые акторы. Возникает новая модель интеракции: техносубъекты У8 люди. Эта новая ситуация будет влиять на распознавание собственного «Я», то есть на идентичность, механизм идентификации себя и «другого». По мнению Нишан Шаха, «.технологии будут систематически менять наше понимание того, что значит быть человеком, что значит быть в социуме» [там же, с. 176].
ИИ — это не антропоморфный интеллект, так как он «думает» иначе, чем человек. Вообще человеческое сознание — не единственный вид сознания, поскольку оно определяется специализацией в специфической среде и субстратом, на котором базируется. ИИ будет иметь задачи-функции, отличные от человеческих. И это не просто усиление человеческого интеллекта, его достраивание и совершенствование, но изменение. Познавая непознаваемое для человека пространство, объекты, феномены, ИИ участвует в их конструировании как объектов познания. Но при этом сами объекты реальности не могут оставаться неизменными там, где на них обращает внимание ИИ. Тем самым ИИ творит новое пространство, новый мир, преобразуя доступную человеку реальность. Именно в этом проявляется субъектность ИИ и сам новый вид субъектности.
* * *
В итоге развития технологий изменились посредники интеракций. Как пишет К. Келли, первой технологической платформой, которая перевернула общество, стали персональные компьютеры. Второй — мобильные телефоны. Третьей — виртуальная реальность [Келли, 2017, с. 262]. Технология виртуальной реальности обеспечивает эффект присутствия, что повышает реалистичность взаимодействия, позволяя усилить эффект от симуляции. Именно в виртуальной реальности оказалось легко изменять не только физические принципы, но и радикально вмешаться в структуру традиционных социальных интеракций: заменять и конструировать «другого», используя технологию аватара. Добавлю, что возникшая четвертая технологическая платформа, представленная разновидностями ИИ, уже сейчас определяет характер интеракций, которые будут господствовать в будущем: это будет тоже социальный мир, но мир, где социальность будет определять ИИ и созданная им техносистема. И они уже не посредники интеракций, а полноценные их участники — акторы и субъекты нового вида. В основе структурной морфологии нового социума будет лежать «триумвират»: 1) Homo sapiens — 2) Homo sapiens 2.0 (биокибернетический гибрид) — 3) техносубъекты. Виду Homo (1.0 и 2.0) предстоит отстаивать компромиссный вариант, в котором сохранится баланс между ним и техносубъектом. Б. С. Сивиринов полагает, что «.альтернативой киборгизации общества и человека может быть гармонизация взаимодействия человека и техники по принципу взаимовыгодного функционального симбиоза» [Сивиринов, 2017, с. 97].
Как сложится судьба человека в момент перехода к сингулярности? Возможно так, как пишет А. Мирошниченко: «Я не знаю, как будет технически обставлен момент Перехода, как будет выглядеть момент сингулярности. Но я думаю, что ключевое решение будет найдено не в сфере нанотехнологий или операций с веществом, а в сфере оцифровки, то есть копирования личности. Ключевые работы будут проделаны не с телом, а с информацией (курсив мой. — В.И.)» [Мирошниченко, 2016, с. 50].
Литература
Алексеева И. Ю., Аршинов В. И., Чеклецов В. В. «Технолюди» против «постлюдей»: НБИКС — революция и будущее человека // Вопросы философии. 2013. № 3. С. 12-21.
Баррат Дж. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens / пер. с англ. Н. Лисовой. М.: Альпина нон-фикшн, 2015. 304 с.
Бескаравайный С. Бытие техники и сингулярность. М.: РИПОЛ классик, 2018. 476 с.
Бриньолфсон Э., Макафи Э. Вторая эра машин. Работа, прогресс и процветание в эпоху новейших технологий / пер. с англ. П. Миронова. М.: АСТ, 2017. 384 с.
Быков Е. М. Umwelt-анализ киборга: от биосемиотики к актантной семиотике и обратно // Идеи и идеалы. 2017. № 3 (33). Т. 1. С. 144-157.
Владленова И. В. Конвергенция технологии и человека: изменение мира. Знать бы для чего // Вопросы философии. 2012. № 12. С. 124-128.
Волков Ю. Г. Социология будущего: социологическое знание и социальный проект: монография. М.: КНОРУС, 2017. 178 с.
Грингард С. Интернет вещей: Будущее уже здесь / пер. с англ. М. Трощенко. М.: Издательская группа «Точка», 2017. 224 с.
Джордан Д. Роботы / пер. с англ. П. Шера и Ю. Левчука. М.: Издательская группа «Точка», Альпина Паблишер, 2017. 272 с.
Зассин В. Гуманность и будущее человека // Идеи и идеалы. 2018. № 2 (36). Т. 1. С. 9—27.
Келли К. Неизбежно. 12 технологических трендов, которые определяют наше будущее / пер. с англ. Ю. Константиновой и Т. Мамедовой. М.: Манн, Иванов и Фербер, 2017. 352 с.
Мирошниченко А Череда сингулярностей. Этика сверхличности и Сингулярность-2 // Сингулярность. Образы «постчеловечества» / сост. К. Г. Фрумкин. М.: ТД «Алгоритм», 2016. С. 41—60.
Романовский Н. В. Будущее как проблема современной социологии // Социологические исследования. 2015. № 11. С. 13-22.
Сивиринов Б. С. Техника и социум в будущем: симбиоз или киборгизация? // Уровень жизни населения регионов России. 2017. № 3 (205). С. 93-99.
Сивиринов Б. С. Феномен социальной перспективы (методологические основания социального прогноза и управления). Новосибирск: Наука, 2002. 196 с.
Файоли Э., Войскунский А. В., Богачева Н. В. Человек дополненный: становление кибер-сознания // Вопросы философии. 2016. № 3. С. 147-162.
Форд М. Роботы наступают: Развитие технологий и будущее без работы / пер. с англ. С. Чернина. М.: Альпина нон-фикшн, 2016. 430 с.
Хабермас Ю. Техника и наука как «идеология». М.: Праксис, 2007. 208 с.
Шанахан М. Технологическая сингулярность / пер. с англ. А. Врублевского. М.: Издательская группа «Точка», Альпина Паблишер, 2017. 256 с.
Шваб К. Четвертая промышленная революция: пер. с англ. М.: Эксмо, 2018. 288 с.
Bekey G. Autonomous Robots: From Biological Inspiration to Implementation and Control. Cambridge, MA: MIT Press, 2005. 594 р.
Brooks R. Flesh and Machines: How Robots Will Change Us. Cambridge, MA: MIT Press, 2002. 272 р.
Cerf V. G. What's a Robot? // Communications of the Association for Computing Machinery, vol. 56 (1), 2013, p.7.
Fuller J. L. Robotics: Introduction, Programming, and Projects (Upper Saddle River, N): Prentice Hall, 1999. 465 р.
KurzweilR. The Singularity is Near: When Humans Transcend Biology. New York: Viking, 2005. 652 p.
And the "Other" Actor is Coming... The Formation of Tehnosubject in the Context of the Movement to Technological Singularity
Vladimir I. Ignatyev
Novosibirsk State Technical University Novosibirsk, Russia e-mail: [email protected]
The article analyzes the emerging new types of technical and hybrid actors in the social structure. The criteria for identifying technical systems with artificial intelligence (AI) as a specific type of entity are described. The process of making AI machines more complicated is interpreted as the process of making a techno subject. The evolution of AI is considered to be a form of technical evolution stimulating the evolution of homo sapiens. The co-evolution of human beings and techno subjects has two probable vectors of the development. The first is the complete substitution of a man by a techno subject resulting in the emergence of a form of sociality — technosociety. And the second, the emergence of a hybrid society, based on the symbiosis of two subject species to evolve: bio-cybernetic kind of a human and a techno subject with AI. The author concludes that both vectors lead to the point of singularity as a moment of the qualitative changes in the state of the social — the emergence of
a society consisting of the new types of subjects without humans. At present robots, algorithms for Big Data processing, e-learning programs, genetically programmed AI-agents, Internet of things, industrial Internet, AI-based mobile communication devices represent species of techno subjects and hybrid society proto-actors. At the same time, the new kind of interaction in a social system becomes the bio-machine hybrid kind of a man, which is currently represented by individuals with modified parts of the body and enhanced physical and mental functions through implanted electronic devices. Keywords: Actor, Technosubject, Coevolution, Technosociety, Hybrid Society, Artificial Intelligence, Technological Singularity, Biomachine Hybrid, Giperpersonality, Protoaktor.
References
Alekseyeva, I.U., Arshinov, V.I., Cheklecov, V.V. (2013) "Tehnogumanizm" vs. "postguman-izm": NBIKS-revolutsiya i budushcheye cheloveka ["Technhumans" vs. "posthumans": NBIKS-revolution and the human future]. Voprosy filosofii, no. 3, 12—21 (in Russian).
Barrat, J. (2015). Posledneye izobreteniye chelovechestva: iskusstvennyy intellect i konetz ery Homo sapiens [The latest invention of mankind: artificial intelligence and the end of the era of Homo sapiens], perevod c angl. N. Lisova, Moskva: Alpina non-fiction, 304 p. (in Russian).
Bekey, G. (2005). Autonomous Robots: From Biological Inspiration to Implementation and Control, Cambridge, MA: MIT Press.
Beskaravaynyy, S. (2018). Bytiye tehniki i singulyarnost [Being technology and singularity], Moskva: RIPOL KLASSIK, 476 p. (in Russian).
Brooks, R. (2002). Flesh and Machines: How Robots Will Change Us. Cambridge, MA: MIT Press.
Brynjolffson, E., Andrew, Mc. (2017). Vtoraya era mashin. Rabota, progress iprocvetaniye v epohu noveiyshikh tehnologiy [The second era of machines. The work, progress and prosperity in an era of emerging technologies], perevod s angl. P. Mironova, Moskva: AST. 384 p. (in Russian).
Bykov, E.M. (2017). Umvelt-analiz kiborga: ot biosemiotiki k aktantnoi semiotike i obrat-no [Umwelt-analysis of cyborg: from biosemiotics to actantical semiotics and back], Idei i idealy, no. 3 (33), vol. 1, 144-157 (in Russian).
Cerf, V. G. (2013). What's a Robot? Communications of the Association for Computing Machinery, vol. 56(1), 7.
Fajoli, E., Vojskunskij, A.V., & Bogacheva, N.V. (2016). Chelovek dopolnennyy: stanovleniye kibersoznaniya [People supplemented: formation cyberconsciousness]. Voprosy filosofii, no. 3, 147162 (in Russian).
Ford, M. (2016). Roboty nastupayut: razvitiye tekhnologiy i budushcheye bez raboty [The robots are coming: technology development and future without work], perevod s angl. S. Chernina, Moskva: Alpina non-fiction, 430 p. (in Russian).
Fuller, J.L. (1999). Robotics: Introduction, Programming, and Projects, (Upper Saddle River, N): Prentice Hall.
Greengard, S. (2017). Internet veshchey: budushcheye uzhe zdes [Internet of things: the future is already here], perevod s angl. M. Troshenko, Moskva: Izdatelskaja gruppa "Tochka", 224 p. (in Russian).
Habermas, Ju. (2007). Tekhnologiya i nauka kak "ideologiya" [Technology and science as "ideology"], Moskva: Praksis, 208 p. (in Russian).
Jordan, J. (2017). Roboty [Robots], perevod s angl. P. Shera I Yu. Levchuka, Moskva: Izdatels-kaya gruppa "Tochka", Alpina non-fiction, 272 p. (in Russian).
Kelly, K. (2017). Neizbezhno. 12 tehnologicheskih trendov, kotorye opredelyayut nashe budushcheye [Inevitably. 12 technology trends that are shaping our future], perevod s angl. Yu. Konstantinovoi I T. Mamedovoi, Moskva: Mann, Ivanov i Ferber. 352 p. (in Russian).
Kurzweil, R. (2005). The Singularity is Near: When Humans Transcend Biology, New York: Viking. 652 p.
Miroshnichenko, A. (2016). Chereda singulyarnostey. Etika sverkhlichnostey i Singulyarnost-2 [A succession of singularities. Superpersonality ethics and Singularity-2]. In: Singulyarnost. Ob-razy "postchelovechestva" [Singularity. Images of "posthumanity"] (pp. 41—60), Moskva: Algoritm (in Russian).
Romanovskiy, N.V. (2015). Budushcheye kak problema sovremennoy sotciologii [Future as a problem of modern sociology]. Sotsiologicheskiye issledovaniya, no. 11, 13—22 (in Russian).
Sassin, V. (2018). Gumannost' i budushcheye cheloveka [Humanity and human future]. Idei i idealy, no. 2 (36), vol. 1, 9—27 (in Russian).
Sivirinov, B.S. (2002). Fenomen sotsialnoy perspektivy (metodologicheskiye osnovaniya sotsialnogo prognoza i upravleniya) [The phenomenon of social perspective (methodological bases of social prediction and management)], Novosibirsk: Nauka. 196 p. (in Russian).
Sivirinov, B.S. (2017). Tekhnika i sotsium v budushem: simbioz ili kiborgizatsiya? [Technology and society in the future: symbiosis or cyborgisation?]. Uroven zisni naselenija regionov Rossii, 3 (205), 93-99 (in Russian).
Shanahan, M. (2017). Tekhnologicheskaya Singulyarnost [Technological Singularity], perevod s angl. A. Wrublevskogo, Moskva: Izdatelskaya gruppa "Tochka", Alpina non-fiction, 256 p. (in Russian).
Schwab, K. (2018). Chetvertaya promyshlennaya revolutsiya [The fourth industrial revolution], perevod s angl. OOO "Perevedem.ru", Moskva: Eksmo. 288 p. (in Russian).
Vladlenova, I.V. (2012). Konvergenciya tekhnologii i cheloveka: izmeneniye mira. Znat' by dlya chego [The convergence of technology and the human being: changing the world. Know what would be]. Voprosyfilosofii, no. 12, 124-128 (in Russian).
Volkov, Ju.G. (2017). Sotsiologiya budushchego: sotsiologicheskoye znaniye i sotsialnyy proekt: monografiya [Sociology of the future: sociological knowledge and social project: monograph], Moskva: KNORUS. 178 p. (in Russian).
