CC BY
192
МЕЖДИСЦИПЛИНАРНЫЕ ИССЛЕДОВАНИЯ И ИННОВАЦИИ
Вестн. Ом. ун-та. 2014. № 2. С. 167-177.
УДК 304.2 Д.В. Галкин
ОСНОВАНИЯ СОЦИАЛЬНОЙ РОБОТОТЕХНИКИ В КОНТЕКСТЕ СОЦИАЛЬНО-ГУМАНИТАРНЫХ ИССЛЕДОВАНИЙ*
Представлены результаты исследовательского проекта, посвященного определению теоретических оснований социальной робототехники в социальных и гуманитарных науках. Предлагается рассматривать базовые принципы цифровой культуры - технологический императив, власть автоматов, технологический антроподефицит и синдром Преображенского - в качестве оснований социальной робототехники. Автор также обращается к проблематике культурного и технологического детерминизма, искусственного интеллекта, этике и различным аспектам социального взаимодействия роботов и людей. Высказывается необходимость обращение к социально-критическим дискурсам.
Ключевые слова: социальная робототехника, цифровая культура, технологический и культурный детерминизм.
Современные дискуссии о робототехнике стремительно перешли из разряда обсуждений фантастики в кино или производственных чудес японского автопрома в разряд анализа и гуманитарной экспертизы активной социализации робототехнических систем в повседневной жизни людей. Очевидно, что масштабные исследования этой проблематики еще впереди. В данной статье мы предлагаем на суд читателя смелую попытку - одну из первых, предпринятых в нашей стране, - систематически рассмотреть основания социальной робототехники (СР) в рамках социальных и гуманитарных исследований.
Для решения этой задачи мы посчитали необходимым, во-первых, сформулировать некие базовые принципы, относительно которых такой разговор о СР может иметь важное значение вне исключительно инженерной проблематики, во-вторых, рассмотреть, на наш взгляд, фундаментальный уровень проблематики и противоречий в исследованиях СР, связанный с двумя подходами - культурным и технологическим детерминизмом. Далее мы обратимся к основаниям СР с точки зрения теории и методологии искусственного интеллекта, после чего рассмотрим собственно социальные и социально-психологические аспекты, используя материал самых современных исследований в этой области.
Базовые принципы
Итак, в нашем исследовании мы хотели бы для начала предложить в качестве обоснования СР своего рода аксиоматику - некоторые базовые установки, или тезисы, вокруг которых выстраивается проблематика и логика дальнейших рассуждений.
Власть автоматов
В современной цифровой культуре - в мире, основанном на вычислительных автоматах, работающих по принципу цифрового бинарного кодирования, - робототехника подчинена общей логике автоматики в ее цифровом воплощении. Происхождение и история автоматики - результат долгой истории автоматизации, которая не раз становилась предметом анализа и изучения. Это подтверждают, например, прекрасные рабо-
Статья подготовлена при поддержке Российского фонда фундаментальных исследований (грант № 1206-33047 «Исследования междисциплинарных научных оснований социальной робототехники в контексте гуманитарной информатики»)
© Д.В. Галкин, 2014
ты отечественных математиков по истории и моделированию автоматов, а также их роли в глобальной эволюции «от амебы до робота»[1; 2]
Отправной точкой триумфального шествия автоматики в эпоху европейского Нового времени стали механические часы -первый универсальный автомат, который человек сделал второй природой, неотъемлемой частью повседневной жизни. Именно в часах автомат как принцип и артефакт показал свою власть и совершил вторжение в физический и социальный строй жизни -автомат захватил время, заключил его в некое течение механических процессов, ритм зубчатых колес. Ведь часы сами показывают нам время. Мы полагаемся на данные механического автомата, организуя свои дела и ритм существования. В механических часах уже виден общий принцип автоматизации: перевод физического процесса в универсальный набор символических кодов.
Автоматы цифровой культуры реализуют ту же функцию, только в гораздо более широком поле символических кодов и, что не менее важно, гораздо более широком поле организации технологических процессов позднеиндустриальных обществ. Если в прошлом коммуникация и общение зависели от близости в пространстве, то в эпоху Интернета телекоммуникации взяли верх над этим детерминизмом. Аналогичным образом паровые и бензиновые двигатели начали преобразование физического пространства и систем производства в эпоху промышленной революции ХУШ-Х1Х вв. Автомат - инструмент колонизации времени и пространства, превращения их в символические системы измерения и преобразования.
Компьютеры и роботы продолжают и будут продолжать эту символическую и функциональную колонизацию жизни. Компьютеры в виде настольного экрана или карманного гаджета давно стали такими же привычными, как часы. Технологический раб - незаметный и послушный, который становится господином, - есть не что иное, как центральная идея и драма рурских роботов К. Чапека.
В 1950-1960-х гг. благодаря кибернетике произошла революция автоматики. Основатели кибернетики моделировали ее принципы на разных объектах: Норберт Винер отработал ее основные принципы на системах самонаведения для боевых элементов противовоздушной обороны, Росс Эшби - на модели гомеостатического автомата, Гордон Паск - на электрохимических компьютерах, Уолтер Грей- на черепахообразных роботах. Однако универсальность принципов обратной связи и бинарного кодирования для микропроцессорной электроники показала возможности создания универсального автомата, которым и стал современный компьютер. Фундаментальное
обещание кибернетики состояло, однако, не в этом. Как справедливо отметил американский искусствовед Джек Бернем, говоря о кибернетической роботизированной скульптуре, бесспорно, в первом техническом образце СР кибернетика обещала возможность искусственной жизни, т. е. не просто вычислительных автоматов, а автоматов, обладающих жизнеподобным поведением [3]. Эта идея, очевидно, была бы близка и отечественным ученым, обратившимся к подобным вопросам даже раньше (см. [1]). Спустя менее чем полвека мы вновь возвращаемся к этим кибернетическим амбициям. На этот раз когнитивные технологии, синтетическая биология и робототехника с элементами искусственного интеллекта не обещают, но стоят на пороге создания искусственной жизни, и вновь именно кибернетика готова предложить онтологический фундамент для новой культуры искусственной жизни.
Технологический императив и культурные интерфейсь1
Однако чем обусловлена эта власть автоматов - от часов до компьютеров и роботов? Простой ответ был бы следующим: существуют силы и объекты, совладать с которыми человеку под силу только через делегирование контроля устройствам, превосходящим человека в каких-то важных функциях. Например, длительное поддержание монотонных ритмов (часы) или производство больших объемов вычислений (вычислительные автоматы). В промышленных обществах это, очевидно, связано с различными видами производственных процессов, выполнение которых только и возможно благодаря автоматическим системам.
В ХХ в. мы оказались в культуре автоматов, которая выработала свою ценностную основу (или культурный паттерн) в виде того, что можно было бы назвать технологическим императивом. Его формулировка может звучать так: все, что можно технологизировать, должно быть технологизировано. Это модальный аксиологический принцип техногенной цивилизации, исходя из которого власть автоматов является вездесущей и избыточной. Они проникают и будут проникать везде, создавая все новые и новые ниши, потребности и инварианты собственного применения через постепенное обретение способности к самодетерминации.
В качестве компромисса между миром автоматов и человеком формируется пространство коммуникации - культурные интерфейсы, которые приспосабливают мощь технологий к ограниченным возможностям человека контролировать и использовать их. Обычному человеку сложно постичь и контролировать то, что происходит в его компьютере, где электронные узлы ведут бесконечные расчеты и передачу битов информации друг другу. Но культурный интерфейс - экран-страница, имитирующая доку-
менты, рабочий стол, различные объекты, и почти «ручные» манипуляции с ними (перенести, взять, открыть), - максимально облегчает эту задачу, гуманизируя и подчиняя автомат желаниям пользователя. И тогда нам может показаться, что технологический императив может звучать более гуманно: все, что может быть технологизировано, должно быть технологизировано в форме культурного интерфейса, соответствующей желаниям и возможностям человека.
В своих предыдущих исследованиях [4] мы попытались показать, что технологическая виртуализация опыта является механизмом «сшивания» реальностей - обыденной, виртуальной, символической. Культурные интерфейсы и являются такими швами, благодаря которым складывается «лоскутное одеяло», или технотекст цифровой культуры, соединяющий разные культурные пространства и времена - печатную и письменную культуру, виртуальную реальность и искусственную жизнь.
Технологический антроподефицит
Итак, в мягкой формулировке технологический императив применим преимущественно к культурным интерфейсам. В исходной же формулировке он неизбежно создает технологический антроподефицит, т. е. нехватку естественных возможностей человека как вида для поддержания функционирования цивилизации автоматов. Человек, его органы восприятия и движения не приспособлены для сверхзвуковых скоростей, огромных объемов информации, производственных манипуляций, производимых в современном мире. Поэтому, например, в любом самолете есть летчик-автомат (робот-автопилот), атомной станцией управляет диспетчер-автомат (экспертная система), а все коммутации в системах телефонной связи также осуществляет автоматический диспетчер (только представьте, если бы сотовую связь обслуживали операторы-барышни! Не говоря уже о поиске в Интернете!).
Технологический антроподефицит имплицитно присутствует в использовании лошади в качестве транспорта или применении огнестрельного оружия (последнее, к слову, претерпело революционные изменения после внедрения автоматической перезарядки). Но в полной мере он проявляется в эпоху промышленной революции, когда машинный труд начинает заменять человеческий. Критической точкой в осмыслении этих процессов стало рождении теории искусственного интеллекта (1940-1950-е гг.) как разума, способного стать системой контроля за все более усложняющимся миром кибернетических автоматов. Уже в 2000 г., во время панических ожиданий компьютерных сбоев из-за проблемы с временными настройками компьютеров, стало понятно, насколько тотальна и фатальна зависимость от
вычислительных автоматов в современном мире.
«Синдром Преображенского», или технологический креационизм
Наша система координат была бы неполна без указания на вектор или измерение носителей этой миссии культурных преобразований. В знаменитой повести М.А. Булгакова «Собачье сердце» мы находим пророческую историю о сотворении искусственной жизни на основе науки и медицинской инженерии. Главный герой - профессор Преображенский, убежденный поборник евгеники - демонстрирует целый набор симптомов модернистской науки, из которых формируется синдром научного и технологического креационизма («синдром Преображенского»). Эта симптоматика обнаруживает своего рода научное бессознательное: стремление уподобиться божественному знанию и созидательной силе творца, породившего все живое, но уже не на базе религиозной мифологии (миф о Големе) или литературной фантазии (Франкенштейн), а на основе научной методологии и технологических систем. В науке ХХ в. «синдром Преображенского» постоянно проявлялся. Кибернетика изначально заявила о себе как методология познания и создания автоматов с жизнеподобным поведением. Ее развитие в кибернетике второго порядка и конструктивизме (constructionism) лишь усилило тенденцию к раскрытию кода жизни. Математика от Дж. фон Неймана до К. Лэнгтона пыталась создать знаковые модели витальных процессов. Генетика, генетическая инженерия, молекулярная и синтетическая биология весьма убедительно демонстрируют симптоматику, описанную Булгаковым. Аналогичным образом теория сложных систем и даже общая направленность технологического синтеза NBIC (Nano-Bio-Info-Cogni) отражают все те же мотивы и тенденции.
Именно «синдром Преображенского» сближает современное искусство и науку. Мы уже упоминали, что известный американский искусствовед Джек Бернем еще в 1970-х гг. охарактеризовал первые опыты кибернетического искусства в области роботизированной скульптуры как стремление художников создать искусственную жизнь. Технологическое искусство 1950-2000-х гг. демонстрирует многочисленные примеры таких амбициозных креационистских проектов. В 1990-х гг. многочисленные художники подхватывают методологию искусственной жизни в математике и информатике и создают большое количество программных, робототехнических, гибридных проектов
(К. Симс, К. Зоммеррер, Стеларк, Р. Браун и др.). Эти тенденции мы охарактеризовали в данной работе как техно-художественную гибридизацию.
«Синдром Преображенского» у художников и ученых проявляется в самых разных
формах, которые, однако, можно систематизировать. С одной стороны, они работают над знаковыми моделями живого, которые реализуются на компьютерах в виде электронных организмов, аниматов и целых экосистем. С другой стороны, создаются гибриды технических и живых систем, в которых соединяются когнитивные, функциональные, тканевые и технические элементы.
Культурный и технологический детерминизм
Обоснование социальной робототехники, безусловно, предполагает обращение к проблематике, которая задана противоречиями культурного и технологического детерминизма. В трактовке культурных детерминистов технологии выступают продуктом определенных культурных и исторических условий, тогда как в технодетерминизме они являются практически независимым фактором, определяющим культурные изменения. Таким образом, СР будет либо результатом действия совокупности культурных факторов (породивших многообразие феноменов), либо
суммой технологий, изменяющих жизнь современных обществ. Возможное некритическое «разрешение» противоречия в одну или другую сторону, например, не только приводит к различным спорным теоретическим выводам, но и порождает различную идеологизированную аргументацию (либерального толка - технологии как прогресс, «левого» толка - технологии как угроза).
В жизни так называемых западных обществ технологические системы, как мы сказали выше, подчинены воспроизводству глубинных культурных установок. Так, вставая на позиции культурного детерминизма, в качестве общего содержательного источника СР мы видим уникальный набор культурных детерминант: рационализм (и в особенности его выражение в кибернетике, информатике, теории искусственного интеллекта) и индивидуализм (персональные роботы), капитализм с его упором на расчеты и достижение высокой эффективности (промышленные роботы и робототехника как бизнес), милитаризм и политику войны (беспилотники и другие военные роботы), контркультурную деконструкцию доминирующей культуры. К перечисленным факторам следует добавить влияние модернизма и художественного авангарда, который через художественные эксперименты с новыми технологиями способствовал не только их популяризации, но и открытию новых специфических культурных форм применения технологий.
В своей весьма радикальной версии принцип культурной детерминации лежит в основе влиятельного направления исследований, получившего название «медиаархеология» [5]. Один из ее ярких представителей - финский теоретик и историк культуры Эркки Хухтамо, ассоциирующий себя как со
скандинавской теорией культуры (Й. Хейзинга), так и с критической традицией, опирающейся на исследования М. Фуко. Хухтамо утверждает, что все новые форматы технологий (Интернет, виртуальная реальность, роботы и киборги) и практики их использования - это забытые или сознательно изъятые из истории старые форматы и их значения (смыслы), которые уже не раз встречались прежде. Эти воспроизводящиеся и повторяющиеся мотивы он называет топосами ^оро1), заимствуя термин из литературной традиции. Таким топосом, например, бесспорно, является киборг - симбиоз человека и машины и один самых ярких образов цифровой культуры.
Для медиаархеологии, в отличие от любой версии технодетерминизма, принципиальное значение имеет вопрос о смысле и значении топоса - его ценностном послании. Именно поэтому он как бы подчиняет себе любой новый материальный медиум - фотографию, кино или компьютер.
Технодетерминизм утверждает относительную автономию технических систем, их собственную эволюционную логику и полную детерминацию в отношении социальных систем, что доказывает в своих обстоятельных исследованиях французский философ и историк техники Жильбер Симондон. Его имя и работы (прежде всего фундаментальный труд «О способах существования технических объектов», увидевший свет в 1958 г.
[6]), к сожалению, известны лишь очень немногим специалистам, хотя идеи Симондона оказали огромное влияние на философскую мысль ХХ в., включая творчество Ж. Делеза, Ж. Бодрийяра и Б. Стиглера.
В своей феноменологии машин под оригинальным названием «механология» Си-мондон постулирует самостоятельную, обладающую своими имманентными законами, эволюцию техники по аналогии с эволюцией организмов в живой природе. Технические объекты есть поэтапная реализация или конкретизация абстрактной функции. Они всегда находятся в цепи или серии других объектов, подобно тому как располагаются в семействах и классах живые организмы. Абстрактная техническая функция обретает индивидуацию в различных конкретных вариантах машин (можно легко представить, сколько существует вариантов машин для функций счета или передвижения). Человеческий субъект - создатель или изобретатель технических объектов - должен просто обладать особой чуткостью и уловить возможные вариации материального аппарата техники. Его роль вторична, он не придумывает устройство - он проникает в мир техники как чистого материального становления. Более того, человек обретает и осознает самого себя только через посредство техники. Именно поэтому Симондон стремился развеять миф о бесчеловечной и антикультурной
сущности технологий, пытаясь показать гуманизирующую роль технологий именно в том пункте, где человек перестает быть хозяином технических инструментов и становится «обслуживающим персоналом» гигантских технологических систем.
Теория Симондона получила интересное развитие в работах Бернара Стиглера. Стиг-лер устанавливает фундаментальную онтологическую связь между техникой и временем, лишая человека другого варианта быть определенным во времени и истории иначе, чем через технику. Таким образом, для технологического детерминизма одним из самых важных аспектов развития технологий развития становится фактор скорости изменений.
Эту же проблематику развивает еще один французский теоретик и историк технологий Поль Вирильо. В работах «Скорость и политика» (1977), «Открытые небеса»
(1997), «Информационная бомба» (2000) он предлагает физическую модель технологической детерминации на уровне электронного процесса коммуникаций. Вирильо исходит из идеи скорости как физического субстрата технологий (скорость света, скорость звука). Достижение определенных скоростей предопределяет культурную динамику. В «телетопике коммутаций» мир (пост)совре-менности приобретает свою определенность на поверхности экранов, в сети каналов, приемников и передатчиков. Оформляется мир над/за временем и пространством, возможный только в «перспективе реального времени». Вирильо - пессимист, он видит в технологической детерминации неизбежность фатальных ошибок, сбоев и катастроф, настаивая, что техно-ускорение жизни (скорость компьютеров, транспорта, информации) приносит хаос и дезориентацию в нашу повседневную жизнь отчасти потому, что человеческий мозг и тело не были созданы для того, чтобы жить на таких скоростях [7].
Позиция технологического детерминизма лежит в основе трансгуманизма. В этой визионерской теории технологии - от компьютеров до медицинской имплантации и робототехники - выступают как фундамент создания человека будущего - избавленного от болезней, раскрывшего весь свой творческий и интеллектуальный потенциал, способного ответить на любые цивилизационные и природные вызовы, сделавший мир технологий своей второй природой [8]. Этот совершенный технологический постчеловек способен продлевать свою жизнь сколь угодно долго, стремясь к настоящему бессмертию.
Чрезвычайно влиятельную версию трансгуманизма с опорой на жесткую аргументацию технодетерминистского толка предложил американский теоретик и изобретатель, один из лидеров направления, получившего
название «Сингулярность» (Singularity), по совместительству ответственный за передовые научные исследования и разработки в компании Google Реймонд (Рэй) Курцвайль. Его основной тезис утверждает широко известное наблюдение об экспоненциальном росте производительности элементной базы компьютерной техники (разумеется, речь идет о «законе Мура»). Однако Курцвайль экстраполирует эту идею в виде глобального процесса ускоряющегося технологического роста в разных областях - от компьютерных технологий и Интернета до биотехнологий и СР, который экспоненциально приближается к своему пику приблизительно в 2045 г. (см. [9]; более подробный анализ культурного и технодетерминизма см. [10]).
Искусственный интеллект
Ключевую роль в обосновании СР играет теория и методология искусственного интеллекта (ИИ). Если мы ведем речь о техническом устройстве, оснащенном ИИ, то такая машина до определенной степени способна мыслить и рассуждать подобно человеку (на основе психологии или физиологии мышления моделирует логические рассуждения) и функционирует как автономный рациональный агент (действует, достигает результата, адаптируется, реагирует на среду).
Трактовки ИИ различны. На заре теории и разработок ИИ в 1940-х гг. благодаря исследованиям У. Питтса, У. Маккалоха, М. Минского машинный разум пытались моделировать с помощью компьютера как «искусственные нейроны», поскольку, как тогда удалось установить, передача сигнала нейронами осуществляется подобно транзисторам. Таким образом, ИИ понимался как моделирование работы нейронной сети мозга. Альтернативную концепцию ИИ предложил коллега М. Минского Джон Маккарти в середине 1950-х гг. Суть его подхода к ИИ заключалась в том, что искусственный разум рассматривается как универсальная логическая машина на базе компьютера (ИИ = логика). Практический смысл этого подхода заключался в возможности моделировать средствами ИИ решение задач человеком, причем в любой области. В 1960-1970-х гг. формируется новый подход к ИИ как экспертной системе, основанной на представлении знаний. Маккарти приходит к проблеме представления предметных знаний для ИИ, а М. Минский выдвигает тезис о микромирах, которые должны служить модельной областью для рассуждений ИИ.
В 1990-х гг. основные принципы «старого доброго ИИ», основанного на дедуктивном выводе, были существенно пересмотрены в контексте подхода, получившего еще в конце 1980-х гг. название «искусственная жизнь», а также в рамках разработки систем машинного обучения и автоматического распознавания образов. В методологии искусственной жизни интеллект рассматрива-
ется как эволюционирующая функция адаптивного поведения живых организмов. Например, сложные модели стайного поведения птиц или муравьев не зависят от «разума» отдельных особей. Однако в хаосе их адаптивного поведения ради выживания рождается вполне эффективная форма разумной жизни. По такому принципу можно создать интеллектуальную систему управления транспортной логистикой или видеоигрой. Именно эта концепция вместе с теорией машинного обучения легла в основу современного прорыва в области социальной и персональной робототехники, и многие современные разработчики систем ИИ и искусственной жизни настаивают на приоритете этого (автономные агенты, адаптивное поведение) в противовес логическому зна-ниевому подходу («старый добрый ИИ»), который долгое время преобладал в исследованиях ИИ [11]. Следует отметить, что в отечественной традиции исследования «адаптивного поведения» связаны с именами М. Цетлина [12], В. Турчина [13] и В. Редько [14; 15]. Здесь же следует отметить работы выдающихся российских математиков М. Гаазе-Рапопорта и Д. Поспелова [2]. Важной философской предпосылкой этих исследования можно назвать эволюционную концепцию развития интеллекта, в которой рациональные когнитивные структуры формируются на основе простейшего адаптивного поведения, демонстрируя сложные структурные трансформации как результат поведенческой динамики. Среди зарубежных авторов хотелось бы выделить Р. Брукса и его робототехнические модели адаптивного поведения [16].
«Когда мы смотрим фильм, где толпы муравьев или пришельцев на экране - цифровой эффект, сгенерированный компьютером, мы смотрим на группы агентов, исполняющих свои роли на основе моделей искусственной жизни. Когда мы совершаем перелет на новейшем самолете, конструкция турбины вполне может быть результатом оптимизации на основе искусственной эволюции») [17, p. 409] - это цитата из популярной статьи в журнале «Nature», написанной Родни Бруксом - широко известным современным исследователем ИИ и разработчиком робототехники из Массачусетского технологического института, который был одним из активных участников научного сообщества, формировавшегося вокруг проблем искусственной жизни в 1990-х гг.
Искусственную жизнь можно рассматривать как формирование разумного поведения «снизу вверх» через активное обучение и адаптацию к окружающей среде. В какой-то мере Брукс обращается к концепции интерактивного поведения и научения. Простые формы взаимодействия порождают сложные формы автономного поведения, далее формируется и эволюционирует ин-
теллект в зависимости от сложности адаптивных задач (ученый настаивает, что мы не должны выдавать за интеллект человека то, что мы знаем о нем сегодня, поскольку он является продуктом эволюции и в эволюционной перспективе меняется).
Именно эти принципы Брукс применяет в разработке сервисных и гуманоидных роботов, которым пророчит грандиозное будущее в стремительно развивающемся технологическом мире [18]. Из классической циклической схемы функционирования робота «внешний мир - перцепция - когнитивная обработка - поведение» он просто изъял когнитивную часть (она осталась, но только в позиции наблюдателя) и строит роботов, в которых динамика между внешним миром, прецептивной информацией и моторикой определяет их адаптивные возможности и автономное поведение. Последний термин можно считать ключевым, поскольку роботы Брукса должны вести себя автономно и самостоятельно в различных ситуациях, подобно живым существам. Кроме того, для Брукса как робототехника остается принципиальным вопрос о материальности и воплощенности робота, о его физическом присутствии в мире и активном взаимодействии с человеком.
Очевидно, аргументы Родни Брукса убедили многих, поскольку разработка автономных роботов на принципах слабой искусственной жизни идет полным ходом. Можно считать вполне успешными такие проекты, как коммерческий хит - робот-пылесос iRobot. Впечатляющих успехов в создании эволюционирующих, самопрограммируемых и самореплицицирующихся адаптивных роботов добилась группа Пауля Леви, работающая со стайной самоорганизацией простейших мобильных робото-организмов [19].
Функциональные возможности современных систем ИИ чрезвычайно широки и стремятся к практической универсальности. ИИ применяется для обработки естественного языка. Системы ИИ выполняют перевод текстов с разных языков (машинный перевод), осуществляют распознавание устной и письменной речи (голосовые интерфейсы), а также поиск информации и общение на естественном языке. В этой функции ИИ все шире используется в Интернете, прежде всего для перевода и поиска информации (неслучайно директором по исследованиям в крупнейшей интернет-корпорации Google является Питер Норвиг -в прошлом ведущий разработчик интеллектуальных систем в NASA и стенфордский профессор, автор базовых учебников по ИИ). Огромный интерес к разработками ИИ проявляют военные. Структура Пентагона DARPA (на базе которой был созданы важные интернет-элементы) финансирует работы по созданию роботов-автомобилей и других систем на основе ИИ. Американские во-
енные рассматривают интеллектуальные роботизированные системы как один из приоритетов разработки новых вооружений (см. [20]). Без элементов ИИ сегодня невозможно представить создание видеоигр и поведение роботов в виртуальных мирах. Искусственным разумом наделяются персонажи, которые противостоят игроку-человеку и часто успешно его побеждают. В этой сфере применение ИИ произвело сильнейшее впечатление после того, как суперкомпьютер IBM DeepBlue выиграл у чемпиона мира по шахматам Гарри Каспарова. В контексте электронной игры стоит задача научить виртуального персонажа рассуждать и действовать подобно играющему человеку: планировать действия, оценивать меняющуюся обстановку, планировать и выполнять задачи [21].
Social robotics
ИИ является основой современной робототехники практически во всем ее многообразии и в значительной мере воплощает кибернетические мечты об искусственной жизни. Промышленные роботы интегрированы в управляющие экспертные системы. Роботизированный интеллект управляет спутниковыми группировкам, самолетами, логистическими структурами и различными функциями современного автомобиля (от коробки передач и подвески до распознавания дорожных знаков). Все больше интеллектуальная робототехника проникает в индустрию развлечений и современное искусство [22]. Делаются все более серьезные шаги в развитии СР, ориентированной на образование, медицину и различные сервисные функции (например, в коммунальном хозяйстве).
Эта ситуация развивалась с 1960 гг. и мало касалась широкой социализации робототехники. В 1990-х гг. наметились новые тенденции. Синтез робототехники и ИИ создавал возможности для новых приложений и сфер применения. Появилось направление разработки сервисных роботов (уборщики, гиды и т. п.), а затем СР, делающая акцент на включении робототехнических систем в социальные взаимодействия.
СР направлена на создание роботов, которые должны помогать человеку в повседневных делах: поддержании чистоты (роботы-уборщики), уходе за людьми с ограниченными возможностями (роботы-сиделки), дистанционном выполнении функций человека (роботы-аватары), доставке грузов и сообщений (роботы-курьеры), мониторинге и контроле за обстановкой в помещениях и на улицах (роботы-охранники и надзиратели), проведении развлекательных и рекламных мероприятий (роботы-актеры), участии в художественных проектах (роботы-художники, роботизированные инсталляции), организации учебного процесса. Это список далеко не полный, он включает в основном актуальные
направления, для которых уже существует немало реализованных проектов (более подробно они будут рассмотрены ниже). В данном контексте концептуально и практически меняются и представления об ИИ.
С точки зрения решения научных задач Social robotics объединяет интеллектуальные ресурсы когнитивной и нейронауки, инженерной робототехники, исследований ИИ, психологии, лингвистики, социальных наук и философии. Круг изучаемых проблем достаточно широк: возможность создания моделей интеллектуального поведения, представления знаний и обучения для социальных роботов; вопросы эргономики и адаптации к взаимодействию роботов и людей; философия и методология дизайна социальных роботов; эффективность взаимодействия человека и роботов; вопросы этики для СР; художественные и творческие возможности роботов; проблемы безопасности и надежности робототехники; принципы и архитектура программного обеспечения; мультимодальные сенсорные системы; применение моделей поведения человека и животных; обоснование функций и задач роботов в различных социальных практиках.
В конечном итоге исследования в этой междисциплинарной области должны определять, описывать и постоянно уточнять поведенческие модели социальных роботов, включая выполнение ими своих функций, взаимодействие с человеком, его когнитивные и аффективные компоненты, обучение и адаптацию в различных ситуациях, формулировку этических принципов с учетом степени автономности поведения роботов. Очевидно, что для решения подобных задач совершенно необходимо не только применение, но и создание нового типа социогума-нитарного знания.
Показательный пример подобной теоретической неоднозначности - фундаментальные работы по СР американского робототехника, теоретика и визионера Ханса Мо-равека [23]. В его знаменитой метафоре роботов как «детей нашего разума» уже многое сказано, поскольку мы, безусловно, должны желать им, как своим детям, лучшего будущего и возможности превзойти нас во всем. Но за гуманистической метафорой стоит последовательный технодетерминизм: Мо-
равек считает, что до 2050 г. ИИ роботов превзойдет интеллект человека, поскольку сможет учиться у людей, впитывая и развивая все самое ценное из способностей человека. «Дети разума» будут создавать пост-биологический мир, свободный от биологических ограничений, накладываемых на живые организмы.
Социализация роботов, таким образом, является неизбежным процессом, соответствующим не только технологической динамике обыскусствления всех человеческих функций (труд, память, зрение и т. д.), но и куль-
турным механизмам обучения и передачи опыта. Именно Моравек первым предложил концепцию робота как партнера (а не раба или работника), с которым мы находимся в симбиотических отношениях, когда границы между «естественным» и «искусственным» размыты и постоянно преодолеваются.
Один из интересных вопросов уже с точки зрения культурного детерминизма связан с тем, должны ли разработчики при создании программного обеспечения учесть этические нормы поведения социального робота и включить их как часть основного кода? Возможно ли такое программирование этики? Кроме того, поднимается вопрос об эмоциональных привязанностях к роботам, особенно в случае их использования в работе с детьми и одинокими стариками, а также в случае интимных робото-услуг. Достаточно типично для того рода исследований подведение этической проблематики под общую рамку возможности придания правового статуса социальным роботам [24].
Автономное выполнение работами важных социальных функций, предполагающих постоянное взаимодействие с людьми, действительно означает необходимость разработки ИИ, который позволил бы им принимать этически обоснованные решения. И хотя сегодня создание социальных роботов с этическим разумом - это проблема и техническая, и теоретическая, начинать работать над ней необходимо уже сегодня, чтобы этика не догоняла технологическое развитие, а направляла его, хотя бы в формулировке некоего минимума необходимой «моральной чувствительности» для роботов [25].
Синтия Бризил, один из пионеров СР, развивает эту проблематику в довольно радикальном направлении и настаивает на том, что автономный социальный робот -это не инструмент и не гаджет, а партнер, который должен быть максимально интегрирован в привычную человеку социальную среду и взаимодействия (понимать человека, учиться у него). Ее подход можно назвать гуманистической робототехникой. Робот не может стать социальным, не разделяет с нами главные характеристики социальности. Поэтому главное - определиться с той степенью и качеством социальных навыков (социального интеллекта), которые необходимы и роботу, и человеку. Профессор Бри-зил рассматривает эту проблематику на своем проекте социального робота c эмоциональным интеллектом - знаменитом Кизме-те. В предложенном ею термине «социабель-ный робот» (sociable robot) отражена концепция, сочетающая коммуникативную вовлеченность роботов во взаимодействие с людьми и возможность формирования межличностных отношений роботов и людей.
Близкие по духу гуманистическому подходу С. Бризил соображения высказывает один из ведущих экспертов в области ИИ
для СР Д. Леви. Он исходит из обстоятельного анализа исследований и разработок по ИИ и робототехнике за пять десятилетий второй половины ХХ в. [26], на основе которого приходит к выводу, что нужно перестать рассматривать роботов как инструмент или объект страха и принять их в позитивном смысле - как партнеров, как субъектов отношений (вступать с ними в брак, например) и с их помощью учиться лучше понимать себя самих.
Вполне логично Леви рассуждает в категориях неизбежной близости и привязанности к роботам со стороны человека. Тот, кто исполняет в нашей жизни заметную и значимую роль, становится объектом привязанности и желания. Роботы не исключение. Леви показывает, как эволюционировали электронные гаджеты, усиливалась их персонализация, а также то, насколько важным становится элемент своего рода переноса отношений (к людям, домашним животными) и сексуальности человека на персональные технологические устройства. В случае социальных роботов этот элемент может стать чрезвычайно значимым [27].
Дискуссия о том, как возникают и развиваются эмоциональные связи, социально значимые контакты и привязанности между роботами и людьми, остается в центре внимания разработчиков ИИ и социальных роботов, поскольку социальность роботов определяется не только через механическое выполнение функций, но и через их эмоциональную вовлеченность. Экспериментальные исследования демонстрируют возникновение таких элементов межличностных отношений во взаимодействии детей с роботами. Очевидно, самой сложной задачей остается определить составляющие дизайна, механизмы взаимодействия и возможности ИИ, благодаря которым могут формироваться позитивные социальные связи социальных роботов и людей [28].
В качестве наиболее очевидного варианта решения этой задачи рассматривается создание гуманоидных роботов. Именно гу-маноидный, или человекоподный, дизайн может стать доминирующим в самых разных направлениях разработки социальных роботов, наряду с другими трендами и форматами. Разработчики осознают уровень сложности технических задач в создании гуманоидных роботов и видят в этом уникальную возможность для фундаментальной и экспериментальной науки на стыке разных дисциплин. В первом десятилетии XXI в. мы смело могли говорить о серьезном прогрессе в концептуальных разработках и технических решениях относительно построения систем физической моторной активности роботов (мускулы, аналоги суставов, общий моторный контроль, включая шагание на двух ногах, бег, ручной захват), создание механизмов восприятия внешней
среды (визуальные, тактильные и акустические способы восприятия), эффективное выполнение интеллектуальных и коммуникативных задач (нейронные сети, машинное обучение, взаимодействие) [29].
Разумеется, уже сегодня понятны некоторые особенности создания гуманоидных роботов и границы копирования (имитации) человеческих черт в СР (например, чем более робот подобен нам самим, тем больше страха и неприязни он вызывает). Отчасти поэтому разработчиками отдельное внимание уделяется таким аспектам, как когнитивная и биологическая конвергенция роботов и людей (нейро- и биоинтерфейсы, экзоскелеты), в частности, в медицине и системах телеприсутствия [30]. Это направление робототехники нередко характеризуется как создание киборгов - симбиотических структур «человек-робот».
Киборг в разной степени и конфигурациях может быть нейрофизиологическим продолжением человеческого тела. Подобный симбиоз вполне укладывается в логику М. Маклюэна, в которой, как мы помним, любые технологии являются продолжением человека. Для современных трансгуманистов киборг является образцом новой конфигурации интеллекта человека и машины как стратегия расширения возможностей человеческого тела и преодоления его естественных ограничений (время, пространство, сила, скорость, спектр восприятия, износ и старение и т. д.). Стратегия киборгизации человека становится одним из смысловых центров и мотиваторов СР [31]. Достаточно привести в качестве примеров разработки так называемые экзоскелеты для медицинских нужд (экзоскелет представляет собой носимый вариант робота, усиливающего или компенсирующего функции опорно-двигательного аппарата). Но можно ли считать такой подход однозначным следствием технологического детерминизма? Ответ или дискуссионный аргумент может предложить медиаархеология.
Роботов - совершенно в духе археологии медиа! - можно отнести к довольно древним архетипическим формам «искусственных людей», истории о которых мы узнаем из античной мифологии (миф о Пандоре или Пигмалионе, миф о Големе), литературы Возрождения и Нового времени (идея Гомункулуса, андроида, человекообразной машины) [32]. Таким образом, возрастающий интерес к роботам на протяжении ХХ в. и начала третьего тысячелетия отражает и реконструирует более глубокий культурно-исторический пласт дискурсов и проектов искусственного копирования человека. Вероятнее всего, в культурной антропологии найдется немало примеров того, что в данном контексте стремление создать искусственного человека не является исключительно достижением западноевропейского
человечества и может быть обнаружено в других культурах.
В своем исследовании социально-культурных смыслов и истоков идеи киборга «Киборг: человеко-машина» канадский профессор Мэри О’Махони приводит аргументы в пользу того, что социальный робот в варианте симбиоза машины и человека, т. е. киборга, воплощает древнюю мечту о всемогуществе и бессмертии человека. Автор показывает, что в сфере робототехники мы все ближе и реальнее подходим к практической реализации этих идеалов. Развитие подобных технологий неразрывно связано с теми культурными смыслами и базовыми нарративами, которые придают определенный фаталистический импульс технологического развития от мифов об оборотнях до генетической инженерии, от андроидов из фантастических романов до современных гуманоидных роботов [33].
С точки зрения главной идеи нашего исследования разработка ИИ и социальных роботов является одной из основных тенденций формирования культуры искусственной жизни [10]. Неслучайно создание социальных роботов считают большим шагом эволюции, поскольку мы имеем дело с появлением нового вида существ, населяющих нашу планету (это касается и киборгов, и роботов). Развитие робототехники как веха в эволюции природы и неизбежное следствие в логике взаимодействия природы и человека рассматривается, например, в фундаментальной работе Гаазе-Рапопорта и Поспелова «От амебы до робота» (1987). Этот тезис также базируется на том основании, что социальные роботы должны демонстрировать адаптивное жизнеподобное поведение. Разработки автономных роботов и киборгов наглядно демонстрируют, что роботы как новый вид существ в глобальной экосистеме не фантастика, а фундаментальная тенденция развития и социализации технологий [34].
Таким образом, в отличие от персонализации компьютеров, рассмотренной нами выше, социализация и персонализации роботов становится более комплексной задачей не только в технологическом, но и в гуманитарном контексте.
И в этом плане, как мы видели, исследования ИИ наталкиваются на те проблемы и ограничения, которые задаются факторами и структурами биологической жизни, на субстрате которой интеллект формируется и существует. Именно поэтому совершенствование ИИ и робототехники неизбежно ведет к вопросу о создании искусственной жизни. Относительно других феноменов цифровой культуры здесь возникает еще и вопрос онтологический, поскольку робототехника вынуждена опираться не на бестелесный мир цифровых вычислений и пикселей на экране, а на сложные материальные структуры,
элементами которых могут стать объекты нецифровой «природы» - технические и биологические.
Любопытны критические рассуждения французского философа по поводу роботов и робототехники. В книге «Система вещей» Жан Бодрийяр рассматривает робототехнику в перспективе материальной культуры, где робот - это метафункциональная вещь и образец идеальной вещи, основанной на автоматике. Однако этот идеал имеет некоторый «зазор неопределенности», делающий ее зависимой от внешней информации и контекста использования. И прежде всего робот как автоматизированная вещь естественным образом предполагает сравнение с индивидом. Отсюда неизбежная тенденция к антропоморфизму и проекция на технический объект индивидуального сознания. Автоматика - это просто мечта о персонализации, осуществленная на уровне вещей: робот вбирает в себя все пути бессознательного в мире вещей, т. е. является максимально концентрированным выражением проекции человека на автоматику. Однако воплощение этой мечты приходит к избыточной функциональности и наращиванию дисфункций. Изобретение фантастов, роботы -не более чем миф, не имеющий отношения к развитию технологий. Французский философ делает вывод, что робот не только идеальная вещь как проекция нашего бессознательного и символ технического господства человека, но и своего рода зеркало, в котором обнаруживаются нестойкость вещей, угроза распада мира и ненадежности жизни, следы скрытого невротического разочарования.
Заключение
Анализ рассуждений Ж. Бодрийяра и других рассмотренных нами авторов показывает, что для обоснования СР в социальных и гуманитарных науках необходимо осознание ограниченности культурного детерминизма как набора дискурсов, придающих технологиям их культурное значение. Если в критической теории используется понятие идеологии как системы понятий и ценностей, навязываемых всем в интересах господствующего класса, то постструктурализм предлагает рассматривать культуру как текучее, нестабильное пространство дискурсов (к числу которых относятся и идеологии), подчиненных логике текстовых форм. Этот подход связан с именами таких теоретиков, как М. Фуко, Ж. Делез, Ф. Гват-тари, Р. Барт (о важности идей Мишеля Фуко для нашего исследования мы уже упоминали во вводной части).
Дискурсы определяют ключевые значения, которые задают параметры существования человека и общества. Дискурсы -системы идей и знаний, оформленные в языке, - производят мир и конструируют реальность. Поэтому в данном контексте
принципиальное значение приобретает анализ дискурсов, которые стоят за технологическими и художественными (эстетическими) явлениями и которые создают последние. Мир цифровой культуры также создан определенными дискурсами - технологии функционируют в сложной связи с культурой и многообразием культурных нарративов и идеологических установок. Они включены в пространство осмысленной жизни людей. Следовательно, технологии выполняют конкретные значимые функции. Более того, технологии связаны с природой, физической и биологической жизнью, с космосом в целом.
Необходимо понимать сложность их функций и сочетаний в меняющемся мире, где все постоянно течет, усложняется и требует новых средств для освоения окружающего мира. Природа, человек, технологии адаптируются друг к другу в сложной постановке онтологического театра [35; 36], появляются новые потоки и конфигурации, которые сходятся и расходятся, трансформируются, исчезают, возникают, существуют параллельно или объединяются. В этом пункте с помощью постструктурализма мы можем увидеть всю сложность и динамичность процессов, в которые входит развитие современных технологий, включая компьютерные игры.
Дальнейшее изучение культуры искусственной жизни не должно оказаться в плену некритического принятия биологического эволюционизма, трансгуманизма, математического бихевиоризма и религиозно-метафизического креационизма. Отталкиваясь от той проблематики, которая задается в этих подходах к искусственной жизни, мы предлагаем следовать технологическому креационизму, который должен акцентировать внимание на тотальности искусственной жизни как альтернативном конструировании живого - искусственных техно-био-тварей. Важными задачами технологического креационизма должны стать выработка и критическое прояснение «сильных» критериев искусственной жизни в их отношении к тем частичным «слабым» решениям, которые предлагаются в существующих подходах.
ЛИТЕРАТУРА
[1] Гаазе-Рапопорт М. Г. Автоматы и живые организмы. Моделирование поведения живых организмов. М. : Государственное издательство физико-математической литературы, 1961.
[2] Гаазе-Рапопорт М. Г., Поспелов Д. А. От амебы до робота: модели поведения. М. : Наука, 1987.
[3] Burnham J. Beyond Modern Sculpture: The Effects of Science and Technology on the Sculpture of This Century. 4th ed. N. Y. : George Braziller, 1975.
[4] Галкин Д. В. Виртуализация опыта в культуре
постмодерна: метаморфозы дискурсивного
ландшафта : автореф. ... канд. филос. наук. Томск : ТГУ, 2002.
[5] Media Archeology: Approaches, Applications and Implications / Huhtamo E., Parikka J. (eds.). Berkeley ; Los Angeles : University of California Press, 2011.
[6] Simondon G. Du mode d'existence des objets techniques. Paris : Aubier : Editions Montaigne, 1958.
[7] Virilio P. Speed and Information: Cyberspace Alarm! // Reading Digital Culture / ed. by D. Trend. Blackwell, 2001. P. 23-28.
[8] Bostrom N. The Future of Humanity // New Waves in Philosophy of Technology / Olsen J.-K. B., Sel-inger E., Riis S. (eds.). New York : Palgrave McMillan, 2009.
[9] Kurzweil R. The Singularity is Near. When Humans Transcend Biology. London : Pinguin
Books, 2005.
[10] Галкин Д. В. Цифровая культура: горизонты искусственной жизни. Томск : Изд-во ТГУ, 2013.
[11] From Animals to Animats // Proceedings of the First International Conference on Simulation of Adaptive Behavior / ed. by J. Meyer, S. Wilson. Cambridge, MA: MIT Press, 1991.
[12] Цетлин М. Л. Исследования по теории автоматов и моделирование биологических систем. М. : Наука, 1969.
[13] Турчин В. Ф. Феномен науки. Кибернетический подход к эволюции. М. : Наука, 1993.
[14] Редько В. Г. Эволюционная кибернетика. На пути к теории происхождения мышления. М. : УРСС, 2005.
[15] Редько В. Г. От моделей поведения к искусственному интеллекту. 2-е изд., стереотип. М. : URSS, 2010.
[16] Brooks R. A. Cambrian Intelligence: The Early History of the New AI. MIT Press, 1999.
[17] Brooks R. A. The Relationship Between Matter and Life // Nature. 2001. Vol. 409. P. 409-411.
[18] Brooks R.A. Flesh and Machines. N. Y., 2002.
[19] Symbiotic Multi-Robot Organisms. Reliability, Adaptability, Evolution. / ed. by P. Levi, S. Kern-bach. Berlin : Springer ; New York : Heidelberg, 2010. (Cognitive Systems Monographs Series. Vol. 7).
[20] Defense Adranced Research Projects Agency. URL: http://www.darpa.mil.
[21] Шампандар А. Искусственный интеллект в компьютерных играх. Как обучить виртуальные
персонажи реагировать на внешние воздействия. М. : Вильямс, 2007.
[22] Булатов Д. Новое состояние живого: к вопросу о технобиологическом искусстве // Гуманитарная информатика : сб. ст. Томск, 2011. Вып. 6.
[23] Moravec H. Robot: Mere Machine to Transcendent Mind. Oxford University Press, 2000.
[24] Robot Ethics: The Ethical and Social Implications of Robotics / Lin P. and Bekey G. (eds.) Cam-bridge-Oxford : MIT Press, 2011. (Intelligent Robotics and Autonomous Agents series)
[25] Wallach W., Allen C. Moral Machines: Teaching Robots Right from Wrong. Oxford University Press, 2010.
[26] Levy D. Robots Unlimited: Life in a Virtual Age. A.K. Peters Ltd., 2005.
[27] Levy D. Love and Sex with Robots: The Evolution of Human-Robot Relationships. N. Y. : Harper Collins Perennial, 2008.
[28] Human-Robot Personal Relationships. Third Inter-
national Conference, HRPR 2010 (Leiden, The Netherlands, June 23-24, 2010) / ed. by
H. Maarten, F. J. Lamers, F. Verbeek / ICST Institute for Computer Science, Social Informatics and Telecommunications Engineering. London: Springer, 2011.
[29] Humanoid Robots: Human-like Machines / ed. by M. Hackel. Vienna : I-Tech Education and Publishing, 2007.
[30] Bar-Cohen Y., Hanson D., Marom A. The Coming Robot Revolution: Expectations and Fears About Emerging Intelligent, Humanlike Machines. Springer, 2009.
[31] Benfor G., Malartre E. Beyond Human: Living with Robots and Cyborgs. Forge Books, 2008.
[32] Rossbach S., Glaser H. The Artificial Humans. A Real History of Robots, Androids, Replicants, Cyborgs, Clones and all the rest. Amazon Digital Service, 2012.
[33] O'Mahony M. Cyborg: The Man-Machine. Thames & Hudson, 2002.
[34] Menzel P., D’Aluizio F. Robo Sapiens: Evolution of a New Species. MIT Press, 2001.
[35] Pickering A. The Mangle of Practice: Time, Agency and Science. University of Chicago Press, 1995.
[36] Pickering A. The Cybernetic Brain: Sketches of Another Future. University of Chicago Press, 2010.
