CC BY
8
Вестник Томского государственного университета. Философия. Социология. Политология. 2023.
№ 72. С. 81-93.
Tomsk State University Journal of Philosophy, Sociology and Political Science. 2023. 72. pp. 81-93.
Научная статья УДК 141.319.8 doi: 10.17223/1998863Х/72/8
О МЕТАФОРИЧЕСКОМ ПОНЯТИИ «УМНОГО» УСТРОЙСТВА И ЕГО ПРИМЕНИМОСТИ В ФИЛОСОФСКО-АНТРОПОЛОГИЧЕСКИХ ИССЛЕДОВАНИЯХ
Анна Геннадьевна Горбачева1, Андрей Игоревич Пестунов2
1 2 Новосибирский государственный университет экономики и управления «НИНХ»,
Новосибирск, Россия
1 gorbacheva.a.g@gmail.com
2 pestunov@gmail. com
Аннотация. Проведен критический анализ возможных свойств, которые могут характеризовать устройство как «умное». Показано, что практически любое потенциальное определение «умности» может быть подвергнуто критике и разрушено каким-либо контрпримером, в том числе в форме мысленного эксперимента. Предложены формулировки для трех свойств, которые могут характеризовать некоторые классы устройств и быть пригодными для философско-антропологических исследований, в том числе при изучении человеко-машинного интерфейса, предметных действий человека, жизненного аутсорсинга, киборгизации, трансгуманизма и др. Ключевые слова: «умное» устройство, искусственный интеллект, предметное действие, мысленный эксперимент, жизненный аутсорсинг, человеко-машинный интерфейс
Благодарности: исследование выполнено при поддержке РНФ, проект № 21-1800103, «Человек и новый технологический уклад. Антропологический форсайт».
Для цитирования: Горбачева А.Г., Пестунов А.И. О метафорическом понятии «умного» устройства и его применимости в философско-антропологических исследованиях // Вестник Томского государственного университета. Философия. Социология. Политология. 2023. № 72. С. 81-93. doi: 10.17223/1998863Х/72/8
Original article
ON THE METAPHORICAL CONCEPT OF A "SMART" DEVICE AND ITS APPLICABILITY IN PHILOSOPHICAL AND ANTHROPOLOGICAL STUDIES
Anna G. Gorbacheva1, Andrey I. Pestunov2
12 Novosibirsk State University of Economics and Management, Novosibirsk, Russia
1 gorbacheva. a.g@gmail. com
2 pestunov@gmail. com
Abstract. Philosophical and anthropological studies related to the transformation of a person when interacting with technical devices have acquired special significance in recent decades, when technologies began to improve so rapidly that several generations of one device can change during one human life. For example, you can see how different the first and last device in the following chain is: "wire phone - radiotelephone - mobile phone -smartphone". As a result, many devices began to be called "smart" in the absence of a
© А.Г. Горбачева, А.И. Пестунов, 2023
generally accepted definition of "smartness" in relation to technology. This concept is a metaphor that has different meanings in different contexts. However, devices that appeared relatively recently (in recent decades) are usually called 'smart", which gives reason to put forward a hypothesis that devices began to acquire some new quality at this time, pushing people to call them "smart". To call an object "smart" requires its ability to think, but there is no convincing answer to Turing's question "Can machines think?". It turns out that we come to a contradiction. On the one hand, machines (devices) are not capable of thinking, and, on the other hand, many devices are already now characterized as "smart". This article presents an attempt to resolve this contradiction. It is difficult to do it due to the fact that the widely used characteristic "smart" in relation to devices is metaphorical and includes many associations and stereotypes. Consequently, it seems reasonable to formulate a compromise requirement, which will indicate the resolution of this contradiction, at least partially. Moreover, this result should be of practical use from the point of view of philosophy and anthropology. Such a result may be a formulation of intelligible, perhaps several, definitions of "smartness", which allow describing any relatively integral classes of technical devices. This article critically analyzes possible characteristics that can be included in the definition of "smartness" using examples of common devices. The article concludes that almost any potential definition can be criticized in the sense that it will be valid for devices of obviously different degrees of "smartness". As a result, several properties are identified that a device called "smart" can have and that fit into the philosophical and anthropological context. Keywords: smart device, artificial intelligence, thought experiment, life outsourcing, man-machine interface
Acknowledgments: The study is supported by the Russian Science Foundation, Project No. 21-18-00103: Human and a New Technological Order. Anthropological Foresight.
For citation: Gorbacheva, A.G. & Pestunov, A.I. (2023) On the metaphorical concept of a "smart" device and its applicability in philosophical and anthropological studies. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya - Tomsk State University Journal of Philosophy, Sociology and Political Science. 72. pp. 81-93. (In Russian). doi: 10.17223/1998863Х/72/8
Введение
Значимость философских и антропологических исследований, связанных с изучением трансформаций человека при взаимодействии со всевозможными техническими устройствами, не вызывает сомнений [1]. В рамках данного направления рассматриваются различные аспекты, в том числе возможные риски [2, 3], тренды и прогнозы [4-6], способы преодоления возникающих барьеров [7] и пр. Особенную остроту этот вопрос приобрел в последние десятилетия, когда скорость совершенствования технологий стала настолько высока, что люди в течение своей жизни становятся свидетелями смены нескольких поколений вроде бы одного устройства. Например, можно рассмотреть цепочку «проводной телефон - радиотелефон - мобильный телефон -смартфон» и заметить, насколько сильно в ней отличаются функциональные возможности первого и последнего устройств.
Описанное явление привело к тому, что современные тексты из различных сфер стали изобиловать словосочетаниями, в которых присутствует характеристика «умный» применительно к технологиям, устройствам, структурным образованиям и другим неодушевленным объектам. При этом как такового общепринятого определения этой самой «умности» на сегодня нет. Данное понятие является скорее метафорой, которая может иметь совершенно разный смысл в различных контекстах. Тем не менее, как правило, характеристика «умное» применяется к устройствам, появившимся именно в последние десятилетия, и, следовательно, мы имеем основания выдвинуть
гипотезу о том, что в эти самые последние десятилетия многие технические устройства стали приобретать некое общее качество, которое подталкивает людей к тому, чтобы называть их «умными».
Для того, чтобы называться «умным» устройство должно «уметь мыслить», однако убедительного ответа на вопрос «Могут ли машины мыслить?», заданный Тьюрингом [8] еще в середине прошлого века, пока не получено. Сопоставляя данный факт и приведенные выше рассуждения, мы приходим к противоречию: с одной стороны, машины (читай - устройства) мыслить не способны, чтобы их можно было называть «умными», в определении Ожегова, а с другой -уже сейчас многие устройства характеризуются как «умные». Попытке разрешить это противоречие и посвящена настоящая статья.
Очевидно, разрешить описанное противоречие полностью практически невозможно в силу того, что массово используемая в настоящее время характеристика «умное» применительно к устройствам является метафорической [1], включающей в себя все ассоциации, возникающие при произнесении этого слова, и воспринимается каждым человеком по-своему и стереотипно. Подобная проблема обозначена Тьюрингом [8]. При попытке ответить на вопрос «Может ли машина мыслить?» он указал на отсутствие удовлетворительных определений понятий «машина» и «мыслить» и предложил свести ответ на этот вопрос к вопросу возможности прохождения теста.
Поэтому необходимо сформулировать некое компромиссное требование, которое будет свидетельствовать о желаемом результате - разрешении данного противоречия хотя бы частично, причем этот результат должен иметь практическую пользу с точки зрения философии и антропологии, а именно он должен помочь в исследованиях, касающихся влияния науки и технологий на человека, в том числе при взаимодействии человека с «умными» устройствами. Таким результатом может являться формулировка внятных, возможно нескольких определений «умности», позволяющих описать какие-либо относительно целостные классы технических устройств, которые в силу их свойств можно называть «умными».
В первой части статьи рассматриваются возможные характеристики, которые можно включить в определение «умного» устройства, и критически анализируются на примерах конкретных широко распространенных технических устройств, в целом, как нам кажется, одинаково понимаемых большинством людей. По итогам этого анализа сделан вывод о том, что практически любое потенциальное определение «умного» устройства можно подвергнуть критике в том плане, что оно будет справедливо для совершенно разных устройств, скажем так, разной степени «умности». Во второй части статьи формулируется несколько возможных определений «умного» устройства с учетом выводов, полученных в первой части, с последующим сопоставлением этих определений с различными техническими устройствами.
Подход и опорные точки исследования
Важным представляется изучение вопроса о том, действительно ли феномен массового появления «умных» устройств имеет под собой реальные основания. Есть ли что-то, присущее некоторым предметам, что заслуживает внимания и дает возможность назвать эти предметы «умными»? Насколько обоснованно мы называем некоторые предметы «умными»? Не является ли
это просто маркетинговым ходом, чтобы придать дополнительную ценность продаваемым предметам в глазах покупателей? Какое принципиально новое качество появилось у неодушевленных предметов, дающее основание введения термина «умный»? Или же мы должны будем признать, что как такового свойства «умности» в общем-то и нет.
Основная трудность нашего исследования состоит в отсутствии прочных исходных посылок. В том, что пытаемся описать класс (или классы) «умных» устройств, не имея соответствующих определений. Мы видим лишь некие косвенные свидетельства того, что такие устройства должны существовать. Таким образом, наша задача состоится в том, чтобы попытаться сформулировать определение «умного» устройства, коррелирующее с массовым пониманием этого слова, либо хотя бы обозначить некие признаки «умности» и понять, действительно ли сейчас появились устройства, несущие принципиально новый аспект «умности», им присущий.
Тем не менее определенные опорные точки задать можно. Как минимум, мы уже сформулировали несколько базовых вопросов, определяющих цель исследования. Теперь попробуем понять, от чего можно отталкиваться, чтобы приблизиться к ответу на них.
Поскольку массовым термин «умное устройство» стал относительно недавно - не ранее чем 10-20 лет назад, то искать «умные» устройства следует среди тех, которые стали массовыми именно в этот период. Следовательно, «точно не умными» устройствами и орудиями мы будем считать те, которые существовали издревле, в том числе до появления электричества, электронных приборов и ЭВМ. К таким орудиям (именно этот термин для них подходит лучше) можно отнести лопату, обычный телефон, автомобиль без систем электронного управления, молоток, отвертку и пр. Перечисленным устройствам присуще такое свойство, что они в принципе не способны работать без участия человека. Они не могут как начать работу самостоятельно, так и продолжать действовать автономно уже после начала работы.
Второй тип устройств мы назовем «скорее всего, не умные». Это электронные устройства, которые появились довольно давно, когда характеристика «умный» не была распространена. К таким устройствам отнесем калькулятор, автоматическую стиральную машину, чайник с автоматическим отключением при закипании, будильник и др. Например, калькулятор не может начать работу самостоятельно, но после нажатия соответствующей клавиши он уже работает автономно вплоть до получения результата вычислений.
Наконец, «скорее всего, умными» мы будем считать такие устройства, как робот-пылесос, беспилотный автомобиль, системы распознавания речи с голосовым помощником, диалоговые системы и пр.
Наш поиск сродни раскапыванию кучи песка, на дне которой мы надеемся что-то найти, поскольку нам либо кто-то об этом сказал, либо нам кажется, и мы хотим это проверить. В итоге, раскопав эту кучу, мы либо обнаружим что-то, либо ничего. Более того, прогрессом можно будет считать даже не только однозначный ответ на этот вопрос (есть там что-то или нет?), но и хотя бы уменьшение размеров кучи с отбрасыванием тех ее частей, где точно ничего искомого нет.
Мы считаем, наиболее удачным определением, которое можно эксплуатировать в философском и антропологическом анализе, является то, где дела-
ется акцент на отчуждении предметного действия. Можно назвать устройство «умным», если для выполнения работы человеку либо вообще не нужно совершать предметного действия, либо это действие минимально и практически не связано (или связь не прослеживается) с получаемым результатом. Таким образом, подобные «умные» устройства являются олицетворением жизненного аутсорсинга.
Например, в этом смысле с точки зрения философского анализа нас гораздо больше интересуют автомобильные дворники с датчиком дождя, чем автомобиль, оснащенный различными «умными» устройствами, в том числе «умными» дворниками. Причина в том, что основное предметное действие автомобиля не отчуждается от человека - он как нажимал на педали и крутил руль, так и продолжает это делать, сколько бы второстепенных, пусть даже и «умных», приборов не было установлено на этот автомобиль.
Таким образом, объектом нашего исследования является не техническое устройство, а скорее человек, решивший вдруг называть какие-то устройства «умными». В отличие от Тьюринга и его последователей, мы задаем вопрос не с целью лучше узнать о потенциале технического устройства (может ли оно мыслить или быть «умным»?), а с целью понять человека. Почему этот человек решил охарактеризовать некоторые технические устройства «умными»? Что заставило его это сделать? Заслуживают ли технические устройства называться «умными»? Еще один вопрос связан с появлением разума у машины.
Итак, базовыми вопросами, поиск ответов на которые формирует основную канву настоящей работы, являются следующие:
1. Возможно ли выделить некое принципиально новое качество некоторых устройств, которое делает оправданным их классификацию как «умных»?
2. Существуют ли свойства, по которым устройство можно отнести к «умным»?
3. Как связаны свойство «умности» и устройство, характеризующееся как «умное»?
Методологические противоречия и попытки их разрешить
Рассмотрение устройств через их определение или фактические возможности. Если следовать приведенным выше рассуждениям, то робот-пылесос, скорее всего, можно считать «умным» устройством. Причем если лишить его части функциональных возможностей, то он перестанет быть роботом-пылесосом в своем изначальном смысле. Таким образом, данному устройству свойство «умности» присуще. Теперь рассмотрим автомобиль. Получается, что автомобиль «умным» не был, но после добавления ему ряда функциональных возможностей он станет таковым. Таким образом, мы делаем вывод о том, что, на первый взгляд, существует два типа устройств: первому типу свойство «умности» присуще, а второму - нет, но добавление ряда функциональных возможностей может сделать его «умным». Однако приведенное выше рассуждение оперирует скорее терминами, чем сутью. Здесь анализ проведен, отталкиваясь от термина «робот-пылесос», но мы же можем назвать это устройство неким Устройством Икс. И опять задать вопрос: «умное» ли это устройство? Но уже не концептуально, а фактически. Можно ли
это устройство лишить функционала или деталей, чтобы оно перестало быть «умным»? Таким образом, ответ на этот вопрос практически эквивалентен вопросу о наличии у устройства (машины) сознания, или сильного искусственного интеллекта по Серлю [9]. Очевидно, что современные, называемые «умными» устройства таким свойством не обладают, следовательно, изучение зарождения сознания у машины мы не рассматриваем. Свойство «умно-сти»: свойство «умности» присуще устройству или это функциональные возможности, которыми можно наделить умное устройство. Например: в базовом варианте автомобиль явно «не умный». Однако, прикрепив к нему датчик дождя и связав его с дворниками, он вроде бы «поумнеет» поскольку будет самостоятельно включать дворники, когда начнется дождь.
Является ли свойство «умности» присущим устройству или же оно лишь на уровне функциональных возможностей? До каких пор нужно добавлять в смартфон функции, чтобы он стал «умным»?
В чем состоит предназначение устройства? Рассмотрим следующий мысленный эксперимент, действующим лицом в котором является кочегар, никогда не сидевший за столом и не знающий, что такое стол. Для этого кочегара деревянный стол будет не более чем деревяшка причудливой формы, которую от бросит в печь точно так же, как и дрова. Ему и в голову не придет придумывать этой деревяшке какое-то специальное название наподобие «стола».
Настоящим примером показано, что истинное предназначение орудия или устройства может находиться далеко за пределами узкого контекста, в рамках которого некий человек взаимодействует с устройством. Приведем еще более радикальный мысленный эксперимент, демонстрирующий, что истинное предназначение устройства может быть вообще не определено.
Пусть в нашем распоряжении имеется смартфон, имеющий форму молотка. Для человека, понимающего, что такое смартфон, его форма будет вторична. Однако человек, который до этого видел только молоток, не сможет отличить этот смартфон от молотка. Значит, для него это устройство «не умное», а для пользователя смартфона - «умное», если мы сочтем смартфон «умным». При этом нет никакой гарантии того, что обычный молоток не обладает некими свойствами, в том числе «умными», не заложенными в него разработчиком, но которые могут быть познаны через науку. Скажем, речь может идти о неожиданных свойствах составляющих его микрочастиц.
В итоге при выработке определения «умного» устройства и выделении каких-либо его свойств нам не удастся уйти от познающего субъекта, поскольку никогда не будет гарантий, что этот познающий будет полностью осведомлен об истинном предназначении данного устройства.
Таким образом, определение устройства может быть дано с трех позиций:
- с позиции разработчика, заложившего в устройство определенный функционал, и пользователя, который эксплуатирует именно предусмотренные функциональные возможности устройства;
- с позиции пользователя, который видит в устройстве лишь разновидность тех объектов, с которыми он уже был знаком ранее;
- с позиции пользователя, который нашел принципиально иной способ эксплуатации данного устройства, который никак не закладывался его разработчиком.
Будем считать, что название устройства определяет его функционал, и в некотором контексте этот функционал одинаково понимается как разработчиком, так и пользователем.
Не является ли «умное» устройство просто объединением «не умных» функций? Требует рассмотрения еще один вопрос. Не является ли «умное» устройство всего лишь объединением функционала отдельных «не умных» устройств? Например, смартфон можно рассматривать, как устройство, объединяющее в себе телефон, калькулятор, фотоаппарат, телевизор, игровую приставку и пр. Если ответ на данный вопрос окажется утвердительным, то мы должны незамедлительно сделать вывод о том, что «умное» устройство - это не более чем объединение обычных «не умных» устройств, и смысла награждать свойством «умности» какое-либо устройство безосновательно. Говорить же о синергетическом эффекте применительно к неодушевленным устройствам вряд ли приходится. Другими словами, сложно привести аргументы в пользу того, что объединение в одном устройстве нескольких функций приведет к появлению принципиально неожиданного эффекта.
Эволюция технических устройств: где появляется «умность»? Еще одним, на наш взгляд, заслуживающим внимания вопросом является поиск того момента, когда устройства стали «умными» (как всегда оговариваемся, что точного определения «умности» у нас нет). Например, рассмотрим эволюцию вычислительной техники. Упрощенно ее можно представить так: счеты - арифмометр - калькулятор - программируемый компьютер - искусственные нейронные сети. Очевидно, счеты не являются «умными». Точнее, никаких разумных оснований считать счеты «умными» нет. В каком-то смысле данный вопрос напоминает исследования о зарождении разума.
Таким образом, данный пример показывает, что даже с калькулятором (который вряд ли можно считать умным) возникает возможность того, что человек отдает способность вычислять (мыслить). Что же такого принципиального есть у смартфона, чего нет у калькулятора? Является ли смартфон просто многофункциональным калькулятором? Если так, то достаточно перечислить все его функции и рассмотреть их отдельно. Или же есть нечто качественное, что делает его «умным», а у калькулятора этого нет. Этот вопрос тесно связан с вопросом Тьюринга о возможности машины мыслить, поэтому вопрос о зарождении «умности» у устройств мы оставим за рамками настоящей статьи, а будем рассматривать устройства сами по себе без привязки к их эволюции.
Определение «умности» через внешние проявления и человеко-машинный интерфейс. Что интересует обычного человека, использующего «умное» устройство? Ответ - его функциональность. В связи с этим имеет смысл говорить именно о функциях и человеко-машинном интерфейсе, не принимая в расчет внутреннюю структуру. Наличие датчиков, процессора, запоминающего механизма не имеет значения. Скорее, мы должны определять «умность» через внешние проявления, т.е. в терминах человеко-машинного интерфейса. При этом следует понимать, что существуют два типа интерфейса: человеко-машинный интерфейс и интерфейс между техническим устройством и окружающей средой. Например, человеко-машинный интерфейс робота-пылесоса состоит из элементов управления, позволяющих настроить и запустить его, а интерфейс с окружающей средой состоит из дат-
чиков, позволяющих ориентироваться пылесосу в пространстве при выполнении своей работы. Указанные два интерфейса имеют принципиально разное значение с философско-антропологической точки зрения. Человеко-машинный интерфейс для взаимодействия с таким устройством должен быть существенно более прост, чем непосредственное решение задачи, будь-то физическая или интеллектуальная работа. «Умное» устройство призвано «забрать» часть работы себе.
Более того, само по себе наличие таких составных частей, как процессор или модуль памяти, не является гарантией того, что обладающее ими устройство приобретает некое принципиально новое качество, дающее нам основание называть его «умным». Причина данного суждения состоит в том, что и процессор, и модуль памяти - это не более чем комбинация неких элементов, взаимодействие которых с достаточной полнотой описано законами физики. В частности, транзисторы - это, грубо говоря, всего лишь маленькие лампочки, которые явно не претендуют на то, чтобы их называли «умными». А на заре развития компьютерной техники именно лампочки и выполняли роль транзисторов.
Таким образом, определение понятия «умного» устройства не должно никак опираться на его внутреннюю структуру, в том числе на наличие внутри него датчиков, процессора, запоминающего устройства и даже физических манипуляторов. Определение «умного» устройства должно даваться через человеко-машинный интерфейс, в который при необходимости могут быть включены физические манипуляторы. Вероятно, имеет смысл говорить о способности технического устройства выполнять те или иные функции через его человеко-машинный интерфейс.
О невозможности точного разделения интеллектуального и физического труда. Если устройство «не умное», то оно всегда будет требовать присутствия человека, поскольку даже примитивный, на первый взгляд, физический труд, тем не менее, требует некоторой интеллектуальной деятельности. И только если соединить в устройстве и физику, и интеллект, возникает возможность отчуждения этого труда.
На наш взгляд, разделять физическую и интеллектуальную деятельность некорректно. Возможно, имеет смысл говорить о соотношении этих видов деятельности при выполнении различных видов работ, но заявлять, что определенный вид работы требует только физической активности, нельзя. Например, даже при переноске грузов или перекапывании земли требуется некоторая интеллектуальная деятельность для выбора траектории перемещения, прилагаемой силы или положения тела.
Определение «умности» не должно зависеть от человека. При взаимодействии людей друг с другом, в принципе, можно сказать, что один из них умнее другого в каком-либо смысле. Следовательно, определение «умный» так или иначе зависит он субъекта, который дает такую характеристику. Есть вероятность, что для «более умного» человека некоторые считаемые «умными» «менее умным» будут считаться «не умными». Отсюда получаем две возможности определения «умности» устройства: в зависимости от субъекта-человека и без нее. Поскольку характеристика «умное» применяется к устройствам массово, то определение не должно зависеть от степени интеллектуальности человека.
Критика возможных определений «умного» устройства
В настоящем разделе мы рассмотрим несколько возможных определений «умного» устройства и покажем, что для каждого из определений можно привести аргументы, убеждающие в неудачности того или иного определения.
Потенциальное определение 1. Устройство является умным, если в процессе его работы не требуется участие человека. Необходимость участия человека. Очевидным свойством, которое можно оценить у всех перечисленных устройств, является их способность/неспособность работать без участия человека. Причем можно оценить не только на уровне да/нет, но и степень необходимого участия человека. Например, при использовании лопаты человек должен участвовать полностью, а в случае со стиральной машиной -только на этапе загрузки белья, выбора программы и запуска. Если сравнивать компьютер и калькулятор, то принципиальная разница состоит в том, что компьютер может выполнить серию из нескольких вычислений по одной команде человека, а при использовании калькулятора участие человека требуется при каждом вычислении.
Потенциальное определение 2. Устройство является умным, если оно оснащено датчиками, сообщающими ему состояние окружающей среды. Рассмотрим следующее техническое устройство - автомобильные дворники с датчиком дождя. Данное устройство как минимум претендует на то, чтобы называться «умным», поскольку справляется со своей задачей по поддержанию чистоты лобового стекла без вмешательства человека. Однако как только данное устройство лишается датчика, оно становится точно «не умным». Аналогичные рассуждения также справедливы и для чайника с автоматическим отключением при закипании: убрав из данного устройства датчик интенсивности пара, мы делаем его точно «не умным». В то же время очевидным является то, что сами по себе датчик дождя и дворники или датчик интенсивности пара и чайник не являются «умными». Более того, если к дворникам присоединить датчик интенсивности пара, а к чайнику - датчик дождя, то «умности» рассматриваемым устройствам не прибавится. Таким образом, мы делаем вывод, что свойство «умности», вероятно, может появляться при вполне конкретном сочетании «не умных» устройств. Само наличие датчика не является достаточным, чтобы сделать устройство «умным». Требуется не датчик, а способность реагировать на окружающую среду. Скорее всего, наличие датчика следует из этого. Важным является приобретение нового качества.
Потенциальное определение 3. Еще одним определением может быть непредсказуемость процесса достижения результата (результат как раз должен быть предсказуем). Например, при уборке помещения робот-пылесос заранее не сообщает свою траекторию движения, определяя ее в процессе. В этом смысле процесс непредсказуем. Однако результат, который отображается на экране калькулятора, непредсказуем в том плане, что человек потому и использует калькулятор, что не знает наперед заданного ответа, как, впрочем, и процесса его достижения.
Здесь важен и ответ на вопрос: на ком лежит ответственность за результат? Ответственность применительно к устройствам и людям. В примере со стиральной машиной ответственность за результат лежит на человеке, кото-
рый разрабатывал программу стирки. Стиральная машина «ответственна» только за выполнение шагов этой программы. В случае же с роботом-пылесосом можно сказать, что в какой-то степени он ответствен и за результат. Например, если на пути его движения появится препятствие, то он его объедет и продолжит работу. Можно ли провести грань между «умным» и «не умным» устройствами через нацеленность на результат/процесс? Если разработчик не знает, каким образом устройство достигнет результата, то его можно назвать «умным».
Потенциальное определение 4. «Умное» устройство должно упрощать предметное действие или делать его тривиальным (как, например, нажатие на кнопку). Варианты: упрощение, отмена, изменение. Скорее всего, «умное» устройство, действительно, должно упрощать предметное действие, однако, во-первых, предметное действие упрощают даже заведомо «не умные» устройства, а во-вторых, может быть, упрощение предметного действия «умным» устройством является следствием какого-либо более фундаментального свойства, характеризующего «умное» устройство. Скорее, имеет смысл говорить о том, что при использовании «умного» устройства предметное действие становится другим (в частном случае - тривиальным) по сравнению с «не умным» устройством, предназначенным для решения той же задачи. Получается, что для использования «умного» устройства, как и в случае с «не умным», могут потребоваться определенные навыки. Видимо, «умным» можно считать и устройства, для работы с которыми нужно нажать, скажем так, больше одной кнопки.
Например, современный автомобиль, с одной стороны, обладает определенными признаками интеллектуальности, а с другой - предметное действие по отношению к нему нетривиально (если, конечно, не рассматривать беспилотные автомобили). Таким образом, простота или тривиальность предметного действия сама по себе не является необходимым критерием для отнесения устройства к классу «умных». Более того, для многих явно «не умных» орудий наподобие лопаты или молотка предметное действие может быть проще, чем для современного автомобиля, обладающего признаками интеллектуальности.
Свойства, которые могут быть присущи «умному» устройству, и их связь с философско-антропологическими концепциями
Свойство 1. Будем говорить, что устройству присуще свойство автономности, если оно способно выполнять поставленную задачу без вмешательства человека. При этом команда на выполнение задачи должна осуществляться через относительно простой человеко-машинный интерфейс, сложность взаимодействия с которым для человека ничтожно мала по сравнению с процессом выполнения данной задачи им самостоятельно. Другими словами, человеку не требуется осваивать дополнительные навыки, чтобы отдать команду данному устройству.
Устройства, обладающие свойством автономности, хорошо укладываются в концепцию жизненного аутсорсинга, в рамках которого человек делегирует выполнение некоторых своих функций внешней среде и в частности техническим устройствам. При этом процесс делегирования достаточно прост и фактически заменяет предметное действие, которое ранее требова-
лось для выполнения этой функции. Более того, процесс делегирования может быть очень похож при использовании самых разных устройств и заключаться в отдаче специальных команд посредством нажатия кнопок. Таким образом, свойство автономности фактически демонстрирует механику жизненного аутсорсинга.
С философско-антропологической точки зрения нам не так важно, способно ли устройство взаимодействовать с окружающей средой в процессе выполнения задачи. Главное - это делегирование конкретной задачи данному устройству. Именно в отказе от участия в выполнении задачи в пользу некоторого устройства проявляется явление жизненного аутсорсинга, и данное свойство присуще целому классу устройств, взаимодействие человека с которыми можно исследовать в рамках этой концепции. В некоторой степени автономное устройство играет роль не только объекта, которому передаются полномочия по выполнению задачи, но и замещает потенциального ассистента, коим может являться другой человек, например подчиненный или слуга, которому дается поручение.
Свойство автономности отчасти перекликается с позицией Каппа (Капп) о том, что «в орудии человек систематически воспроизводит себя самого». Однако под его концепцию органопроекции, утверждающую, что всевозможные орудия - это усиление человека, автономные устройства в общем не укладываются, поскольку как таковое усиление происходит не обязательно. Например, такие устройства, как робот-пылесос или автоматическая стиральная машина не усиливают человека, а заменяют его. Очевидно, мы не можем утверждать, что робот-пылесос выполняет свою работу всегда быстрее или качественней человека. Хотя в частных случаях это возможно.
Свойство 2. Будем говорить, что устройство обладает свойством посредничества, если при его использовании меняется предметное действие, совершаемое человеком, как правило, в сторону его упрощения по сравнению с предметным действием, осуществляемым при выполнении данной задачи человеком самостоятельно или с использованием более примитивных устройств. При этом использование устройства-посредника не отменяет необходимости участия человека на протяжении всего процесса выполнения задачи.
Свойство 3. Будем говорить, что устройство обладает свойством адаптивности, если оно способно изменять свое поведение в зависимости от состояния окружающей среды.
При этом человеко-машинный интерфейс может быть определен не очень строго, быть довольно сложным или вообще в явном виде отсутствовать. Принципиальное отличие автономных устройств от интерактивных умных устройств состоит в том, что интерфейс взаимодействия умных устройств довольно четко определен, в то время как с интерактивными устройствами дело обстоит сложнее. Данный интерфейс крайне сложно формализовать, и именно при взаимодействии с такими устройствами можно говорить о сращивании человека с технологиями и киборгизацией.
Выводы, перспективы и открытые вопросы
Сформулируем основные выводы, которые можно сделать по итогам обсуждения, приведенного в настоящей статье, и наметим возможные применения полученных результатов.
Выделение какого-то особого класса «умных» устройств среди всего их множества не имеет особого смысла как с точки зрения философии, так и фактически, поскольку любая деятельность так или иначе включает в себя интеллектуальный труд. Например, даже при выкапывании траншеи лопатой требуется некоторый мыслительный процесс по выбору силы нажатия на лопату или точного направления движения.
Три сформулированных определения нельзя отделять друг от друга. Многие устройства могут одновременно соответствовать двум или всем трем определениям. Однако, как было заявлено при обсуждении постановки задачи, ключевым критерием при выработке определений должна являться их встраиваемость в существующие философско-антропологические концепции с целью получения возможности для анализа соответствующих этим определениям устройств. Так, понятие автономного устройства дает нам механику жизненного аутсорсинга, понятие устройства-посредника - возможность исследований через предметное действие в рамках теории Выготского, а класс интерактивных устройств намечает стыковку с трансгуманизмом.
В качестве дальнейших вопросов, представляющих философско-антро-пологический интерес и связанных с выработанными определениями, могут быть следующие:
1. До каких пор человек сможет передавать автономным умным устройствам свой функционал, оставаясь при этом человеком?
2. В чем отличие руководителя, дающего поручения своим подчиненным, от человека, пользующегося автономным устройством?
3. Какие изменения происходят в человеке, когда он пользуется устройством-посредником и формирует новое предметное действие, фактически забывая старое?
4. Способно ли интерактивное устройство адаптировать свое поведение, чтобы сформировать у человека зависимость от себя?
5. Какую стратегию поведения целесообразно выбрать человеку, чтобы пользоваться устройствами этих трех типов себе во благо и с целью своего развития?
Выработанные определения могут быть использованы с целью выбора объекта исследования, поскольку позволяют описать конкретные классы реально эксплуатируемых технических устройств.
«Умное» устройство - это собирательное понятие, куда каждый вкладывает что-то свое. Помимо трех предложенных свойств могут быть введены и другие свойства, имеющие значение для философско-антропологических исследований.
Список источников
1. Ардашкин И.Б. Смарт-технологии как феномен: концептуализация подходов и философский анализ // Вестник Томского государственного университета. Философия. Социология. Политология. 2018. № 43. С. 55-68
2. Аванесов С.С. Технологическая угроза и риск бытия // Вестник Томского государственного университета. 2021. № 472. С. 5-16.
3. Черникова Д.В., Черникова И.В. Расширение человеческих возможностей: когнитивные технологии и их риски // Известия Томского политехнического университета. 2012. Т. 321, № 6. С. 114-119.
4. Смирнов С.А. Фармацевтика антропологических трендов. Антропологический форсайт // Вестник НГУЭУ. 2012. № 1. С. 88-104.
5. Смирнов С.А. Новые идентичности человека: анализ и прогноз антропологических трендов. Антропологический форсайт // Вестник НГУЭУ. 2013. № 1. С. 216-241.
6. Gorbacheva A., Smirnov S. Converging technologies and a modern man: emergence of a new type of thinking // AI & Society. 2017. Т. 32, № 3. С. 465-473.
7. Ефимов А.Р. Посттьюринговая методология: разрушение стены на пути к общему искусственному интеллекту // Интеллект. Инновации. Инвестиции. 2020. № 2. С. 74-80
8. Turing A. Computing machinery and intelligence // Mind. 1950. Vol. 59. P. 433-460.
9. Searle J.R. Minds, brains, and programs // The Behavioral and Brain Sciences. 1980. Vol. 3. P.417-457
References
1. Ardashkin, I.B. (2018) Smart technology as a phenomenon: conceptualisation of approaches and philosophical analysis. Are smart technologies really smart? Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya - Tomsk State University Journal of Philosophy, Sociology and Political Science. 43. pp. 55-68. (In Russian). DOI: 10.17223/1998863X/43/5
2. Avanesov, S.S. (2021) Technological threat and risk of being. Vestnik Tomskogo gosudarstvennogo universiteta - Tomsk State University Journal. 472. pp. 5-16. (In Russian). DOI: 10.17223/15617793/472/1
3. Chernikova, D.V. & Chernikova, I.V. (2012) Rasshirenie chelovecheskikh vozmozhnostey: kognitivnye tekhnologii i ikh riski [Expansion of human capabilities: cognitive technologies and their risks]. Izvestiya Tomskogo politekhnicheskogo universiteta - Bulletin of the Tomsk Polytechnic University. Geo Assets Engineering. 321(6). pp. 114-119.
4. Smirnov, S.A. (2012) Farmatsevtika antropologicheskikh trendov. Antropologicheskiy forsayt [Pharmaceutics of anthropological trends. Anthropological foresight]. Vestnik NGUEU. 1. pp. 88-104.
5. Smirnov, S.A. (2013) Novye identichnosti cheloveka: analiz i prognoz antropologicheskikh trendov. Antropologicheskiy forsayt [New human identities: An analysis and forecast of anthropological trends. Anthropological foresight]. Vestnik NGUEU. 1. pp. 216-241.
6. Gorbacheva, A. & Smirnov, S. (2017) Converging technologies and a modern man: emergence of a new type of thinking. AI & Society. 32(3). pp. 465-473.
7. Efimov, A.R. (2020) Post-turing methodology: Destruction of the wall on the way to general artificial intelligence. Intellekt. Innovatsii. Investitsii - Intellect. Innovations. Investments. 2. pp. 7480. (In Russian). DOI: 10.25198/2077-7175-2020-2-74
8. Turing, A. (1950) Computing machinery and intelligence. Mind. 59. pp. 433-460.
9. Searle, J.R. (1980) Minds, brains, and programs. The Behavioral and Brain Sciences. 3. pp. 417-457.
Сведения об авторе:
Горбачева А.Г. - кандидат философских наук, доцент кафедры информационных технологий Новосибирского государственного университета экономики и управления «НИНХ» (Новосибирск, Россия). E-mail: gorbacheva.a.g@gmail.com
Пестунов А.И. - кандидат физико-математических наук, заведующий кафедрой информационных технологий Новосибирского государственного университета экономики и управления «НИНХ» (Новосибирск, Россия). E-mail: pestunov@gmail.com
Авторы заявляют об отсутствии конфликта интересов.
Information about the authors:
Gorbacheva A.G. - Cand. Sci. (Philosophy), associate professor, IT Department, Novosibirsk State University of Economics and Management (Novosibirsk, Russian Federation). E-mail: gorbacheva.a.g@gmail.com
Pestunov A.I. - Cand. Sci. (Physics and Mathematics), head of the IT Department, Novosibirsk State University of Economics and Management (Novosibirsk, Russian Federation). E-mail: pestunov@gmail.com
The authors declare no conflicts of interests.
Статья поступила в редакцию 14.07.2022; одобрена после рецензирования 28.03.2023; принята к публикации 20.04.2023
The article was submitted 14.07.2022; approved after reviewing 28.03.2023; accepted for publication 20.04.2023
