CC BY
156
УДК 159.955
АКТУАЛЬНОСТЬ ЗАДАЧИ ТЬЮРИНГА (CAN MACHINES THINK?)
Литвинов Виктор Петрович,
профессор кафедры немецкой филологии, кандидат филологических наук, профессор, ФГБОУ ВПО «Пятигорский государственный лингвистический университет», г. Пятигорск, Россия [email protected]
Проблематизация «мышления» А. Тьюрингом остаётся актуальной и обсуждается специалистами, компетентными в ИИ и философии. В настоящем сообщении предлагается сдвиг проблематики с машинного «мышления» на человеческое.
Ключевые слова: задача Тьюринга; компьютинг; думание; мышление; алгоритм; информация.
THE ACTUALITY OF TURING’S QUEST (CAN MACHINES THINK?)
Litvinov Viktor Petrovic,
professor at the Chair of German philology, kandidat of philological science, professor, FGBOU VPO Pyatigorsk State Linguistic university, Pyatigorsk, Russia [email protected]
Turing’s problematization of “thinking” remains an actual topic discussed by many a specialist interested in AI and philosophy. The present contribution is an attempt to shift the problem so that human intelligence is questioned instead of questioning the computer.
Key words: Turing’s quest; computation; thinking; thought; algorithm, information.
Введение и цель работы
Когда Алан Тьюринг на заре кибернетики опубликовал в журнале «Mind» свою прославленную статью «Computing Machinery and Intelligence», он для начала предложил понимать мышление как вычисление (computation) на множестве неинтерпретирован-ных символов с использованием конечного числа правил. Будучи профессиональным математиком, он однако же знал, что матема-
тические формы искажают реальную действительность, а потому предлагал подумать над выбором определений не только для мышления (thinking), но и для «машины», и для «человека». «Может ли машина мыслить?» - это русский перевод вопроса Тьюринга, сформулированного по-английски; но как в английском языке различить по понятию «думать» и «мыслить»?
В свете этого нашего вопроса можно было бы определить проблемную ситуацию Тьюринга как случай «лингвистической относительности» и обсуждать её как исторический факт, и только. Но этот вопрос в разных формулировках опять ставится сегодня, и поскольку сам Тьюринг ставил его не просто как познавательный, а как конструктивно-технический, и предлагал размышлять о том, как это предположительно будет лет через 50, его работа и сегодня вновь прочитывается и комментируется.
В моём сообщении будут две части. В первой я оценю сегодняшнее состояние его проблемы, во второй я предложу мой собственный поворот всей проблематики.
I. Как поставлена задача?
В настоящей публикации используется для простоты готовая подборка материалов из книги, составленной Гейрсоном и Лосон-ским в середине 1990-х гг. [1]. Подборка включает:
a. Turing, Alan. Computing Machinery and Intelligence (1950) -pp. 245-264;
b. Searle, John. Is the Brain's Mind a Computer Program? (1990) -pp. 264-273;
c. Churchland, Paul and Churchland, Patricia. Could a Machine Think? (1990) - pp. 273-281,
а также короткое введение в проблему, написанное составителями (pp. 243-245). Это достаточный минимум для нашего разговора.
Следует воздать должное Тьюрингу как мыслителю. Он сразу говорит, что вопрос «Can machines think?» он не считает значительным: «The original question, “Can machines think?” I believe to be too meaningless to deserve discussion» [1: 252]. Дело, очевидно, в том, что у этого вопроса не может быть натурального смысла, а когда мы берём его в техническом смысле, он подлежит замене на более точные выражения сообразно с техническим замыслом. И если мы имеем в виду человека как эталон для «мыслящей машины», тогда машина, очевидно, может мыслить, именно как эта
живая машина [Searle in 1: 264], - однако этим мы уже подтасовали понятия, проинтерпретировав организм в терминах механизма.
Тьюринг предлагает заменить этот исходный вопрос на вопрос о способности машины (т.е. кибернетического устройства) к имитационной игре в стиле тогдашних экспериментов: если задать устройству на входе то же самое требование, которое одновременно предъявляется испытуемому человеку, и если устройство в течение, например, 5 минут выдаёт «тот же самый» (с точностью до 70 %) результат, что и человек (о котором мы думаем, что он «мыслит»), то машина в этом специальном смысле «может мыслить». Сегодня, когда компьютерные шахматные программы не уступают чемпионам мира, мы смело можем сказать, что в том давнем смысле машина, конечно же, «мыслит». Вот только сам Тьюринг, доживи он до наших дней, с этим не согласился бы. Он ведь предсказывал в своём 1950 г., что в конце ХХ в. само понятие мышления основательным образом изменится. Его предсказание осуществилось: даже специалисты по искусственному интеллекту не станут сегодня понимать мышление в том давнем смысле, а философы и в прежнее время его бы не приняли.
Джон Сёрл в своей публикации 1990 г. уточняет вопрос Тьюринга следующим образом: «Can a machine think? Can a machine have conscious thoughts in exactly the same sense as you and I have?» [1: 264]. Заметим, о таком уточнении думал уже и сам Тьюринг; в связи с возможностью проблематизации его текста он заметил [1: 254]: «According to the most extreme form of this view the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking». Выделение во всех случаях моё.
Современные специалисты по искусственному интеллекту могут считать, что в смысле технической задачи, а не познавательной, дело по сути заключается в том, чтобы создавать дальнейшие подпрограммы, в которых приведены к форме алгоритма те возможности человека, которые мы обобщаем в понятии «сознания», и даже те, которые мы подразумеваем под «душой», если душа полагается как условие возможности мышления [Churchland & Churchland близки к такому пониманию дела в 1: 280-281].
Оставаясь в логическом пространстве задачи Тьюринга, т.е. пока ещё на уровне второй половины ХХ в., мы могли бы ставить задачу исчерпывающего познания возможностей искусственного интеллекта по состоянию на некоторый момент времени. Допу-
стим, нам надо потратить 10 лет на решение этой исследовательской задачи. Но в эти самые 10 лет технический прогресс изменит состояние самообучающегося ИИ настолько, что потребуются дальнейшие 20 лет для исследования его новых возможностей. Иначе говоря, у человека нет шансов когда-нибудь ответить на вопрос «Может ли машина мыслить?» применительно к любому моменту на этой линии времени. Возможности ИИ отныне и навсегда превосходят возможности их исчерпания человеческим умом. Но человек, в отличие от машины, есть мыслящее существо по определению (т.е., конечно, по самоопределению) и будет называть «мышлением» то, на что он способен в отличие от вычислительных устройств. Когда программа обыгрывает шахматного чемпиона, мы перестаём говорить, что шахматист «мыслит», хотя для нас несомненно, что он во время игры осуществляет работу ума. Это похоже на парадокс, пока мы думаем, что мышление происходит в голове индивида, имеющей сознание. Думаю, что здесь мы переходим в проблематику XXI в.
II. Кто мыслит и чем?
В моей первой части я старался рассуждать по-английски и цитировал в оригинале англоязычных авторов. Теперь, как я понимаю, назрела ситуация, в которой сподручнее рассуждать по-русски и использовать опыт отечественного мышления; в последние десятилетия я был включён в научные коммуникации с людьми, готовыми различать между думанием как функцией сознания, и мышлением как функцией работающих знаков в проблемных ситуациях. «Проблема шахматиста» мгновенно перестаёт быть проблемой: играющий шахматист напряжённо думает, но это не значит, что он мыслит.
Однако можно ли сказать про вычислительное устройство, что оно «думает»? Наш язык этому противится. А - что оно «играет»? А можно ли сказать, что «мозг Каспарова играет в шахматы»? Очевидно, что нет, язык противится, говорит Ноам Хомский, играет Каспаров. Хомский размышляет над этим в связи с задачей Тьюринга, напоминает, что Тьюринг не считал вопрос о «мыслящей машине» содержательным, но добавляет, что опыт размышления над такими предметами, может быть, поможет нам понять, что такое мышление вообще [2: 91-92]. Это возможно, я полагаю, если мы осуществим сдвиг всей проблематики, сместим её фокус с машины на человека. Прогресс искусственного интеллекта необ-
ходимо принять как вызов для философии человека: конструкт homo sapiens отражается в зеркале ИИ и понимает, что он себя не понимает. Что значит положение, что «человек мыслит»? Уж наверняка не то, что он способен пройти тест на IQ.
Поскольку же мы теперь человека, как мыслящее существо, будем понимать в отражении от искусственного интеллекта, временно задержимся на устройстве этого «зеркала». Понимание мышления как вычисления на множестве неинтерпретированных символов с использованием конечного набора правил было естественным для учёных, основавших кибернетику, поскольку оно естественным образом продолжало идею «логической машины» Лулла, Лейбница и др. и вдохновлялось идеалом точной науки. Как Декарт мыслил Бога совершенным математиком, так вся традиция научного разума не позволяла нам считать научный результат достаточным, если он не приведён, хотя бы не приближен к идеалу математизации. Познаваемая действительность всегда этому противилась, но учёный всегда хотел быть умнее её, и в этом смысле, познавая «мышление», - быть умнее самого себя со своей отнюдь не математической природой. «Логическая машина», равно у Лул-ла и у Лейбница, должна была быть моделью мышления, приближенного к Богу. Разработчики современных алгоритмов (Марков-ст., Пост, Тьюринг, Марков-мл., Колмогоров) наверняка не были теологами в манере Лулла и Лейбница, но они были математиками, а значит - наследниками традиции, которая обязывала. И если вообще ставить задачу создания математических теорий мышления, то такими они и должны быть, и именно такие теории пригодны для создания механических устройств, имитирующих такое мышление. Отражаясь в этом зеркале, homo sapiens себя не узнаёт, и теперь он должен задуматься о том, что значит быть мыслящим в его смысле, а не в смысле, заложенном им самим в идею ИИ. Примем это как вызов для нашего мышления.
Компьютер некоторым (пока не уточнённым) образом аналогичен человеческому мозгу. Но в компьютере нет сознания. В мозге оно некоторым образом есть, мы ведь его физически ощущаем в нашей голове. Но значит ли это, что граница индивидуального сознания проходит по границе индивидуального мозга? Или вообще - по границе индивидуального тела? Хомский говорит об этом предмете расплывчатым выражением «mind/brain», чтобы не уточнять детали, пока не требуется уточнение.
Компьютер осуществляет операции, подобные тем, которые осуществляет человек, когда думает. Некоторым (пока не уточнённым) образом компьютинг аналогичен человеческому думанию. Но значит ли это, что операторика и есть содержание думания, или хотя бы его главная часть? Может быть, это верно только для специальных случаев решения математических задач и игры в шахматы?
А что происходит, когда мы по вынуждению ситуации заменяем нашу систему знаков и тем самым содержание наших умственных усилий, - например, заменяем значение английского think на два значения думать и мыслить? Или когда Адам Смит вводит понятие «абстрактного труда» как знака идеализированного объекта вопреки тому очевидному факту, что трудится всегда конкретный человек? Или когда Карл Маркс, высоко оценив этот акт Смита, отображает его понятие на реальный труд и обнаруживает абстрактный характер конкретного труда в капиталистической системе хозяйства, и вводит понятие «отчуждения» и другие уместные в его контексте знаки? Это факты истории мышления, которые мы не назовём по-русски «историей думания», потому что дело не в движениях сознания Смита и Маркса. В культурной истории мыслит мышление, но индивиды некоторым образом мыслят в этом же самом процессе. Они «думают в режиме мышления», попробуем мы сказать. Как это уточнить?
Мыслящий индивид производит тексты, претендующие быть мыслью. Они удостоверяются как мысль, когда вызывают встречную работу ума, производящего текст, претендующий быть мыслью, и т.д. Мыслящее мышление заменяет значения в континууме значений, оно есть работа логоса, происходящая на людях, которые в этих процессах - не индивидуальные носители сознаний, а агенты исторической мыследеятельности.
Разработчик искусственного интеллекта, если признает эти соображения не лишёнными смысла, может, тем не менее, резонно возразить, что ему с этим нагромождением представлений нечего делать: машина это не примет. Но это и есть тот аспект, в котором машина в принципе не может мыслить. Она не живёт, не переживает, не попадает в ситуации ответственности за себя и своё окружение, а потому не коммуницирует (понимайте это в российско-европейском смысле, а не в смысле кибернетического communication!), и стало быть, не существует в режиме истории.
При этом исторична её действительность как специальной техники, но эта техника, именно как историческая сущность, не состоит из отдельных компьютеров, она состоит из продуктов и процессов мышления, а реальность процесса мышления - в зазорах между материальными образованиями вроде машин и текстов.
Но если мы таким образом станем утверждать достоинство человека как в принципе не сводимого к любой возможной в будущем машине, мы должны одновременно утвердить и достоинство устройств машинного разума, которые в принципе превосходят в своём собственном «деле» возможности самого талантливого человека. Возможность машинного разума тоже открыта в бесконечность, в математически точно определяемую «актуальную бесконечность». Не только рекурсивная функция в рамках одной алгоритмической системы, но и метасистемы, по замыслу замыкающие разные алгоритмы, и производные от алгоритмов программы вроде компьютерного моделирования ограничены исходным набором символов и правил (правил преобразования, подстановки и пр.).
Человеку, как известно, актуальная бесконечность доступна лишь как предмет его мышления, но не как предмет практического оперирования; здесь у него, как говорят математики, «потенциальная бесконечность». Зато человек не запрограммирован механически, и он в мышлении преодолевает логику, задавая самому себе альтернативные логические нормы. И подстановки, которые он производит, не заложены в нём, как в марковском алгоритме, а осуществляются как метафоры, и в этом смысле он мыслит как человек.
Я неправ, конечно. Я решаюсь высказать эти соображения, потому что думаю, что я чуть менее неправ, чем мои современники, против которых я мыслю. И в той мере, в какой мои размышления могут быть приняты как осмысленные, я готов делать из них некоторые выводы, полагая, опять же, что контекст мышления XXI в. возбраняет нам методологическую невинность. Нельзя пренебрегать традицией, но в нашей традиции мышления есть помимо прочего и декартовский принцип во всём сомневаться.
Когда информация, сначала как предмет мышления, была абстрагирована классиками кибернетики от человеческих значений, содержаний и смыслов, она стала ещё и отдельной реальностью, -как экономическая идеология в своё время сделала реальным абстрактный труд. Информация обрела своё независимое существо-
вание в «киберпространстве», как это обсуждалось в моём докладе [3], и само это пространство оказалось привлекательным для непритязательных, равно как и для незрелых умов. Молодые люди входят в киберпространство, увлечённо переживая фантасмагории, и возвращаются в повседневность с опытом этого параллельного мира. По форме события это сходно с опытом духовности, обретаемым в храме, когда человек возвращается в повседневность с живой памятью о встрече с Богом. Но если религиозный опыт может быть истинной ценностью для индивида (пусть даже это сомнительная ценность для социокультуры), то опыт киберпространства, судя по всему, не вредит только тому, кто способен выдерживать по отношению к нему ироническую дистанцию. Многим ли это дано?
Странным образом человечество пришло к рубежу, когда ему надо заново учиться жить со всеми своими великими творениями: с религией, с деньгами, с искусством, с информацией, - потому что все они перестают служить человеку и вместо этого делают его своим заложником. Кроме своих традиционных зависимостей, человек теперь ещё и муха в информационной паутине.
Надо начинать понимать проживаемую действительность и своё место в ней. Но нет серьёзных программ герменевтики бога, герменевтики совести, герменевтики денег, тем более - герменевтики информации. А может быть, имеет смысл и вопрос о «герменевтике мозга»?
Библиографический список
1. Geirsson, Heimir andLosonsky, Michael, eds. Readings in Language and Mind - Cambridge, Mass. & Oxford: Blackwell Publishers, 1996
2. Chomsky, Noam. Language and Thought - Wakefield, Rhode Island & London: Moyer Bell, 1993
3. Литвинов, В.П. Информация, знание в анабиозе // Философские и методологические проблемы информационных технологий и киберпространства - Пятигорск: Изд. ПГЛУ, 2010. - с. 113-119.
