CC BY
43
Барышников П.Н. «Как одолеть машину? Стратегия и тактика на «игровом поле»...»
УДК 165.8
DOI 10.17726ДОШТ2019.1.16.4
Как одолеть машину? Стратегия и тактика на «игровом поле» ментализма и механицизма
Барышников Павел Николаевич,
доцент, кандидат философских наук, доцент кафедры исторических, социально-философских дисциплин, востоковедения и теологии ФГБОУ ВО «Пятигорский государственный университет», Пятигорск, Россия
pnbaryshnikov@pglu.ru
Аннотация. В данной статье речь пойдет об известной полемике между представителями ментализма и механицизма в контексте некоторых положений вычислительной философии сознания. Статья структурирована в виде перечня сильных и слабых аргументов как со стороны сторонников, так и скептиков вычислительных моделей сознания. Классические аргументы против машинного функционализма оказываются ослабленными непроясненной природой вычисления и нерезким объёмом этого понятия. Формулируется вопрос, являются ли формальные ограничения арифметических процедур достаточным условием для отказа от компьютерной реализации человеческих интеллектуальных функций. Для вычислительной философии сознания крайне значима обусловленность объяснительных свойств компьютерных моделей сущностными свойствами машинного и человеческого типов вычисления. В работе обосновывается тезис о контекстуальной зависимости вычислительных моделей от философских или инженерных критериев эффективности.
Ключевые слова: вычислительная философия сознания; мента-лизм; механицизм; гёделево предложение; вычислимость.
How to overpower a machine? Strategy and tactics on the «playing field» of mentalism and mechanicism
Baryshnikov Pavel N.,
Associate professor, Department of History, Social Sciences, Philosophy, Oriental Studies and Theology Pyatigorsk State University
pnbaryshnikov@pglu.ru
Abstract. This article deals with well-known debate between representatives of mentalism and mechanicism in the context of certain statements of the computational philosophy of mind. The article is structured in the form of a list of strong and weak arguments from both supporters and skeptics of computational models of mind. Classical arguments against machine functionalism prove to be weakened by the unclear nature of computation and the fuzzy volume of this notion. The question is formulated as to whether formal limitations of arithmetic procedures are sufficient condition for rejection of computer realization of human intellectual functions. For the computational philosophy of mind, the conditionality of the explanatory properties of computer models with the essential properties of machine and human types of computation is extremely important. The work justifies the thesis of contextual dependence of computational models on philosophical or engineering efficiency criteria.
Keywords: computational philosophy of mind, mentalism, mechanicism, godel sentence, computability.
1. Атака на машинный функционализм
Заголовок статьи указывает на то, что в дальнейшем речь пойдет о роли противостояния ментализма и механицизма в контексте вычислительной теории сознания. Предполагается также обоснование глубинной взаимосвязи гёделевского аргумента с проблемами концептуальной семантики.
Теорема Гёделя в упрощенной трактовке гласит: «Всякая система математических аксиом, начиная с определенного уровня сложности, либо внутренне противоречива, либо неполна» [1, с. 7]. Это утверждение можно экстраполировать на проблему соотношения компьютерных вычислений истинности и человеческих
ментальных содержательных процессов. По мнению Р. Пенроуза, основные тезисы сторонников невычислимости ментальных процессов сводятся к нескольким положениям:
• Компьютер способен следовать командным правилам, но не способен следовать правилам базового уровня, лежащим в основании первых правил.
• Человеческое понимание не сводится к алгоритмическим процедурам, т.к. человек способен рассуждать о свойствах собственных рассуждений.
• Проблема вычислимости ментальных процессов лежит в поле логических оснований математики, наследуя всю проблемную область, вытекающую из теоремы Гёделя.
• Понимание значений математических выражений невозможно описать с помощью самих математических выражений.
• Если машина Тьюринга будет вычислять только корректные строгие выражения в поисках «непознаваемо обоснованных» выражений, она никогда не остановится [2].
Приведенные здесь аргументы выстроились в настоящую атаку против вычислительного функционализма, т.к. в них используется инструментарий самих вычислительных подходов. Математическое понимание смыла выражений - основа человеческих вычислений, в то время как машинный интеллект реализует вычисления лишь в рамках предзаданной алгоритмической модели. Машина не способна вычислять истинность выражений вне правил заданной аксиоматики; для человеческих вычислений это вполне возможно.
Что следует из этих положений для теории вычислимости в частности и компьютационализма в целом? Из этих положений следует непреодолимое для вычислительных моделей разума формальное противоречие. Чтобы раскрыть это противоречие1, Р. Пен-роуз, в свойственной ему манере, проводит утонченный мысленный эксперимент. В этом эксперименте робот (машина Тьюринга), минуя секвенциальное представление всех математических правил, получает искусственные и естественные данные, вместе с ко-
1 Эта позиция выражена в тезисах А и В:
А - Всякое мышление есть вычисление;
В - Осознание есть результат физической активности мозга, которую можно непротиворечиво моделировать вычислительными средствами [Пенроуз, 2005, с. 35].
торыми ему в память поступают данные о внутренних критериях истинности, которые позволяют оценить (sic! - не вычислить) обоснованность той или иной математической истины. В итоге, если бы машина Тьюринга смогла реализовать все математические процедуры, свойственные человеку-математику, ей пришлось бы от «понимания» обоснованности формальной системы (эквивалентной функционалу физических механизмов) прийти к истинности гёделевского утверждения относительно этой формальной системы и к тому факту, что это утверждение не входит в состав формальной системы. Это и есть непреодолимое в рамках цифровой логики машины Тьюринга препятствие для компьютационализма.
2. Игра в имитацию и защита функционализма
Контраргументация, с помощью которой функционалисты пытаются обойти данное фундаментальное противоречие, при всей изощренности формально-логического аппарата сводится к утверждениям:
• физические процессы, реализующие сознание, обладают невычислимыми свойствами, которые можно описать в терминах нестандартных информационных или физических моделей;
• для понимания вычислительных свойств разума достаточно непротиворечивой имитации математического мышления; при этом очевидно, что никакие познавательные механизмы, реализованные в вычислениях машины Тьюринга, не способны реализовать математическое мышление человека.
Таким образом, ментализм гёделевского типа ставит дилемму: либо существуют абсолютно неразрешимые математические утверждения, либо человеческий ум превосходит конечную машину. Если природа сознания в полной мере необъяснима ком-пьютационалистскими моделями, то невозможно и построение вычислительного устройства (конечного автомата), адекватно воспроизводящего когнитивные отношения «входа» и «выхода», реализованные в функциях сознания.
Однако сильный выпад в сторону вычислительных моделей сознания можно аргументированно блокировать, если перенести проблему в плоскость проблемы вычислимости. Содержание по-
нятия вычислимости имеет свои противоречивые этапы становления. Наиболее известная формулировка, связанная с эффективностью вычислимой функции, содержится в тезисе Черча-Тьюринга: если существует алгоритм, то его эквивалентами являются машина Тьюринга, рекурсивно определяемые функции или же замкнутые лямбда-выражения [3]. Следовательно, в такой методологии функция признается эффективно вычислимой, если ее значение может быть найдено посредством чисто механического процесса.
Проблема состоит в том, что во многих подходах (модели Э. Поста, А. Маркова, Х. Карри) не доопределено понятие эффективно вычислимой функции. Например, впоследствии было доказано, что эффективно вычислимая функция существует по крайней мере в трех сходных и дополняющих друг друга видах -в форме рекурсивных функций, лямбда-исчисления и машины Тьюринга [4, с. 403]. Это различение позволило создать такой язык с высокой степенью абстрагирования, как LISP. Основываясь на алгебре списочных структур, лямбда исчислении и теории рекурсивных функций, создатели LISP через формирование списочных структур смогли реализовать обработку программой других программ. То есть по сути реализовать в вычислении рекурсивную функцию.
В этой размытой области определения эффективной вычислимой функции разворачивается основная полемика между мента-листами и механицистами, в которой первые полагают, что гёде-лево предложение непреодолимо для конечных алгоритмических систем, вторые - что базовые свойства человеческого мышления могут быть формализованы либо на уровне компьютационных моделей работы мозга, либо на уровне синтаксических архитектур мыслительных процессов. При этом с позиций механицизма формальные ограничения арифметических процедур - недостаточное условие, чтобы отказать машинному интеллекту в возможности реализации человеческих интеллектуальных функций или в объяснении онтологии сознания, т.к. существуют иные формы (кроме тьюринговской) представления вычислимости.
3. Проблема вычислимости - ключ к тайнам сознания
Данная полемика позволяет лучше понять исследовательский оптимизм когнитивистов, которые, с одной стороны, утвержда-
ют, что сознание есть процесс обработки информации (особый тип вычислений), с другой - что обработка информации связана с переходом синтаксиса в семантику, функциональных состояний в ментальное содержание и наоборот. То есть утверждается, что существует некоторое функциональное вычислительное состояние, которое является причиной содержания ментальных состояний. Иными словами, человеческий разум представляется как результат работы вычисляющего автомата, который способен понять содержание гёделевого предложения.
Как возможно обоснование истинности тезиса Черча-Тьюринга применительно к когнитивным процессам? Ю. Л. Ершов и В. В. Целищев указывают на то, что связь когнитивных процессов и процессов сознания с вычислительными функциями обнаруживается, если допустить, что любой когнитивный шаг выразим в виде операции, трактуемой математически [5]. В этом случае мыслительные процедуры можно представить как формальные системы, реализующие механические бессодержательные операции. Если понятие формальной системы представляется как человеческий инструмент мышления, то понятие эффективной вычислимости связывается с человеческими когнитивными способностями.
Становление Классической вычислительной теории сознания с ее символьным комбинаторным подходом обусловлено полемикой вокруг тезиса Черча-Тьюринга, связанного с ограничениями, которые А. Тьюринг предложил наложить на конфигурации рабочей памяти человека. В работах ряда авторов мы встречаем следующие обобщения:
• Непосредственно распознаваемая символьная конфигурация однозначно детерминирует следующий вычислительный шаг.
• Имеется фиксированная граница числа символьных конфигураций, которая должна быть распознана непосредственно.
• Имеется фиксированное число состояний, которые следует принять во внимание.
• Изменяются только непосредственно распознаваемые символьные конфигурации.
• Новые наблюдаемые конфигурации находятся в ограниченной дистанции от непосредственно наблюдаемых до этого конфигураций [5], [6].
Здесь возникает парадоксальная ситуация. Так называемая Человеческая версия тезиса Черча-Тьюринга становится истинной при условии, что «любая функция, которая может быть вычислена человеческим вычислителем, вычислима по Тьюрингу» [7]. Но при этом данные эмпирических наук о сознании свидетельствуют о том, что работа сознания и мозга не удовлетворяет ни одному из перечисленных ограничений, которые являются необходимыми условиями эквиваленции мышления и вычисления. Человеческие математические операции онтологически отличны от эффективной функции вычислимости, реализуемой в машине Тьюринга.
Машинная версия тезиса Черча-Тьюринга гласит, что любая функция (от положительных чисел), которая может быть вычислена конечной машиной, вычислима по Тьюрингу. В этом случае в эффективный класс машин попадают человек, абстрактная математическая машина или физический компьютер. Все три типа вычислителя должны удовлетворять условиям конечности:
Условие 1. Имеется фиксированное число символьных конфигураций, которые может распознать вычислитель.
Условие 2. Имеется фиксированное число функциональных состояний сознания, которые следует принимать в расчёт.
Таким образом, к человеческому разуму в терминах компью-тационализма должны быть применимы взаимоисключающие требования: 1) для реализации эффективного вычисления тьюрин-говского типа разум должен реализовать функции, которые могут быть вычислимы детерминистским механическим устройством; 2) при этом разум должен быть способен к осознанию истинности гёделева предложения, что не свойственно детерминированным механическим устройствам.
Некоторые итоги и поле неопределённости
В. В. Целищев обоснованно указывает на то, что три варианта интерпретации тезиса Черча-Тьюринга (человеческий, машинный абстрактный и машинный физический) размывают понятие эффективной вычислимости [8]. Отсюда вытекает необоснованность философских концепций компьютационализма относительно природы сознания, т.к. в философских теоретико-методологических подходах, как правило, не прописывается, в каком смысле употребляется понятие вычислимости. Очевидно, что эволюция
философского компьютационализма взаимосвязана с этапами технологического развития в области вычислительной техники. В настоящее время в мире физических машин существуют аналоговые, дискретные и даже квантовые вычислители, которые не удовлетворяют формально-логическим канонам тезиса Черча-Тьюринга. И наоборот, существуют вполне математически представимые абстрактные машины, которые полностью удовлетворяют условиям тезиса Черча-Тьюринга, но при этом не реализуемые физически (например, машина Ганди [9]).
Итак, каким образом связаны проблема эффективной вычислимости и теорема Гёделя с теорией ИИ и вычислительной философией сознания? В первую очередь необходимо отметить, что теорема Гёделя о неполноте формальных систем не может быть экстраполирована на проблему физической и математической реализации сознания. Это возможно лишь при принятии особой «платонической» идеологии (которая свойственна, например, Р. Пен-роузу). В этом случае необходимо принять за аксиому положения о том, что, во-первых, физический мир - это реализация математических универсалий. Во-вторых, идея объяснения каузально замкнутых, но невычислимых (не алгоритмичных) процессов за счет неформализуемых свойств материи не представляется достаточной для объяснения ментальных процессов, т.к. в этой идее не прописана роль субъективного. В-третьих, справедливой критике подвергается тезис о возможности машины Тьюринга, которая будет моделировать математическое мышление человека, но будет так сложна, что не будет понятна человеку [10]. Получается, что машина Тьюринга недостаточна для объяснения работы сознания, т.к. эта машина не справляется с гёделевым предложением.
Однако, если обратиться к проблеме с инженерных позиций, то ситуация кардинальным образом меняется. Искусственный интеллект (как машинная реализация работы сознания) представляется как особый класс объектов, способных решать определенный класс задач (в том числе и математических). Условно обозначенная машина Гёделя [11] - это универсальный решатель задач, способный посредством бесконечного количества итераций прийти к самокоррекции (по аналогии с генетическим программированием на языке LISP). Тест Тьюринга, реализованный на машине Тьюринга, вызывает массу вопросов у инженеров, т.к. не существует строго формализованных критериев разумности. Укажем также на
то, что известная проблема неопределённости перевода У. Куайна тоже может интерпретироваться как своеобразный тест Тьюринга. В этом случае вопрос о вычислимых свойствах сознания попадает в порочный круг, т.к. не только ответ на этот вопрос меняется в диапазоне различных онтологических программ, но и содержание самого вопроса будет меняться в физическом, биологическом, когнитивно-компьютационном, формально-логическом, математическом, социально-коммуникативном и иных измерениях человеческого разума.
Литература
1. Нагель Т., Ньюмен Д. Р. Теорема Гёделя. М.: Красанд, 2010. 120 с. (Nagel T., Newman D. R. Godel's Theorem. M.: Krasand, 2010. 120 p.)
2. Пенроуз Р. Тени разума: в поисках науки о сознании. Москва-Ижевск: Институт компьютерных исследований, 2005. 688 с. (Penrose R. Shadows of the Mind: A Search for the Missing Science of Consciousness. Moskva-Izhevsk: Institut komp'juternyh issledovanij, 2005. 688 p.)
3. Church A. An Unsolvable Problem of Elementary Number Theory // American Journal of Mathematics. 1936. Т. 58. № 2. P. 345.
4. Copeland B. J., Bowen J. P., Sprevak M., Wilson R.J. The Turing guide. Oxford University Press, 2017. 546 c.
5. Ершов Ю. Л., Целищев В. В. Алгоритмы и вычислимость в человеческом познании. Новосибирск: Изд-во СО РАН, 2012. 504 c. (Ershov Y. L., Tselishhev V. V Algorithms and computability in human cognition. Novosibirsk: Izd-vo SO RAN, 2012. 504 c.)
6. Sieg W. Step by Recursive Step: Church's Analysis of Effective Calculability // Bulletin of Symbolic Logic, 1997. Vol. 3. P. 154-180.
7. Целищев В. В., Ершoв Ю. Л. Алгоритмизация знания и ее пределы (исследование представления мышления в логико-математических языках первого и второго порядков, вычислимости в свете тезиса Черча и сферы действия ограничительных теорем Геделя и Тарского). Проект № 125, 2005 (Основные научные результаты СО РАН) [Электронный ресурс]. URL: http://www.sbras.ru/win/sbras/rep/rep2005/ tom2/pdf/125.pdf. (Tselishhev V. V. Ershov Y. L. Algorithmization of knowledge and its limits (study of the representation of thinking in logical and mathematical languages of the first and second order, computability in the light of Church's thesis and the scope of the restrictive theorems of Godel and Tarski). Project No. 125, 2005 (Osnovnye nauchnye rezul'taty SO RAN) Online available. URL: http://www.sbras.ru/win/sbras/rep/ rep2005/tom2/pdf/125.pdf.)
8. Целищев В. В. Рационалистический оптимизм и философия Курта Геделя // Вопросы философии. 2013. № 8. C. 12-23. (Tselishhev V. V. Rationalistic Optimism and Kurt Godel's Philosophy // Voprosy filosofii. 2013. № 8. P. 12-23.
9. Copeland B.J., Shagrir O. Physical Computation: How General are Gandy's Principles for Mechanisms? // Minds and Machines. 2007. Т. 17. № 2. P. 217-231.
10. Юлина Н. С. Роджер Пенроуз: Поиски локуса ментальности в квантовом микромире // Вопросы философии. 2012. № 6. C. 116-130. (Yulina, N. S. Roger Penrose: The Search for the Locus of Mentality in the Quantum Microcosm // Voprosy filosofii. 2012. № 6. P. 116-130.)
11. Schmidhuber J. Godel Machines: Towards a Technical Justification of Consciousness // Adaptive agents and multi-agent systems III (ed. D. Kudenko, D. Kazakov, E. Alonso). Berlin, New York: Springer, 2008. P. 1-23.
