CC BY
44
Доказательство, понимание и компьютеры
УДК 519.7
DOI 10.17726ДОШТ.2020.1.5
Доказательство, понимание и компьютеры1
Целищев Виталий Валентинович,
доктор философских наук, профессор, научный руководитель Института философии и права СО РАН, Новосибирск, Россия
Аннотация. Статья посвящена анализу концепции понимания в математическом дискурсе. Рассматривается роль понимания в двух типах доказательства — традиционном концептуальном и компьютерном. Показано, что концепция понимания в рамках философии математики для случая компьютерного доказательства наиболее интересна в работах позднего Витгенштейна. Раскрыт вопрос, какой должна быть философская теория, в которой такого рода понимание может быть частью концептуального аппарата. Требования к такой теории включают объяснения различных типов «компетентного» математического поведения, требуемого от создателей компьютерных программ. Коль скоро эти программы не сводятся к той или иной стратегии перебора, а являются в определенной степени «понимающими», искомая философская теория должна сблизить «человеческое понимание» и «компьютерное понимание».
Ключевые слова: математическое доказательство, компьютерное доказательство, Лейбниц, Декарт, Воеводский, Витгенштейн, действие, поведение, практика.
Proof, understanding, and computers
Tselishchev Vitaly V.,
Deputy Director, Institute of Philosophy and Law, Siberian Branch of Russian Academy of Science, Novosibirsk, Russia
1 Исследования, нашедшие отражение в данной статье, поддержаны РФФИ (грант 20-011-00723).
Abstract. The article analyzes the concept of understanding in mathematical discourse. The role of understanding in two types of proof — traditional conceptual and computer-based-is considered. It is shown that the concept of understanding in the framework of the philosophy of mathematics for the case of computer proof is most interesting in the works of the late Wittgenstein. Next, we consider the question of what should be a philosophical theory in which this kind of understanding can be part of the conceptual apparatus. The requirements for such a theory include explanations of the various types of «competent mathematical behavior» required of computer program creators. Since these programs are not limited to a particular search strategy, but are «understanding» to a certain extent, the desired philosophical theory should bring «human understanding» and «computer understanding» closer together.
Keywords: mathematical proof, computer proof, Leibniz, Descartes, provincial, Wittgenstein, action, behavior, practice.
В современной математической практике довольно частым явлением стали компьютерные доказательства. В среде как работающих математиков, так и философов математики продолжаются споры о статусе таких доказательств; диапазон мнений по этому поводу распростирается от полного отрицания практики использования компьютеров до утверждения законности такого использования. Один из спорных вопросов в этой полемике заключается в философском осмыслении концепции понимания математического доказательства. Согласно традиционному взгляду, доказательство является аргументом, призванным убедить участников математического сообщества в его истинности. Основным концептуальным средством этого выступает понимание как когнитивная процедура, апеллирующая к смыслу и значению математического символизма. В конечном счете, речь идет об определенной человеческой способности, культивируемой сообществом математиков. При компьютерном доказательстве субъект, или в современной терминологии агент, обладающий такой способностью, уступает место системе действий согласно некоторому алгоритму. Коль скоро компьютерное доказательство является доказательством, и стало быть аргументом, встает вопрос, какова роль понимания в признании значимости подобного аргумента.
Проблема состоит в том, что два вида доказательства радикально расходятся при попытках ввести в дискурс концепцию по-
Доказательство, понимание и компьютеры
нимания. На ранних этапах развития искусственного интеллекта парадигмальным примером упомянутого различия была шахматная задача: поставить мат королю королем и ладьей. Озадаченность вызывали ходы компьютерной программы для решения этой задачи, потому что они были непостижимы для человека, хотя и были весьма эффективны в конечном счете. Озадаченность была вызвана отсутствием понимания того, как компьютер решает задачу. Аналогичная ситуация имеет место в случае сопоставления традиционного математического доказательства и компьютерного доказательства. Такое сопоставление вызывает необходимость в концепции понимания как чего-то такого, что позволит найти нечто общее в этих двух видах аргументации, если компьютерное доказательство также оказывается средством убеждения. Здесь мы имеем значительное число возможностей, без сужения которых трудно прийти к чему-то определенному. Например, под пониманием в случае математического доказательства можно иметь в виду объяснение того, почему это доказательство является истинным. В случае компьютерного доказательства под пониманием можно иметь в виду некоторые принципы построения программы, и т.п. Но такие тривиальные соображения не приносят особого успеха, и по-настоящему при обсуждении роли понимания в связи с концепцией доказательства надо учитывать весьма много факторов. Например, таким фактором может служить философский фон, поскольку сама концепция понимания принадлежит философии. Для иллюстрации этого можно привести довольно занимательный эпизод, описанный некоей Кэтлин Рейн. Уинифред Николсон рассказывала о курьезном случае с ее прабабкой, которая была также бабушкой Бертрана Рассела. После визита к внуку та заметила: «Я не знаю, почему все мои внуки так глупы». «Я не знаю, почему она считала великого логика глупым в то время; но глупость логического позитивизма зиждется в его посылках...» — отметила Кэтлин Рейн [1, р. 347].
Здесь, оценив анекдотичность ситуации, нужно обратить внимание на упоминание в качестве фона логического позитивизма, представители которого долго разделяли недоверие к семантике языка, предпочитая исследования синтаксиса. Но именно семантические аспекты открывают путь к пониманию, и излишняя синтаксическая диета философии логического позитивизма была тем самым фоном, его посылками, которые вызвали отсутствие пони-
мания на его счет. При более серьезной интерпретации этого эпизода можно учесть то обстоятельство, что Principia Mathematica Рассела и Уайтехеда имела, по словам Геделя, в качестве главного недостатка то, что была исключительно синтаксической формальной системой с полным отсутствием семантики. В частности, весьма чувствительным является осознание философских предпосылок, которые могут быть положены в основу такого анализа [2].
В данной статье будут представлены два вида философских соображений, один из которых является подходящим для обсуждения концепции понимания в обычном математическом дискурсе, а второй — скорее для компьютерного доказательства.
Математическое доказательство из аксиом является последовательностью утверждений, последним из которых является теорема, которая объявляется математической истиной. В зависимости от используемой логики, такая последовательность может быть разной длины. Предельным случаем является компьютерная программа, число строк которой делает доказательство практически необозримым. Но в любом случае, от содержательного до полностью формализованного доказательства требуется понимание того, почему теорема является истиной и в каком смысле компьютерные инструкции вообще могут считаться доказательством. Однако в отличие от понятия доказательства концепция понимания является более расплывчатой, интерпретируемой в зависимости от контекста.
В отношении природы математического доказательства также есть значительный разброс мнений. Я. Хакинг различает два типа доказательства: один связан с именем Декарта, другой — с именем Лейбница:
«В картезианской методологии, для того чтобы постичь истину, вы должны держать в голове все доказательство сразу... Не пробегайте быстро по моей аргументации, но осваивайте его во всей его полноте и держите его в голове. Вы должны быть способны пробежать доказательство как целое, видеть его в целом, прежде чем правильно его понять» [3, р. 45].
«.Лейбниц прозорливо нащупал кон-
цепцию доказательства, которую мы учим
в курсе элементарной логики. Доказательство-как-конечная-по-следовательность-предложений-каждое-из-которых-есть либо-ак-сиома-или-выводится-из-предыдущих-членов-последовательно-сти-однократным-применением-правила-вывода» [3, р. 41-43].
Доказательство, понимание и компьютеры
При таком разделении находит свое место и компьютерное доказательство, непосредственно вытекающее из понимания Лейбница. В. Воеводский работал над процедурами проверки proof-checkers на основе унивалентных оснований, так чтобы все математические доказательства для публикации сопровождались их машинно-проверяемыми эквивалентами. Хакинг называл такую спекуляцию «крайностью Воеводского», крайней версией лейбницевского доказательства.
Если картезианское доказательство часто ассоциируют с эффектом «ага!», когда понимание приходит внезапно, то лейбни-цевское доказательство больше похоже на систему инструкций. С точки зрения разработки концепции понимания в математике желательна такая ее экспликация, которая была бы применима в обоих случаях, включая «крайность» Воеводского. Более точно, вопрос в том, какого рода понимание есть в случае проверяющих математические доказательства программ.
Речь идет о существующем различии между знанием, что математическое утверждение истинно, и пониманием, почему оно истинно. Если в обыденном математическом дискурсе соотношение открытия и обоснования более или менее интуитивно понятно, то какого рода оно в случае компьютерных доказательств? Комбинаторная методика сочетаний математических определений и аксиом, которая может быть свойственна для компьютерного доказательства, противостоит математическому творчеству. Последнее заключается в применении «хорошо отобранных» определений и аксиом [4, p. 51]. В математике представлены множества такого рода возможностей, но только понимание обеспечивает навигацию среди них. Можно согласиться с такой трактовкой математического творчества, но при этом встает вопрос, чем же на самом деле является понимание в ходе доказательства. Другими словами, хотелось бы получить такие же философские объяснения природы понимания, какие есть в философии математики в отношении понятия доказательства.
Поскольку существуют две концепции доказательства, очевидно, что и концепции понимания, сопровождающего доказательство, должны различаться. Терстон, признавая трудности в характеризации понимания математического дискурса, выделяет на примере классической математики несколько аспектов этой проблематики. Он рассматривает фундаментальную концепцию
классического анализа — понятие производной. Понимание в этом случае обязано связи с другими концепциями, с физикой, с измерением, и даже с метафизикой бесконечно малых. Действительно, последнее связано с критикуемым, начиная с Беркли, понятием бесконечно малой величины: производная функции есть отношение бесконечно малого изменения значения функции к бесконечно малому изменению аргумента. Далее, нотационные или символические манипуляции, взывающие к чувству некоторого рода симметрии, например производная sin (x) есть cos (x). Следующим видом понимания производной является классическая 2 — ™ техника анализа. За ним следует геометрическое осмысление производной как наклон тангенциальной прямой на графике функции. Помимо чисто математических «ассоциаций», в ход идут физические: при рассмотрении функции как описания движения на графике производная является мгновенной скоростью в данный момент времени. В чисто вычислительном аспекте производную можно понимать как наилучшую линейную аппроксимацию функции близ выбранной точки. Наконец, производная может рассматриваться как предел процесса наблюдения в микроскопах со все большей степенью разрешимости [5, p. 165].
Следует обратить внимание на то, что ни одна из приведенных ассоциаций с понятием производной не является определением, за исключением соображений, связанных с 2 — ™ техникой. Все ассоциации являлись определенного рода подступами к понятию производной, которые осмысливались, очищались, уточнялись, пока не приводили к логическому определению производной. В этом смысле такие ассоциации являются результатом процесса понимания математической концепции. Они не являются независимыми и по большей части переплетаются друг с другом в ходе исторического развития математики. Само наличие столь многих ассоциаций связано с характерными особенностями математического мышления. Будучи особой частью когнитивных способностей человека, оно связано со многими их разновидностями. Опять-таки Терстон упоминает следующие важные когнитивные средства, привлекаемые в ходе математической практики. Во-первых, это среда обыденного языка, в котором формулируются математические результаты, например «квадрат разности двух величин равен произведению их суммы и разности». Во-вторых, это визуальные средства в виде диаграмм, чертежей, наглядных манипу-
Доказательство, понимание и компьютеры
ляций символами. Появляется все больше свидетельств, что эти средства являются не только вспомогательными, или эвристическими, но играют важную роль в математическом мышлении [6]. В-третьих, это логика и дедукция. Хотя в реальной математической практике эти вещи являются скорее средством завершения исследования, нежели средством поиска, тем не менее дедукция держит математическое мышление в рамках определенных норм, зафиксированных в логических законах и категориях. В-четвертых, это некоторого рода антипод дедукции, а именно интуиция, ассоциации, метафора. Эти средства являются важнейшей частью математического творчества, и объяснение их важности включает попытки осмысления таких трудных вещей, как природа метафоры. В-пятых, это использование различных алгоритмов при обращении с математическими объектами, например школьные правила умножения или деления одних чисел на другие. Наконец, это помещение математического мышления в темпоральную среду, когда функция считается действием, процессом в реальном времени. Это последнее обстоятельство роднит концептуальную среду, из которой исходит понимание математических понятий человеком, с процессами машинного «мышления» [5, р. 167]. К этому вопросу мы вернемся позднее.
Теоремы классического анализа принадлежат картезианскому подходу к концепции доказательства. Уже из приведенных выше соображений о природе понимания виден широкий спектр средств, которые используются в математическом мышлении. Здесь основная трудность формулировки или экспликации понятия понимания состоит как раз в слишком большом разнообразии средств языка, интуиции, мнемоники, дедукции и т.п. Такая экспликация затруднительна именно из-за обилия источников математического творчества. Иная ситуация с формальным представлением математических результатов, являющаяся еще более радикальной в случае компьютерных средств доказательства.
Для прояснения различий двух типов понимания важны два рода размышлений и аргументации. Один тип связан с совокупностью математических методов и особенностями математического дискурса. Второй тип предполагает философский анализ концепции понимания в математическом дискурсе. Другими словами, в какой степени нынешняя философия математики, в противопоставлении или же в дополнении к математической практике, может
прояснить вопрос о природе такого понимания. В математическом сообществе весьма распространен взгляд, что философия математики вряд ли вообще может внести какой-то вклад в обсуждаемые особенности математического дискурса. Тем не менее, в хаосе мнений по этому поводу можно нащупать некоторую стратегию, направленную на реабилитацию философии в данном вопросе.
Ввиду расплывчатости самой концепции понимания в обыденном неформальном математическом дискурсе, первое приближение к экспликации понимания следует пытаться сделать в более ограниченном контексте формального доказательства, где нет места перечисленным выше вариантам понимания. В частности, экспликацией понимания в формальном доказательстве могло бы быть понятие интерпретации. На уровне семантики понимание явилось бы гораздо более естественным элементом математического дискурса.
Следует заметить, что обсуждение концепции понимания математического доказательства стала осуществляться в философском плане относительно недавно. Проблематика подобного рода возникла в связи с программой Х. Патнэма «сколемизации всего». Для языков первого порядка, полагает Патнэм, тотальное использование языка фиксирует единственную «намеренную интерпретацию» не в большей степени, чем это делает любая аксиоматическая система [7, p. 33]. В философском плане это сходно с утверждением Витгенштейна, что значения выражения не могут быть исчерпывающим образом заданы правилами. Таким образом, требуется еще и «понимание». Действительно, если наше использование математических терминов не «схватывается» аксиомами, тогда мы нуждаемся в дополнительном объяснении. Это дополнительное объяснение должно представлять теорию того, как употребляется математический язык. П. Бенацерраф полагает по этому поводу следующее: «Математическая практика отражает наши интенции и контролирует наше использование математического языка такими способами, которые могут не осознаваться нами в любой заданный момент и которые превосходят то, что мы точно устанавливаем в любом заданном объяснении» [8, p. 111].
Таким образом, понятие интерпретации, которое бы претендовало на экспликацию концепции понимания, является явно недостаточным. К. Райт считает, что Витгенштейн полагал недостающим параметром в определенности языка человеческую природу
Доказательство, понимание и компьютеры
или человеческую практику. Мы приобретаем способность участия в практике, и в такое приобретение вносят вклад не только наши рациональные способности, но также и субрациональная природа нашего мышления. Райт рассматривает эту субрациональную природу как определенную естественную склонность человека поддерживать определенные структуры суждения и реакции на них [9, р. 122].
Если это действительно так, тогда придется признать, что в значительной степени математический дискурс не подлежит полностью суду рациональных принципов. Но при этом нужно иметь в виду, что такого рода проблемы возникают в связи с соотношением формулировки математических результатов в обыденном языке. Хотя программа Патнэма основывалась на анализе языка первого порядка, он сделал ее практически универсальным языковым феноменом, объявив о «сколемизации всего». Апелляция к идеям Витгенштейна о следовании правилу в данном случае ведет к затруднению, в частности к скептическим аргументам касательно понимания. Заметим в этой связи, тем не менее, что иллюстрация скептического аргумента в работе С. Крипке носила математический характер [10].
В этой ситуации имеет смысл рассмотреть, какого рода философия математики может быть полезна для анализа понимания в предельно формализованных контекстах, включая пруверы и другие компьютерные средства, используемые для проверки доказательства математических теорем. Формальная верификация математического дискурса не дает никаких намеков по поводу того, почему доказанная компьютером теорема является истинной. Поскольку к компьютерным программам не применимы, как уже указывалось выше, толкования понимания, свойственные обыденному математическому дискурсу, нахождение релевантных философских резонов для концепции понимания будет важным шагом в решении поставленного выше вопроса: имеет ли смысл обращаться к философии математики для экспликации понимания математического доказательства.
Компьютерные операции являются в общем системой инструкций, следовательно, доказательство компьютерными средствами представляет концепцию доказательства в духе Лейбница. Что же касается понимания доказательства, то оно, очевидно, заключается в обосновании тех способностей человека, которые
позволяют задавать инструкции. Дж. Авигад полагает, что понимание есть обладание определенными способностями [11]. Трактовка способностей подобного рода относится скорее к тому разделу философии, который способен дать характеристику этих способностей, по крайней мере в ограниченных контекстах. Если таким контекстом является процесс доказательства, то подходящей моделью понимания доказательства может быть формальная верификация и автоматическое «размышление». При этом главной задачей в экспликации понимания в ограниченном контексте является встраивание характеристик понимания в непротиворечивый эпистемологический каркас.
В поисках такого каркаса некоторые исследователи обращают внимание на философию позднего Витгенштейна. В крайне абстрактной формулировке концепции понимания трактовка соотношения доказательства и его понимания прибегает к ресурсам теории языка Витгенштейна, как она представлена в его Философских исследованиях. Действительно, эта теория имеет конкретные следствия для теории математического понимания. Речь идет о следовании правилу. С точки зрения Витгенштейна, не надо говорить о чувстве или ощущении понимания в смысле «ага» картезианского понимания доказательства, или ментальных или физических процессах, сопровождающих понимание. Вместо этого надо прояснить обстоятельства, при котором приписывается понимание [12].
Такой подход Витгенштейна противоречит традиционному взгляду, что математика есть собрание определений и теорем. Скорее, математика образует сеть норм, формирующих поведение людей, которые заняты математической активностью. Математическое утверждение не есть для Витгенштейна некая платонистская истина; скорее, это некоторого рода инструкция, следование правилу, действие. Больше того, он полагает математику системой норм и предписаний вроде следующего: «Математическая пропозиция говорит мне: делай так!» Но выполнение предписаний требует их понимания, и простой инструкции недостаточно для осуществления действия в силу отсутствия контекста. И Витгеншейн продолжает: ««Понимать» — это смутное понятие. Во-первых, есть нечто типа: убеждение в понимании предложения. И если понимание есть психический процесс — почему он должен нас так сильно интересовать? Разве опыт не связывает его со способностью упо-
Доказательство, понимание и компьютеры
треблять это предложение? «Покажи мне, как.» означает: покажи мне, в каком контексте ты употребляешь это предложение.» [13].
Концепция действия может быть интерпретирована, как уже было сказано выше, более узким образом, а именно как способность к некоторому действию. В реальной математической практике такая способность распознается во множестве приемов, используемых работающим математиком при доказательстве. Дж. Авигад приводит следующий перечень такого рода способностей: способность ответить сомневающимся в правильности доказательства; способность обозреть доказательство, исходя из более высокого уровня рассмотрения; способность представить доказательство в других терминах, устраняя или добавляя абстрактную терминологию; способность указать на ключевые моменты доказательства, отделяя их от непосредственных шагов; способность объяснить, почему определенные шаги естественны или ожидаемы; способность представить естественные примеры различных феноменов, описанных в доказательстве; способность предложить обобщения или предположить интересное ослабление заключения, которое можно получить соответствующим ослаблением гипотезы; способность вычислять определенные величины или же задавать точное описание объекта, существование которого гарантировано теоремой; способность представить диаграмму и соотнести доказательство с конкретной диаграммой [11, р. 327-328].
Из перечня видно, что роль философии в данном вопросе упирается в отождествление понимания с классом соответствующих поведений. Замечания Витгенштейна носят в этой связи слишком общий характер, и поэтому Авигад пробует апеллировать к аргументам, которые теснее связывают понимание с поведением. Их он усматривает в анализе концепции сознания, предпринятом Г. Райлом. Для Авигада витгенштейновская концепция философии как деятельности слишком широка, и он полагает, что хорошим сужением проблемы является строгий бихевиоризм Райла [14]. Его оборот «знание как» может быть интерпретирован как «знание как выполнить действие». Однако само по себе «понимание как» действия, а именно понимание доказательства, может никак не проявляться в поведении понимающего. Теперь уже концепция Райла требует сужения для получения специфической теории математического понимания, что позволяет нам вынести за скобки то, что выходит за пределы предмета. Эта специфическая фило-
софская теория должна объяснять виды понимания, перечисленные выше. Но эти виды понимания столь специфичны, что вряд ли выходят за пределы намерений агента, делающего и понимающего доказательства. В этом смысле позиция Авигада является полностью дефляционной, потому что если фактически понимание ограничено специфически математическими контекстами, становится непонятно его стремление привлечь для этой цели эпистемологию, особенно в обличье действия или поведения.
Единственный способ в продвижении на этом направлении состоит в том, чтобы уделить большее внимание данным, которые мы пытаемся объяснить, и конкретным целям, которым служит наше объяснение. Ясно, что выходом из этой парадоксальной ситуации может быть окончательный вариант сужения проблематики, сужения, при котором математическое понимание позволяет объяснять самый формализованный вариант математического мышления. В результате этих сужений проблема понимания сводится к важной функции гида при рассмотрении сложных математических задач. При этом важнейшее значение имеет соотношение компьютерных вычислений и человеческого понимания.
Иногда грубое вычисление может быть использовано для проверки выводов, требующих значительных человеческих усилий. Однако более поразительным является то, что существует широкий класс выводов, которые требуют очень мало усилий от человека, но находятся за пределами нынешней верификационной стратегии. На самом деле, выводы в большей части учебников имеют такой характер: потребуются часы тяжелой работы для получения прувера к очень краткому доказательству, которое рутинно читается и понимается любым компетентным математиком. Простейшее объяснение того, почему компетентный математик преуспевает там, где компьютер дает осечку, состоит в том, что математик понимает, а компьютер нет. Но перед нами стоит задача объяснения того, как это самое понимание работает [11, р. 333].
Дело в том, что слепой компьютерный поиск нужного вывода из аксиом зачастую нереализуем из-за того, что пространство возможностей растет экспоненциально. В этом случае понимание является гидом, направляющим к цели избирательным, более коротким путем. Вопрос в том, какой должна быть философская теория, в которой такого рода понимание может быть частью концептуального аппарата. Требования к такой теории включают объяснения
Доказательство, понимание и компьютеры
различных типов «компетентного» математического поведения, требуемого от создателей компьютерных программ. Коль скоро эти программы не сводятся к той или иной стратегии перебора, а являются в определенной степени «понимающими», даже если оставить в стороне вопрос о приближении компьютера к человеческому интеллекту, искомая философская теория должна сблизить «человеческое понимание» и «компьютерное понимание».
На пути к получению такой теории есть много препятствий. В частности, нужно иметь в виду, если не ограничиваться прагматическими задачами, что сам по себе термин «понимание» имеет много смыслов, например объяснение, аналогия, визуализация, эвристика, представление. Даже если ограничиться компьютерными методами, то есть в очередной раз сузить проблематику, мы осознаем, что доказательство — это не просто технические проблемы. Действительно, «Математика направляет нашу мысль глубокими и мощными способами, и она заслуживает философии, которая признает этот факт. Когда мы фокусируемся на конкретных особенностях математической практики, метафизические вопросы кажутся несущественными, и взамен мы находим богатый ассортимент проблем, имеющих прямое отношение к тому, что мы делаем в нашем предмете и что мы говорим о нем. Наша задача состоит в том, чтобы создать концептуальный каркас, в котором можно было бы обсуждать такие вопросы, суживая фокус до точки, где возможен ощутимый прогресс» [11, р. 351].
Построение такого каркаса требует ресурсов из области математического образования, истории математики, когнитивных и компьютерных исследований, психологии. Помимо междисци-плинарности, вопрос о математическом понимании пересекается с аналогичными проблемами в философии науки. Традиционное различение специфики философии науки, с одной стороны, и математики — с другой часто понимается так, что вряд ли есть что-то философски интересное о математическом понимании, помимо метафор. Тем не менее, некоторые исследователи настроены оптимистично, полагая, что философские теории математического понимания должны базироваться на терминах анализа типов математических способностей, которые скрыты в общем научном дискурсе, где используются понятия понимания. Применение компьютеров способно помочь развитию этих теорий.
Литература
1. Raine K. Autobiographies. L.: Skoob Books, 1991.
2. O'Hear A. Philosophy — Wisdom or Technique? // Royal Institute of Philosophy Supplement. 2009. Vol. 65. P. 351-361.
3. Хакинг Я. Почему вообще существует философия математики. М.: Канон+, 2020. (Hacinhg J. Pochemu voobshche sushchestvuet filosofija matematiki [Why there is philosophy of mathematics at all]. М.: Kanon+, 2020.)
4. Poincare H. Science and Method. N.Y.: Dover Publications, 2003.
5. Thurston W. On Proof and Progress in Mathematics // Bulletin of American Mathematical Society. 1994. Vol. 30. № . 2. P. 161-177.
6. Netz R. Lucid Proof. Cambridge: Cambridge University Press, 2009.
7. Putnam H. Reason, Truth, and History // Cambridge: Cambridge University Press, 1982/
8. Benacerraf P. Skolem and Sceptic // Proceedings of Aristotelian Society, Suppl. 1985. Vol. 59. P. 85-113.
9. Wright C. Skolem and the Sceptic // Proceedings of Aristotelian Society, Suppl. 1985. Vol. 59. P. 117-137.
10. Крипке С. Витгенштейн о правилах и индивидуальном языке. Томск: Издательство Томского университета, 2005. (Kripke S. Wittgenstein o pravilakh I individualnom jazyke [Wittgenstein on rules and private language]. Tomsk: Izdatelstvo Tomskogo Universiteta, 2005.)
11. Avigad J. Understanding Proofs // The Philosophy of Mathematical Practice // ed. Mancosu P. Oxford: Oxford University Press, 2008. P. 317353.
12. Суровцев В. А., Ладов В. А. Витгенштейн и Крипке: следование правилу, скептический аргумент и точка зрения сообщества. Томск: Издательство Томского университета, 2008. (Surovtsev V. A., Ladov V. A. Wittgenstein I Kripke: sledovanije pravilu, scepticheski argument I tochka zrenija soobshchestva. Tomsk: Izdatelstvo Tomskogo Universiteta, 2008.)
13. Витгенштейн Л. Замечания по основаниям математики. Часть VI. Перевод В. А. Суровцева // Я. Хинтикка. О Витгенштейне. М.: Ка-нон+, 2013. С. 237-238. (Wittgenstein L. Zamechnija po osnovanijam matematiki [Remarks on Foundations of Mathemtics]. Chast VI // Hintikka J. O Witgensteine [On Wittgenstein]. М.: Kanon+, 2013. С. 237-238.)
14. Райл Г. Понятие сознания. М.: Идея-Пресс, 1999. (Rule H. Ponjztije soznanija [The concept of Mind]. М.: Ideja Press, 1999.)
