CC BY
84
УДК 165.0
О. О. СОЛОМИН
Омский государственный технический университет
УТОПИЗМ ТЕХНОЛОГИЧЕСКОЙ СИМУЛЯЦИЯ МЕНТАЛЬНЫХ СФЕР ЧЕЛОВЕКА В КОММУНИКАТИВНОМ ПРОСТРАНСТВЕ
В статье исследуется группа возражений, высказанных в отношении применимости тестов Алана Тьюринга в качестве средства, позволяющего определить, обладает ли машина сознанием. Анализ высказанных контраргументов позволяет сделать предположение о необходимости поиска средств редукции ментального к лингвистическому, поскольку без ответа на этот вопрос судьба тестов А. Тьюринга остается неопределенной и поднятая проблема, которая является пищей для неутихающих споров и дискуссий вот уже на протяжении более полувека, по-прежнему будет находить своих сторонников и противников в неразрешенном споре «Может ли машина мыслить?». Ключевые слова: тест Тьюринга, искусственный интеллект, социальные коммуникации, Интернет.
«Может ли машина мыслить?» — едва ли не самая знаменитая статья А. Тьюринга. Даже сейчас, спустя более 60 лет после ее написания, она, вызвавшая в свое время огромное количество как серьезных исследований, так и псевдонаучных спекуляций, не только не утеряла своего значения, но в связи с бурным развитием научно-технического прогресса, особенно в направлении информационных технологий, приобретает все большую актуальность.
Но для начала хотелось бы вспомнить историю и раскрыть суть поднимаемой Тьюрингом проблемы, поставленных им экспериментов и рассмотреть то множество аспектов его работы, которые касаются пребывания человека в коммуникативном и интерсубъективном пространстве.
«Тест Тьюринга» — эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум», опубликованной в 1950 году в философском журнале «Mind» [1], где Тьюринг задался целью определить, может ли машина мыслить.
Стандартная интерпретация этого теста звучит следующим образом: 1) человек взаимодействует с одним компьютером и одним человеком; 2) на основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой; 3) задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор.
По условиям эксперимента все участники теста не видят друг друга. Если судья не может сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест. Чтобы протестировать именно интеллект машины, а не её возможность распознавать устную речь, беседа ведется в режиме «только текст», например, с помощью клавиатуры и экрана (компьютера-посредника). Переписка должна производиться через контролируемые промежутки времени, чтобы судья не мог делать заключения, исходя из скорости ответов, поскольку во времена А. Тьюринга компьютеры ре-
агировали медленнее человека. Сейчас это правило необходимо, потому что они реагируют гораздо быстрее, чем человек.
Для чего же необходимо и почему актуально изучение и, что важно — практическое использование, данной идеи в отношении деятельности человека как основополагающей компоненты коммуникативного пространства?
Ответы на данные вопросы лежат на поверхности. В настоящее время системы испытаний (тестирования) используются человеком повсеместно — в образовательных, социальных, профессиональных и многих других сферах жизнедеятельности, мало того, именно данные схемы проверки реализуются с использованием машинных методов, к сожалению, еще пока далеких от совершенства [1, с. 2].
Ввиду возрастающей актуальности рассматриваемой проблемы «Может ли машина мыслить?» и наличия множества аргументов «За», необходимо учитывать и не менее известные, зачастую — основательно аргументированные, мнения «Против». При этом особенно пристально стоит изучить те мнения, которые радикально и вполне убедительно ставят под сомнение разрешимость данной проблемы вне зависимости от избранных нами средств и методик (как технических, так и научных).
Итак, рассмотрим имеющиеся на современный момент контраргументы, высказанные как предшественниками А. Тьюринга, так и его современниками и их последователями.
Возражение первое — «математическое».
Начнём с него хотя бы по той простой причине, что сам А. Тьюринг являлся учёным — математиком, логиком и криптографом, оказавшим существенное влияние на становление и развитие информатики.
Имеется ряд результатов математической логики, которые можно использовать для того, чтобы показать наличие определенных ограничений возможностей машин с дискретными состояниями. Наиболее известный из этих результатов — теорема К. Гёделя [2, р. 37 — 72] — показывает, что в любой достаточно мощной логической системе можно
сформулировать такие утверждения, которые внутри этой системы нельзя ни доказать, ни опровергнуть, если только сама система непротиворечива. Впрочем, имеются и другие, в некотором отношении аналогичные, результаты, принадлежащие А. Черчу [3], Ст. Клини [4] и самому А. Тьюрингу [5]. Результат последнего особенно удобен, так как относится непосредственно к машинам, в то время как другие результаты можно использовать лишь как сравнительно косвенный аргумент (например, если бы мы стали опираться на теорему К. Гёделя, нам понадобились бы еще и некоторые средства описания логических систем в терминах машин и машин в терминах логических систем).
Возражение второе — «с точки зрения содержания сознания».
Это возражение особенно ярко выражено Дж. Джеф-ферсоном в его выступлении на Листеровских чтениях в 1949 году: «До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, то есть что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого» [6, р. 1105—1121].
Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком.
Возражение третье — «машина не все может выполнить».
Обычно это возражение выражают в такой форме: «Я согласен с тем, что вы можете заставить машины делать все, о чем вы упоминали, но вам никогда не удастся заставить их делать X»; а затем — перечисляют довольно длинный список значений этого X: быть добрым, находчивым, красивым, дружелюбным, быть инициативным, обладать чувством юмора, отличать правильное от неправильного, совершать ошибки, влюбляться, получать удовольствие от клубники со сливками, заставить кого-нибудь полюбить себя, извлекать уроки из своего опыта, правильно употреблять слова, думать о себе, обладать таким же разнообразием в поведении, каким обладает человек.
Возражение четвёртое — «возражение леди Лавлейс».
Машина не может создавать что-то действительно новое, то есть, иными словами, любая машина (по определению) может выполнить только то, что мы умеем ей предписать. Автор этого весьма популярного в среде противников искусственного интеллекта возражения леди Лавлейс (графиня Ада Августа Лавлейс — дочь известного английского поэта лорда Байрона).
Возражение пятое — «с точки зрения правил поведения человека».
Вне сомнения, невозможно выработать правила, предписывающие, что именно должен делать человек во всех случаях, при всевозможных обстоятельствах. Например, пусть имеется правило, согласно которому человеку следует остановиться, если включен красный свет светофора, и продолжать движение, если свет зеленый; но как быть, если по ошибке оба световых сигнала появятся одновременно? По-видимому, безопаснее всего остановиться. Однако это решение в дальнейшем может быть источником каких-либо новых затруднений. Рассуждая так, мы приходим к заключению, что любая попытка сформулировать правила действия, предусматривающие любой возможный случай, обречена на провал (что во многом перекликается с идеями «математического» возражения, рассмотренного нами выше), даже если ограничиться такой узкой областью поведения, как транспортная сигнализация.
Возражение шестое — «Китайская комната».
Нельзя обойти вниманием ещё один контраргумент, на настоящий момент считающийся наиболее радикальным, веским и основательным. Он был сформулирован Джоном Сёрлем в статье «Разум, мозг и программы» [7] в виде любопытного мысленного эксперимента с оригинальным названием «Китайская комната».
Рассмотрим суть данного контраргумента. Возьмём, например, какой-нибудь язык, которого не понимает испытуемый, предположим, англичанин. Допустим, что это будет китайский язык. Текст, написанный по-китайски, будет им восприниматься как набор бессмысленных каракулей. Теперь предположим, что испытуемого поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Далее допустим, что испытуемому дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать смысл и значение символов совсем необязательно (например, правила могут гласить: «возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два»). Далее, представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов, и что в ответ испытуемый манипулирует символами согласно правилам, изложенным в инструкции, и передаёт обратно другие наборы символов. В данном случае книга правил (инструкция) есть не что иное, как «компьютерная программа», а люди, написавшие её — «программисты», в то время как сам испытуемый играет роль «компьютера». Корзинки, наполненные символами, — это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».
Теперь, если мы предположим, что книга правил написана так, что «ответы» испытуемого на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком, то возможна ситуация, при которой люди, находящиеся снаружи «Китайской комнаты», могут передать непонятные испытуемому символы, означающие: «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, испытуемый выдаст символы ему также непонятные и означающие, что его любимый цвет «синий», но ему также
очень нравится «зелёный». Таким образом, наш испытуемый выдержит тест А. Тьюринга на «понимание» китайского языка, но все же на самом деле им не будет понято ни слова по-китайски. К тому же он никак не может научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого испытуемый мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, он манипулирует символами, но не может придать им какого бы то ни было смысла.
Этот пример отлично соответствует системе быстрого обучения формальным знаниям для решения типовых задач, которая сегодня стала вытеснять в коммерческих школах аналитическую систему образования. Такие специалисты с программным мышлением способны быстро, не раздумывая, решать задачи из заученного набора, но абсолютно беспомощны в нестандартной ситуации. Аналитическое мышление, используя собственные знания, может путем сопоставления комбинаций символов и анализа порядка в передаваемых сообщениях для ответа, определить устойчивые сценарии их применения, а значит, построить классификатор условных понятий и форм применения. Полученную формальную систему можно согласовать с собственной системой знаний, по принципу непротиворечивости перевода высказываний на обоих языках в общем пространстве мышления. В результате мы получим однозначное относительное представление о неизвестном языке, но конкретные характеристики объектов в этом языке останутся неопределенными. Внести определенность можно только калибровочными тестами сличения базовых элементов обоих систем для установления функции их отображения. К этому типу задач относится также установление контакта с разумом иной формы жизни, развивавшееся в принципиально других физических условиях.
Возражение седьмое — «теологическое».
Суть данного возражения заключена в религиозной догме, согласно которой: мышление есть свойство бессмертной души человека, которую Бог дал каждому мужчине и каждой женщине, но не дал души никакому другому животному и машинам [8]. Следовательно, ни животное, ни машина не могут мыслить.
Несомненно, размышления религиозных служителей всегда имели и имеют логическую и рациональную основу — всем известно, что постулаты и правила любой религии, хоть и облачены иногда в эфемерную, а порой и мистическую форму имеют вполне реальный фундамент знаний, складывающийся из вековых наблюдений и опыта бытия человечества.
Стоит отметить, что данное возражение является и отчасти верным, и одновременно совершенно не относящимся к предмету рассмотрения, в зависимости от того, с какой стороны мы на него смотрим. Во-первых, можно согласиться с этим возражением, отождествив понятия «души» и «сознания». Во-вторых, если рассматривать «сознание» в соответствии с определением, гласящим, что это есть свойство человеческой души, нераздельно с ней связанное, то становится очевидным, что реализация машиной так называемой «духовности» в рамках проблемы, поставленной А. Тьюрингом, вовсе и не предполагается рассматривать. Ведь речь здесь идет не о том, чтобы аутентично воссоздать человеческое сознание со всеми необходимыми атрибутами «духовности», а только лишь скопировать для машины то, что мы готовы признать за сознание, то
есть создать нечто способное симулировать действия человека так, что мы согласны признать их человеческими; а значит, машине совершенно не нужны такие, чисто духовные признаки и свойства человека, как патриотизм или диссидентство, любовь или ненависть.
Возражение восьмое — «с точки зрения "страуса"».
Это возражение сводится к известному алармистскому и антисциентистскому лозунгу о том, что последствия машинного мышления были бы слишком ужасны, поэтому стоит надеяться и верить, что машины не могут мыслить. И хотя само это возражение редко выражают в столь открытой форме, тем не менее оно звучит достаточно убедительно для большинства из тех, кому оно вообще приходит в голову. Ведь оно основывается на нашей неявной вере в то, что человек в интеллектуальном отношении стоит выше всей остальной природы. Лучше всего, если бы удалось доказать, что человек необходимо является самым совершенным существом, ибо в таком случае он может бояться потерять свое доминирующее положение. В этом отношении, вполне очевидно, что популярность предыдущего — «теологического» — возражения связана именно с этим религиозным чувством. Это чувство, вероятно, особенно сильно у людей интеллигентных, так как они ценят силу мышления выше, чем остальные люди, и более склонны основывать свою веру в превосходство человека на этой способности.
Приведенные здесь возражения являются одними из самых ярких и среди множества других. Однако неугасающие споры вокруг проблемы «Могут ли машины мыслить?» свидетельствуют о том, что проблема, поставленная А. Тьюрингом актуальна и требует решения, так как имеет огромный потенциал для будущих научных исследований, поскольку затрагивает не только работы специалистов и ученых технических направлений и точных наук, демонстрирующих серьезные технологические сдвиги в решении этой проблемы, но и работы исследователей из социальных и гуманитарных областей: социологов, лингвистов и, разумеется, философов.
Внимательно анализируя то, каким образом и в каких направлениях разрабатывалась проблема А. Тьюринга, а также весь комплекс исследований в области искусственного интеллекта, становится очевидным, что поиски ее решения, а значит, и возможности для практического создания систем искусственного интеллекта, шли отнюдь не симметрично. Так, научно-техническое развитие и прикладные исследования в области искусственного интеллекта ушли далеко вперед. Ярчайшим примером этого продвижения является глобальная информационная сеть Интернет, объединяющая в себе миллиарды машин и людей (что несопоставимо со временами А. Тьюринга — одним компьютером и двумя-тремя участниками тестов), которая, по сути, уже сейчас является огромным коллективным «гомокибернетическим мозгом» (для представления и осознания масштабности этой сети достаточно зайти на статистический сайт — опять-таки в Интернет [9]). В то время как философские исследования возможностей для машины мыслить не демонстрируют столь очевидного роста.
Однако что мешает воплотить хотя бы в предварительной модели идеи Тьюринга? Ответ лежит на поверхности. Этот созданный и функционирующий «мозг» уже находится на уровне неких
«рефлексов» благодаря работе программистов и инженеров. В некоторых случаях и всё чаще, даже «инстинктов» благодаря стараниям социологов, маркетологов, политологов и специалистов данных направлений. И все же этого оказывается недостаточно. Для последующего же приведения этого «мозга» в «высшее» состояние, к которому он стремительно приближается, необходим следующий эволюционный шаг.
Этот шаг, с хирургической точностью, выверенными методиками и глобальной научностью подхода, в состоянии сделать те, кто достаточно потратили времени, размышлений, сомнений и труда в уточнении явных и поисках возможных несовершенств самой идеи машинного мышления. Вложить «разум», посеять ростки «сознания» в этот еще лишь относительно контролируемый «мозг» — миссия (именно такое определение этим процессам наиболее подходящее), возможная только при прямом участии и формировании идейного стержня со стороны такой группы исследователей, как философы. Ведь, вспоминая алармистское возражение, стоит помнить, что любые некорректные, не в полной мере осмысленные действия в этой области могут привести к необратимым процессам и фатальным исходам.
И это, возможно, последний контраргумент, объединяющий под своей эгидой все радикальные и консервативные возражения, против идеи научить машину мыслить.
Из неутихающих вокруг проблемы А. Тьюринга споров и мнений, уже на протяжении стольких лет, можно сделать вывод, что само её существование говорит об актуальности её предмета и необходимости решения. Бесспорен факт, что в связи с развитием информационных технологий в образовательных процессах все чаще используются средства вычислительной техники — компьютеры, то есть те самые машины, которые были предложены А. Тьюрингом к участию в его экспериментальных тестах. Но то, что исследовалось им в начале и позиционировалось лишь в качестве некой «игры в искусственный интеллект» и являлось пищей для умственных упражнений узкого круга ученых математиков, лингвистов и философов, в настоящее время воплотились во вполне реальные и применяемые в повседневной образовательной деятельности компьютерные тесты, которые проводятся как внутри учебных и образовательных учреждений, так и с использованием глобальной сети Интернет. При этом они имеют не просто экспериментально-ознакомительный характер, а являются официальным способом реализации критериев оценки качества образования учебных заведений различного уровня в мире, в Российской Федерации, в городе Омске и области. Однако, несмотря на свой уже вполне
удовлетворительный уровень технического исполнения, данные методики определения уровня знаний обучаемых имеют серьёзные недостатки и порой справедливо исключаются из многих сфер обучения. В особенности это касается дисциплин социально-гуманитарного цикла, где ответ на вопрос не имеет четких и однозначных границ, требует развернутого подхода к изложению, а порой должен принимать форму беседы между тестирующим и тестируемым.
Для решения всех этих задач и необходима работа по изучению и в дальнейшем совершенствованию методов проецирования ментальных сфер сознания человека на лингвистическую платформу как интермедийный язык общения в системе человек — машина — человек.
Библиографический список
1. Turing, A. M. Computing machinery and intelligence /
A. M. Turing // Mind. - 1950. - Vol. 59. № 236. - Pp. 433460.
2. Gцdel, K. On Formally Undecidable Propositions of Principia Mathematica and Related Systems / К. Gцdel. - N.Y. : Dover Publications Inc., 1992.
3. Church, A. An Unsolvable Problem of Elementary Number Theory / A. Church // American Journal of Mathematics. - 1936. -Vol. 58. - Pp. 345-363.
4. Cleene, S. C. General Recursive Functions of Natural Humbers / S. C. Cleene // Mathematische Annalen. - 1936. -
B. 112. - S. 727-742.
5. Turing, A. M. On Computable Numbers / A. M. Turing // Proceedings of London Mathematical Society. - 1936-1937. -Vol. 42. - Pp. 230-265.
6. Jefferson, G. The Mind of Mechanical Man. Lister Oration for 1949 / G. Jefferson // British Medical Journal. - 1949. - Vol. 1. - Pp. 1105-1121.
7. Сёрль, Дж. Разум, мозг и программы / Дж. Сёрль // В мире науки. - 1990. - № 3. - С. 7-13.
8. Рассел, Б. История западной философии и ее связи с политическими и социальными условиями от античности / Б. Рассел. - М. : Академический Проект, 2009. - С. 556.
9. Земля сегодня [Электронный ресурс]. - Режим доступа: http://www.hella.ru/converter/worldometers.htm (дата обращения: 19.03.2013).
СОЛОМИН Олег Олегович, соискатель по кафедре «Философия и социальные коммуникации» Омского государственного технического университета, преподаватель кафедры «Электрооборудование и автоматика» Омского филиала военной академии тыла и транспорта. Адрес для переписки: [email protected]
Статья поступила в редакцию 20.03.2013 г. © О. О. Соломин
