CC BY
80УДК 159.955 О. М. Корчажкина
Институт кибернетики и образовательной информатики Федерального исследовательского центра «Информатика и управление» РАН (ИКОИ ФИЦ ИУ РАН) 119333, Россия, г. Москва, ул. Вавилова, д. 44, к. 2.
ЯЗЫК ИСКУССТВЕННОГО МЫШЛЕНИЯ: НЕОБХОДИМОСТЬ И ВОЗМОЖНОСТЬ СОЗДАНИЯ
O. M. Korchazhkina
Institute for Cybernetics and Informatics in Education, Federal Research Centre "Computer Science and Control" of the Russian Academy of Sciences 44/2 Vavilov St. Moscow, Russia, 119333
THE LANGUAGE OF AN ARTIFICIAL MINDSET: THE NEED AND THE POSSIBILITY OF BUILDING IT
О.М. Корчажюна
1нститут юбернетики i осв^ньо'Т шформатики Федерального дослщного центру «1нформатика i управлшня» РАН (1КО1 ФДЦ 1У РАН) 119333, Роая, м. Москва, вул. Вавилова, буд. 44, к. 2.
МОВУ ШТУЧНОГО МИСЛЕННЯ: НЕОБХ1ДН1СТЬ I МОЖЛИВ1СТЬ СТВОРЕННЯ
В статье приводятся результаты исследования, сделанного на основе анализа литературы отечественных и зарубежных авторов по лингвистике, психолингвистике и искусственному интеллекту, позволяющего ответить на вопрос: «Что является признаком искусственного мышления, если таковое существует?». В контексте взаимодействия языка, мышления и искусственного интеллекта были рассмотрены роль языка и речи в формировании и развитии мышления; путь от чувственного к созидательному мышлению; создание нового знания и значение личности в процессе мышления. Ключевые слова: язык и мышление, интеллект, личность, искусственный интеллект, новое знание.
The article presents the results of a study based on the analysis of scientific Russian and foreign sources on linguistics, psycholinguistics and artificial intelligence, which allows to answer the question: "What is a sign of an artificial mindset, if it exists?". Under the context of interaction of the language, mindset and artificial intelligence, we consider the role of a language and speech in thinking formation and development; the path from sensory to creative thought; construction of new knowledge and the value of personality in the process of thinking. Keywords: language and mindset, intelligence personality, artificial intelligence, new knowledge.
У статп наводяться результати дослщження, зробленого на основi аналiзу лггератури вп"чизняних i зарубiжних авторiв з лЫгвютики, психолшгвютики i штучного Ытелекту, що дозволяе вщповюти на питання: «Що е ознакою штучного мислення, якщо таке юнуе?». У контекст взаемоди мови, мислення i штучного штелекту були розглянут роль мови i мови у формуванн i розвитку мислення; шлях вщ почуттевого до творчого мислення; створення нового знання i значення особистосл в процес мислення.
Ключовi слова: мова i мислення, штелект, особистють, штучний штелект, нове знання.
«Если мышление оставляет на языке универсальные отпечатки, эти следы должны быть чем-то более утончённым, чем фиксированный список правил и конструкций, обнаруживаемых во всех языках» Стивен Пинкер, психолингвист, профессор факультета психологии Гарвардского университета, США [1, с. 105]
Вопрос «Мыслит ли машина?» так и не находит должного ответа со времён изобретения «машины Тьюринга» в 1936 году и появившегося в 1959 году GPS (General Problem Solver) - «Универсального решателя задач» - детища американских учёных А. Ньюэлла и Г. Саймона - времён, когда для доказательства возможности создания искусственного интеллекта (ИИ) стали привлекаться технические средства. Сегодня этот вопрос имеет принципиальное значение для развития всех отраслей, связанных с технологиями ИИ, тем более, что существует признак, который точно указывает на способность живого существа или «рукотворного создания» мыслить. Этот признак - владение языком и речью.
О видах мышления и подходах к их изучению
Сходства и отличия мыслительных процессов, совершаемых человеком и «мозгом» систем ИИ, будут рассматриваться далее с позиций когнитивной науки, или когнитивистики, научного направления, объединившего когнитивную психологию, лингвистику, философию и информатику, в сферу интересов которой входит не только изучение форм сознания, но и способов его проектирования. Начало этой междисциплинарной отрасли знаний, зародившейся в недрах двух параллельных революций -технологической и когнитивной, связывают с появлением в 1948 году первой работы по теории информации «Математическая теория связи», написанной американским инженером и математиком Клодом Шенноном [2, с. 280-281].
Очевидно, что рассмотрение связи когнитивных процессов с ментальными характеристиками личности, естественного языка и человеческого мышления с чисто технологических позиций соответствует бихевиористическому подходу, при котором изучение сознания замещается изучением поведенческих реакций на внешнее воздействие и к которому с появлением когнитивистики учёные прибегают всё реже и реже. Тогда как методы и формы этого «дореволюционного» подхода были бы вполне оправданы при исследовании систем ИИ вне связи с естественными процессами мышления, когда информационная система ИИ рассматривается как технический аналог мозга человека, построенного по образу и подобию последнего, а сознание как таковое не является объектом изучения.
Наравне с этим существуют комбинированные подходы к рассмотрению проблемы сопоставления человеческого и машинного мышления. Например, Стивен Пинкер, сторонник интегральной концепции устройства человеческого мозга, рассматривает мышление в контексте эволюционной психологии и вычислительной теории сознания - как «систему органов вычисления, созданных естественным отбором для решения проблем, с которыми сталкивались наши предки, занимавшиеся собирательством и охотой» [3, с. 6]: «На деле и компьютер, и мозг представляют концепты в виде моделей действий, совершаемых над совокупностями единиц» [3, с. 117]. Поэтому, если ставится задача создать биоморфный компьютер, то можно «сделать так, чтобы искусственные нейроны следовали бы не классической логике, а нечёткой логике. <.. .> Как только мы разрешим сети быть неточной, она сможет представлять разные степени очевидности и вероятности событий и принимать статистические решения» [3, с. 119].
К
Разработчиками нейронных сетей обычно используются оба типа логических построений: активизация сетевых узлов происходит либо по достижении некоторой величиной порогового уровня - согласно законам чёткой логики по принципу «истина-ложь», либо когда некоторая величина задаётся функцией с учётом степени истинности - согласно законам нечёткой логики. Этот способ демонстрирует комбинацию когнитивного и технологического подхода к моделированию работы аналога человеческого мозга.
По словам А. Л. Шамиса, одного из ведущих отечественных специалистов в области ИИ, «мышлением можно назвать все происходящие в мозге процессы, связанные с осознанной <выделено мной - О.К.> переработкой информации» [4, с. 228-229]. Эти процессы включают восприятие и познание окружающей среды, управление поведением, решение формальных задач и творчество. Поэтому применительно к области ИИ понятие мышление необходимо рассматривать с функциональной точки зрения на нескольких уровнях, или этапах: перцептивное мышление, когнитивное мышление, практическое мышление и креативное мышление. Такая иерархия позволяет выделить типичные характеристики мыслительных процессов, совершаемых человеком или машиной, а также определить сходства и отличия в способности акторов выполнять подобные операции.
Перцептивное (чувственное) мышление нельзя считать мышлением в полном смысле слова. Оно скорее является предмышлением - процессом сбора и начальной обработки информации, передаваемой мозгу органами чувств, который реализуется через целенаправленное восприятие и воображение, подкрепляемые языком и речью. Обработка информации человеком или машиной может иметь некоторое качественное сходство, заключающееся в «активации смысловых элементов» [4, с. 230] через нейронные связи путём движения двух встречных потоков: укрупнения (обобщения) и детализации (вычленения) информационных единиц, эквивалентных мыслительным операциям индукции и дедукции. Разница в способности обработки информации человеком и машиной заключается в количественных показателях -объёме доступных информационных ресурсов и параметров их хранилищ (биологической или электронной памяти - электронной базы), а также скорости их обработки, загрузки и извлечения из хранилища.
Тогда как непосредственное целенаправленное восприятие и тем более воображение во всех его видах - активном (произвольном), пассивном (непроизвольном), воссоздающем и творческом - не могут полноценно осуществляться в процессе предмышления вне живых биологических систем, вне реальных органов чувств, сознания и осознания собственного «Я», то есть вне Личности. ИИ воспринимает информацию и подвергает её обработке согласно заданному алгоритму, тогда как человек может выходить за рамки шаблонов путём размышления: описания, объяснения, обсуждения, уточнения, сопоставления, оценки и прочих способов трансляции и обмена сведениями для определения истинных или оспаривания ложных суждений или утверждений. Тем не менее, действия обоих рассматриваемых акторов -и человека, и машины - на уровне предмышления непременно приводят к взаимодействию с мыслительными процессами, характерными для более высокого уровня естественного мышления или его искусственного субститута - когнитивного (познавательного) мышления.
Хотя понятия когнитивное и познавательное мышление часто употребляются как синонимы, термин познавательное мышление в полной мере может относиться
только к естественному интеллекту, тогда как когнитивное мышление - к обоим типам интеллекта. За познавательное мышление в значительной степени отвечает такой психофизиологический механизм, как мотивация (внутренняя или внешняя), которая свойственна только человеку. А система ИИ, обладающая когнитивным мышлением, действует согласно заданной программе, выбирая из набора доступных интеллектуальных алгоритмов те, которые приводят к приемлемому решению, удовлетворяющему определённым критериям.
Основной функцией когнитивного (познавательного) мышления человека является исследование «общих и частных свойств воспринимаемых объектов разных уровней обобщения и укрупнения» [4, с. 230-231], а также их детализации с целью достижения понимания - осознания, уяснения, осмысления, обретаемого в результате размышления над эмпирическими данными или ранее накопленным знанием. Понимание, как свойство сознания, присущее только человеку, достигается не напрямую, а через представление - психический процесс формирования образа - ещё не оформленного содержания человеческой мысли - или только форму чувственного образа, входящего в сознание. Причём формирование образа происходит через признаки, отражающие сущность предмета, образ которого возникает в сознании человека.
При этом недостаточно только указать на этот образ вне суждения, поскольку именно вербализация образа через его признаки, формирующие представление о нём, по замечанию российского филолога и философа XIX века А. А. Потебни, приводит к пониманию: «... представление возможно только в слове, а потому слово, независимо от своего сочетания с другими, взятое отдельно в живой речи, есть выражение суждения, двучленная величина, состоящая из образа и его представления. <...> Представление есть точно один из многих признаков, сложившихся в одно целое». И далее А. А. Потебня называет слово не просто средством сознания чувственного образа, но и средством сознания общности образа [5, с. 126, 130, 133].
В машине же понимание замещается сведением к интерпретации, трансформации, переформатированию получаемой информации, когда содержащееся в ней описание фактов, явлений, процессов сразу преобразуется в некую подходящую модель, призванную облегчить решение конкретной задачи. Очевидно, что и человек, размышляющий над поставленной задачей, прибегает к трансформации в виде интерпретаций и толкований, однако без этапа понимания через представление - и выражение последнего через признаки, - переданного в вербальной форме, который пропускается машиной в силу априорной неспособности совершать оное, человек не может осуществлять преобразование описаний (идей, гипотез, правдоподобных утверждений) в работающие модели. Человек для удовлетворения своих интересов и приоритетов испытывает «потребность не в получении информации вообще, а в построении модели проблемной среды» [4, с. 231], и эта модель проблемной среды может быть построена в результате понимания задачи и осознания своей непосредственной роли в решении этой задачи.
По определению А. Л. Шамиса практическое (поведенческое) мышление -«поиск и выбор лучшего по эмоциональной оценке пути, соединяющего в модели проблемной среды смысловые элементы, соответствующие текущей и целевой ситуациям» [4, с. 232]. Действительно, выбор пути решения практической задачи должен основываться на оценке смысловых элементов модели, которая возникла в представлении актора на этапе когнитивного мышления. Однако нельзя согласиться с мнением, что такая оценка должна носить лишь эмоциональный - поверхностный, субъективный, неаргументированный - характер, то есть опираться не на объективное
К
знание, эмпирические данные или позитивный личный опыт, а на личные предпочтения, возникающие на примитивистском уровне, рождённом в соцсетях: «like - dislike». Тем более, что практическое мышление свойственно как человеку, так и машине, а об эмоциональной оценке со стороны ИИ в его практической деятельности вообще не может быть речи.
Поэтому проявление практического (поведенческого) мышления при анализе утилитарных (житейских, обыденных) ситуаций, которые А. Л. Шамис называет одноэкстремальными, решаемыми путём «одношаговых переходов», могут рассматриваться человеком на эмоциональном уровне, поскольку в каждом таком случает он делает выбор по меньшей мере из двух возможных вариантов.
Ещё одним признаком превалирования эмоциональной составляющей при принятии решения в процессе практического мышления, свойственного человеку, является неуверенность, колебания, расплывчатая точка зрения, восприятие реальной проблемной ситуации как неопределённой, что может свидетельствовать либо о недостаточной осведомлённости лица, принимающего решение, в содержании возникших факторов, либо о психотипе его личности, влияющем на приемлемое поведение. Поэтому для принятия решения таким людям необходимы вербальные способы выхода из затруднения - проговаривание проблемы вслух, обсуждение с близкими, друзьями, коллегами, обращение за помощью к специалистам.
Когда перед машиной, не имеющей личных предпочтений и не обладающей личностью, которая относится к тому или иному психотипу, ставится подобная «житейская» задача, она делает свой выбор более обезличено, и поэтому более уверенно, зачастую абстрагируясь от моральных норм или правил поведения в обществе (вспомните знаменитую «проблему вагонетки»). Основываясь на соответствующих базах данных и сканируя огромный объём информационных ресурсов, ИИ локализует области поиска и путём анализа возможных вариантов в соответствии с параметрами задачи выносит наиболее целесообразное и обоснованное решение.
Практически всегда единственным критерием оценки принимаемого решения служит рациональность и целесообразность - соответствие набора количественных характеристик, диктуемых условием задачи, тем изменениям в ситуации, которые она приобретает в новых условиях, то есть сравнение текущей и целевой ситуации, что выражается, например, в стремлении снизить материальные или физические затраты при решении проблемы. Для полноценного выполнения задач, решаемых на уровне поведенческого мышления, машине не требуются специальный язык, стимулирующий мышление и речь, потому поведенческое мышление - это, по-видимому, единственный уровень мышления, на котором вербализация не играет столь решающей роли, как на трёх других уровнях. Эти утилитарные задачи решаются эволюционным путём через последовательные алгоритмы, а их проверка осуществляется также алгоритмическими, научными методами через систему правдоподобных рассуждений - абдукцию, дедукцию и индукцию - сведённую Чарльзом Пирсом, американским философом, логиком и математиком, в единую систему научного исследования [6].
В противоположность утилитарным задачам поведенческого уровня творческие процессы не столь осознаваемы, но именно они лежат в основе креативного (созидательного) мышления, называемого иначе творческим поиском, что относит их к высшим когнитивным достижениям человека, результат которого часто приходит внезапно и сопровождается всплеском положительных эмоций.
Решение большинства творческих задач обычно начинается с рутинных, регламентированных операций согласно уже известным алгоритмам, когда человек воспроизводит линейный, последовательный ход решения. При этом возникает парадоксальная картина: казалось бы, всё внимание сосредоточено (сфокусировано) на решении конкретной задачи, но его так и не удаётся найти, то есть наблюдается своего рода «когнитивный тупик». Такая безвыходная, казалось бы, ситуация указывает на то, что процесс отбора решений движется по замкнутому кругу: мысль развивается последовательно, логично, перемещаясь вдоль уже неоднократно пройденных траекторий поиска. Зачастую длительное сосредоточение на одних и тех же действиях в процессе сфокусированного мышления, когда неотступно соблюдаются предписанные правила и инструкции, перебираются возможные решения или подыскиваются алгоритмы, которые применялись ранее при решении аналогичных задач, не позволяет выйти за границы заданных условий, отыскать новые идеи путём расширения познавательного контекста, чтобы выбрать наиболее оптимальный или хотя бы приемлемый способ решения.
Тем не менее, когда мысль человека заходит в тупик и будто замирает, перемещаясь в «мыслительный инкубатор», мозг на самом деле продолжает работать над проблемой на бессознательном уровне, в фоновом режиме, на уровне интуиции - в режиме рассеянного мышления (на уровне внутреннего «шума», по выражению А. Л. Шамиса [4, с. 239]), что за счёт ослабления внимания является способом создания своего рода творческой среды для поиска нетривиальных решений.
Когда человеку удаётся от сосредоточенного мышления перейти к рассеянному мышлению и затем вновь к сосредоточенному, и он начинает использовать непоследовательное, нелинейное, иррациональное, неалгоритмическое движение к цели, наступает осознание необходимости смены стратегий уже опробованных решений и выхода за пределы отработанных вариантов. Возникает новый уровень понимания задачи, отношений и ситуаций в целом, посредством чего происходит вспышка -инсайт (озарение), рождающий решение проблемы. При этом полученное решение требует «узнавания», то есть дальнейшего осмысления, полноценная реализация которого не может произойти без поэтапного словесного оформления мысли, то есть без повторной формулировки возникающих идей, помогающей оценить правильность найденного решения.
Таким образом, выходом из когнитивного тупика становится переход к выборочному, алогичному - нелинейному ходу решения задачи, когда мысль после пребывания в «мыслительном инкубаторе» выходит за рамки рассматриваемой ситуации, перескакивает через этапы известных алгоритмов, меняет подходы, ищет поддержку в смежных областях знаний, привлекает новые схемы действий и выдвигает ещё недоказанные гипотезы. Способность переходить к нелинейному ходу решения задачи формируется путём развития умений управлять режимами мышления - умений двигаться от сосредоточенного к рассеянному мышлению и наоборот, заставляя их работать в паре, эффективно взаимодействуя друг с другом.
К необходимости использовать язык и речь в качестве инструментов для «узнавания решений» при инсайте подводят исследования отечественных учёных Д. А. Поспелова и Я. А. Пономарёва. Например, по мнению Д. А. Поспелова [7] первоначально осознание правильности решения осуществляется на интуитивном уровне, а доказательство, аргументация подбирается потом - в результате рационального размышления как «оправдание» найденного решения. Подтверждение этой концепции встречаем у Я. А. Пономарёва в [8, с. 194]: «Интуитивное решение всегда
К
предшествует логическому. Этот феномен давно известен психологии творчества, хотя и оставался долгое время непонятным. Логическое решение творческой задачи возникает лишь на базе интуитивного, то есть тогда, когда задача фактически уже решена. Логическое решение побуждается потребностью передать интуитивно найденное другому человеку, обосновать, доказать правомерность такого решения, использовать его для решения более сложной однотипной задачи и т.п. Здесь и возникает необходимость выразить решение в языке, вербализовать его, а иногда и формализовать, иначе говоря - оформить логически».
Следует отметить, что обязательным инструментом рационального, логического подтверждения (верификации) решения, возникшего в результате инсайта, является упомянутая выше система правдоподобных рассуждений Ч. Пирса, состоящая в единстве абдукции, дедукции и индукции, которую можно реализовать только через язык и речь.
Поэтому не подлежит сомнению тезис том, что мышление, как высший уровень человеческой деятельности, особенно творческое мышление, не может осуществляться без владения естественным языком, поскольку только язык является инструментом выражения мысли и действует через речь: «Язык является важным структурным "узлом" разветвлённой системы сознания, без опоры на механизмы которого не могут осуществляться не только речевые процессы, но и всякие иные виды человеческой деятельности, так или иначе входящие в систему сознательной деятельности или опирающиеся на неё» [9, с. 404].
О естественном и машинном языке
Может ли машинный язык, то есть язык программирования или язык семантического веба, быть выражением мысли? Машинный язык является не выражением мысли машины, какими бы сложными не являлись «нейронные» связи в конструкции «машинного мозга» или способы, согласно которым производятся операции по решению тех или иных задач, а формальным инструментом записи алгоритма, созданного разработчиком. Если рассматривать в данном контексте проблему научного творчества и предметной деятельности, то очевидно, что машинный язык не может быть инструментом научного творчества, поскольку научное творчество выступает как высшее проявление процесса мышления, напрямую связанное с языком и речью.
Знаком человеческого языка, бесспорно, является слово, имеющее значение. Однако его нельзя считать единственным инструментом мышления. По мнению С. Д. Кацнельсона, выдающего лингвиста-теоретика, одного из классиков отечественного языкознания, слово, даже имеющее значение, само по себе не создаёт мысль и не выражает её. Исходное понятие мышления - не слово (знак), а понятие события и высказывание, выражающее такое событие [9, с. 405]. Мысль формируется и развивается через актуализацию череды событий, оформленной в виде ситуации.
Когда решается прикладная специализированная задача, то череда событий соответствует этапам поиска решения, а изменение ситуации - самому решению. Например, актуализация некоторой ситуации общения подразумевает нацеленность на понимание собеседника и гибкость при выборе языковых средств для лучшего выражения мысли при решении коммуникативной задачи. По словам «отца кибернетики» Бертрана Рассела «язык был бы невозможен, если бы физический мир фактически не имел бы определённых свойств и черт, и что теория языка <...> зависит от познания физического мира» [10, с. 71].
Тогда возникает следующая цепочка, связывающая язык, мышление и внешний мир: мозг - это физическая среда рождения языка, мышление - ментальная среда, обеспечивающая языку жизнь и сама действующая благодаря языку, и внешний мир -внешняя физическая среда функционирования языка, источник обогащения двух других сред, без которых язык не смог бы полноценно выполнять ни свои лингвистические функции (эмоционально-экспрессивную, коммуникативную - функцию общения, дескриптивную - информативную и аргументативную - критическую), ни свои мыслительные функции (когнитивную - познавательную и креативную - созидательную). Внутри всех трёх сред, связанных между собой языком, он как кровеносная система в теле живого существа обеспечивает и осуществляет рождение, выражение и движение мысли: «Язык служит не только для выражения мыслей, но и делает возможными мысли, которые без него не могли бы существовать. <...> может быть мысль и даже истинное и ложное верование и без языка. Но <...> всё-таки нельзя отрицать, что все хорошо отработанные мысли требуют слов» [10, с. 71].
Таким образом, основным, хотя и не единственным, признаком мышления, иначе - признаком осознанной переработки информации и превращения её в знания и опыт - являются две пары явлений: язык-текст (язык как выразитель мысли и текст+визуальный образ как накопитель и источник знаний) и речь-высказывание (размышление как инструмент достижения понимания и далее - истинного знания).
Может показаться, что аналогами слов естественного языка для систем ИИ являются команды машинного языка, которые несут операциональный, а не понятийный или концептуальный смысл. Эти команды, конечно же, создают определённые события или логически взаимоувязанные цепи таких событий, приводящие к изменениям в ситуациях. Однако эти изменения «зашиты» в алгоритмы как возможные альтернативы при поиске решения задачи и не могут считаться продуктами мыслительной деятельности машины. Опора на предшествующий опыт при машинном решении задачи - это перебор возможных решений из базы подобных задач. Если же ни одно из них не приводит к успешному результату и «машинный мозг» заходит в тупик, то инсайда не происходит, поскольку последний требует выхода из привычного круга решений, а в машинном алгоритме этот круг замкнут, и ИИ не в состоянии самостоятельно его разорвать. Даже так называемое обучение систем ИИ не приводит к генерации новых идей, называемых «прорывными», поскольку предполагает движение «мысли» по заведомо известным траекториям. Тогда как пути, по которым движется человеческая мысль, непредсказуемы и не ограничены рамками возможного.
С другой стороны, как могут возразить сторонники противоположной позиции, существует такая область прикладной лингвистики, как компьютерная семантика, задача которой - извлекать смыслы из текстов на естественном языке, то есть производить операции, по характеру близкие к мыслительным. В целом, эта область науки занимается разработкой моделей семантического уровня на естественном языке как в плане анализа, так и в плане создания текстов на естественном языке и их реализацией в системах ИИ. Поскольку семантический анализ текстов требует знания значения слов и правил грамматической семантики в разных контекстах, способов их формализации, классификации и обобщения для создания баз знаний, он справедливо признаётся самым сложным процессом автоматической обработки информации, представленной на естественном языке [11, с. 59].
Тем не менее, нельзя утверждать, что ИИ не создаёт новое знание. Работа со знанием при исследованиях и разработках систем ИИ развивается в трёх направлениях: получение знаний, представление и преобразование знаний, использование
К
знаний. Онтологии, основанные на правилах, а не только на связях между понятийными категориями, словари и глоссарии, даже тематические тексты, а также иные способы фиксации знаний, базирующиеся на переработке больших объёмов информации, являются признанными «базами знаний», облегчающими работу исследователя. Однако подобные базы не являются продуктами мыслительной деятельности систем ИИ в классическом её понимании, потому что используемый при этом естественный язык рассматривается как объект, а не как инструмент исследования. Инструментом же в подобных операциях служит машинный язык, который не является, как было показано выше, носителем понятийных категорий. ИИ может рождать «мысли» вне языка, не отражать их в языке и вообще не способен осознавать или страдать от недостатка языковых средств. Тогда как подобные явления делают мышление усечённым процессом с недоказанной эффективностью.
О роли личности в мыслительной деятельности
При рассмотрении практического (поведенческого) мышления мы упоминали о значении личности в этом процессе. Роль мыслящей личности - важная составляющая всех видов мышления. Для понимания глубинной сущности человеческой личности можно воспользоваться метафорой Гордона Олпорта, одного из крупнейших психологов XX века, определившего личность как «ткань, основу которой составляют чувства и эмоции, а утком служат высшие психические процессы» [12, с. 340].
Однако если рассматривать характеристики зрелой личности, то они определяются не только чувствами, эмоциями и развитостью высших психических процессов. Приобретаемый личностью жизненный и культурно-исторический опыт определяет её способность к мыслительной деятельности и является нравственной опорой при принятии решений. Без развития личности и её способностей не может сформироваться полноценный интеллект: «действие ума опутано и контролируется моралью, а <.. .> качества личности выступают как устойчивые мотивации» [13, с. 224].
Большую роль в достижении эффективности интеллектуальной деятельности человека играют коллективные формы мышления, способствующие «интеллектуальной» социализации личности. Их основные преимущества состоят в повышении креативного потенциала мышления; соревновательности позиций и возможности достижения лучшего результата за счёт рассмотрения альтернативных вариантов; возможности методологического сопровождения процедуры принятия решения; обеспечения условий для принятия нестандартных решений [14, с. 296]. Понятие коллективной формы мышления может быть применимо к совместной работе нескольких систем ИИ лишь в очень условной мере.
В рамках общего процесса социализации личность нуждается в самоидентификации - осознании своей роли в обществе, в котором она существует, соотнесении любых видов своей деятельности с морально-этическими и другими духовными ценностями этого общества. Деятельность ИИ, по крайней мере, на современном уровне развития, не коррелируется с ценностной ориентацией: ИИ безразлично, в какой стране, в каком обществе он функционирует, задачи каких социальных групп перед ним стоят. Современные искусственные интеллектуальные системы не в силах решать морально-этические проблемы, которые подчас являются затруднительными для самого человека и заставляют его принимать неоднозначные решения, не говоря уже о чувстве сожаления, муках совести, разочарования относительно неверно принятого решения.
Если технологические проблемы, требующие обработки больших объёмов информации, могут быть решены без участия личности как носителя ценностной ориентации, то глобальные проблемы, требующие оценки последствий применения этих решений, не могут быть полностью доверены ИИ. Именно этой причиной обусловлен тот факт, что всё чаще учёные создают гибридные системы, в которые заложен не голый алгоритм функционирования ИИ, способного во много раз быстрее и надёжнее человека найти множество вариантов промежуточных решений, а технология взаимодействия ИИ и человека, способного к творчеству, что позволяет воспринимать эти формализованные решения с позиций ценностной ориентации, то есть «вдохнуть в них жизнь».
Появившийся не так давно тезис о том, что технологии не могут быть нейтральны по отношению к ценностям, говорит о важности гуманитарной составляющей во взаимоотношениях человека и ИИ, о необходимости выстраивать их взаимодействие не только на технологическом уровне, но и на уровне «личности», поскольку основным носителем общечеловеческих ценностей - морально-нравственных, этических, культурно-исторических - является личность человека, вступающего в диалог с машиной.
Ещё одна проблема, отражающая важность ценностной составляющей взаимодействия человека и ИИ, представлена термином техношовинизм, определяемым как слепая вера во всевластие технологий, отличительными чертами которой являются «слепой оптимизм и недостаток осторожности относительно применения новых технологий» [15, с. 17, 74, 112]: «Вера в то, что решения, принятые компьютером, лучше или честнее, чем человеческие решения, приводит к тому, что нас перестаёт интересовать релевантность данных, вводимых в систему». По мнению Мередит Бруссард, преподавателя Нью-Йоркского университета (США), подобное философское обоснование техношовинизма объясняется обывательским отношением к любому математику как к гению, придумывающему эффективные и непонятные для большинства людей коды, стоящие выше человеческих взаимоотношений [15, с. 122]. Это слепое почтение с успехом переноситься на системы ИИ, в которых без участия человека нет и не может быть никаких морально-этических границ или норм.
Очевидно, что сложные и неоднозначные проблемы взаимодействия естественного и искусственного интеллекта, а также влияния личности на развитие мыслительных процессов, требуют дальнейшего изучения на основе новых ресурсов мышления, особенно его коллективных и гибридных форм, в русле междисциплинарных исследований и системного подхода [14, с. 293].
Заключение
На данном этапе развития ИИ можно считать установленным, что «мозг машины», ориентируясь на известные пути поиска решения, не генерирует мысли и идеи, а создаёт новые интерпретации уже известных положений, разрабатывает известные сущности. Тогда как мозг человека может рождать принципиально новые смыслы. И основой мышления для человека является уровень его владения словом, то есть языком и речью, способными создавать понятия, описывать нестандартные ситуации, концептуализировать преставления и сберегать результаты своей рече-мыслительной деятельности, превращая их в духовные ценности - личные знания и опыт. Помимо этого, характеристики, мотивирующие человека к речемыслительной деятельности и позволяющие создавать упорядоченную систему знаний в процессе мышления, есть Личность и осознание собственного «Я», которые отсутствуют у машины.
К
Поскольку знание есть присвоенная личностью гуманитарная (интеллектуальная и культурная) ценность, а ценностную ориентацию машины невозможно смоделировать или реализовать технически, то искусственному интеллекту подвластно лишь накопление новых обезличенных сведений по тем или иным вопросам, пусть даже упорядоченных, системных, которые может преобразовать в новое знание только личность, обладающая способностью чувственного и умственного восприятия, всеми типами мышления, способами взаимодействия с внешним миром, языком и речью.
P. S. Ещё некоторое время назад специалисты по ИИ стали различать два понятия -слабый и сильный ИИ. Слабый ИИ, как набор определённых технологий, прекрасно справляется с решением утилитарных задач на уровне машинного обучения и нейросетей. Тогда как сильный ИИ, работы по созданию которого уже ведутся рядом отечественных и зарубежных компаний в области ИИ (см. материалы I-го Национального конгресса по когнитивным исследованиям, искусственному интеллекту и нейроинформатике http://caics.ru/iacs, проходившего в онлайн-режиме 10-16 октября 2020 г.), связан с формализацией интеллектуальных способностей и ориентирован на реализацию «искусственной психики» - аналога человеческого сознания.
Создание интеллекта, обладающего искусственной психикой, станет возможно, как отмечают разработчики, если будет понято, какова когнитивная архитектура мозга с точки зрения системного подхода: как происходит организация его деятельности при решении задач, иначе - система управления когнитивной деятельностью: намерение, мотивация, целеполагание, постановка задачи, планирование поведения, реализация. Предполагается, что обладающий психическими свойствами ИИ, - сильный интеллект -позволит осуществлять полноценную когнитивную деятельность «человеческого уровня» и самое главное - сможет ответить на вопрос «Кто я?», что равнозначно осознанию себя в окружающем мире, то есть обретению сознания.
Тем не менее, до сих пор ещё не получен ответ на вопрос, как сможет функционировать система сильного ИИ, обладающего сознанием, если таковая будет когда-либо создана, без владения языком: пусть не таким языком, каким обладает человек, но некоторым его подобием, в свёрнутом виде способным осуществлять те же функции в процессе когнитивной деятельности ИИ, что и естественный язык в когнитивной деятельности человека.
Очевидно, что современные языки программирования высокого уровня - и те из них, с помощью которых создаются предметные онтологии ИИ для семантического веба Web 3.0 (RDF или OWL), и наиболее востребованные языки программирования, обычно используемые для создания экспертных обучающих систем ИИ (LISP, Prolog, Java или Python) - для этого не подходят, поскольку они созданы для иных целей и не обладают свойствами, обеспечивающими организацию и поддержку полноценных мыслительных процессов. Поэтому должен быть создан какой-то иной язык - язык искусственного мышления, стоящий выше метаязыков описания процессов, происходящих в анналах ИИ.
Однако для этого недостаточно понимания только когнитивной архитектуры мозга: необходимо изучение тех свойств естественных языков, которые непосредственно влияют на процессы мышления. Поскольку язык и речь для человека - это инструмент связи его сознания (внутреннего мира) с окружающей средой (внешним миром), то необходимы дополнительные исследования процессов освоения и владения языками - родным и иностранными (хотя для ИИ между ними не будет особой разницы) - не только с точки зрения внутренней архитектуры мозга, но преимущественно с точки зрения взаимодействия мозга и внешней среды, взаимодействия языка и сознания, что является несоизмеримо более сложной задачей.
Принципы функционирования человеческого мозга представляют собой проблему, о которой, по словам С. Пинкера, «мы не знаем и сотой доли того, что нам известно о работе тела, и уж подавно наших знаний недостаточно, чтобы создать утопию или преодолеть эту проблему. <.. .> Если мы сталкиваемся с проблемой, то можем не знать её решения, но у нас есть интуитивные догадки, постепенно накапливающиеся знания и хотя бы примерное представление о том, что мы ищем». Но это уже не тайна, глядя на которую мы испытываем удивление или недоумение: «десятки тайн нашего мышления в последнее время были переведены в разряд проблем» [3, с. 5].
Именно по этой причине многие специалисты в области ИИ считают создание сильного ИИ не просто мечтой - тайной, но проблемой - горизонтом, в направлении которого конечно же будут двигаться научные разработки, несмотря на то, что эти планы отсутствуют в национальной стратегии развития ИИ. Особые сомнения будет вызывать ужесточение требований к сильным интеллектуальным системам в плане создания машинных метаязыков, которые способны оказать непосредственное влияние на «машинное мышление». Так что в ближайшей перспективе создание искусственных интеллектуальных систем, обладающих «человеческой психикой» и владеющих «человеческим языком», так и останется, к сожалению, нерешённой проблемой.
Список литературы
1. Пинкер, С. Субстанция мышления: Язык как окно в человеческую природу. Пер с англ. [Текст] / Пинкер, С. - М. : УРСС: Книжный дом «ЛИБРОКОМ», 2016. - 560 с.
2. Глик, Дж. Информация. История. Теория. Поток / Пер. с англ. М. Кононенко [Текст] / Глик, Дж. -М. : АСТ: CORPUS, 2013. - 576 с.
3. Пинкер, С. Как работает мозг / Пер.с англ. О. Ю. Сёминой [Текст] / Пинкер, С. - М. : Кучково поле, 2017. - 672 с.
4. Шамис, А. Л. Пути моделирования мышления: Мышление и творчество; формальные модели поведения и «распознавания с пониманием»; целостность, целенаправленность, активность; max T. [Текст] / Шамис, А. Л. - М. : ЛЕНАНД, 2017. - 264 с.
5. Потебня, А. А. Мысль и язык [Текст] / Потебня, А. А. - М.: Издательство «Лабиринт», 1999. - 300 с.
6. Светлов, В. А. Методологическая концепция Чарльза Пирса: единство абдукции, дедукции и индукции [Текст] / Светлов, В. А. // Логико-философские штудии. - 2008. - № 5. - С. 165-188.
7. Поспелов, Д. А. Моделирование рассуждений. Опыт анализа мыслительных актов [Текст] / Поспелов, Д. А. - М. : Радио и связь, 1989. - 152 с.
8. Пономарёв, Я. А. Психология творчества [Текст] / Пономарёв, Я. А. - М. : Наука, 1976. - 302 с.
9. Кацнельсон, С. Д. Категории языка и мышления: Из научного наследия [Текст] / Кацнельсон, С. Д. - М. : Языки славянской культуры, 2001. - 864 с.
10. Рассел, Б. Человеческое познание: Его сфера и границы : Пер. с англ. [Текст] / Рассел, Б. - Киев : Ника-Центр, 1997. - 556 с.
11. Митрофанова, О. А. Компьютерное представление значений [Текст] / Митрофанова, О. А. // Прикладная и компьютерная лингвистика / Под ред. И. С. Николаева, О. В. Митрениной, Т. М. Ландо. - М. : ЛЕНАНД, 2016. - 320 с. - С. 59-93.
12. Олпорт, Г. Становление личности: Избранные труды : Пер. с англ. [Текст] / М. : Смысл, 2002. - 462 с.
13. Шадриков, В. Д. Ментальное развитие человека [Текст] / Шадриков, В. Д. - М. : Аспект Пресс, 2007. - 284 с.
14. Розин, В. М. Мышление: сущность и развитие. Концепция мышления. Роль мыслящей личности. Циклы развития мышления [Текст] / Розин, В. М. - М. : ЛЕНАНД, 2015. - 368 с.
15. Бруссард, М. Искусственный интеллект: Пределы возможного / Пер. с англ.1 [Текст] / Бруссард, М. - М.: Альпина нон-фикшн, 2020. - 362 с.
1 Неверный перевод названия книги на русский язык (см. п. 15 References): Artificial Unintelligence. How Computers Misunderstand the World - Искусственный неразум. Как компьютеры недопонимают мир.
KopnaxKMHa O. M.
К
References
1. Pinker S. Substanciya my'shleniya: Yazy'k kak okno v chelovecheskuyu prirodu. Per. s angl [The Stuff of Thought: Language as a Window into Human Nature]. Moscow, URSS, Knizhny'j dom «LIBROKOM», 2016. 560 p.
2. Gleick J. Informatsiya. Istoriya. Teoriya. Potok [The Information: A History. A Theory. A Flood]. / Per. s angl. M. Kononenko, Moscow, AST: CORPUS, 2013, 576 p.
3. Pinker S. Kak rabotaet mozg [How the Mind Works] / Per. s angl. O.Yu. Seminoy. Moscow, Kuchkovo pole, 2017, 672 p.
4. Shamis A.L. Puti modelirovaniya my 'shleniya: My 'shlenie i tvorchestvo; formal 'ny 'e modeli povedeniya i «raspoznavaniya s ponimaniem»; celostnost', celenapravlennost', aktivnost'; max T [Ways of Modeling Thought: Thought and Creativity; Formal Models of Behaviour and "Recognition with Understanding"; Integrity, Purposefulness, and Activity; max T.]. Moscow, LENAND, 2017, 264 p.
5. Potebnya A.A. My'sl' iyazy'k [Thought and Language]. Moscow, Izdatel'stvo «Labirint», 1999. 300 p.
6. Svetlov V.A. Metodologicheskaya koncepciya Charl'za Pirsa: edinstvo abdukcii, dedukcii i indukcii [Charles Pearce's Methodological concept: the Unity of Abduction, Deduction and Induction]. Logiko-filosofskie shtudii [Logical and philosophical studies], 2008, No 5, P. 165-188.
7. Pospelov D.A. Modelirovanie rassuzhdenij. Opy't analiza my'slitel'ny'x aktov [Modeling reasoning. Experience in the Analysis of Mental Acts.]. Moscow, Radio i svyaz', 1989. 152 p.
8. Ponomaryov Ya.A. Psixologiya tvorchestva [Psychology of creativeness]. Moscow, Nauka, 1976. 302 p.
9. Kacznel'son S.D. Kategorii yazy'ka i my'shleniya: Iz nauchnogo naslediya [Categories of Language and Thought: From the Scientific Heritage], Moscow, Yazy'ki slavyanskoj kul'tury', 2001, 864 p.
10. Rassel B. Chelovecheskoe poznanie: Ego sfera i granicy: Per. s angl. [Human Knowledge. Its Scope and Limits]. Kiev, Nika-Centr, 1997, 556 p.
11. Mitrofanova O.A. Komp'yuternoe predstavlenie znachenij [Computer Representation of Senses]. Prikladnaya i komp'yuternaya lingvistika [Applied and Computational Linguistics] / Pod red. I. S. Nikolaeva, O. V. Mitreninoj, T. M. Lando. Moscow, LENAND, 2016, 320 p., P. 59-93.
12. Allport G. Stanovlenie lichnosti: Izbranny'e trudy' Per. s angl. [Personality Becoming: Selected Papers]. Moscow: Smy'sl, 2002, 462 p.
13. Shadrikov V.D. Mental'noe razvitie cheloveka [Human mental development], Moscow, Aspekt Press, 2007, 284 p.
14. Rozin V.M. My'shlenie: sushhnost' i razvitie. Koncepciya my'shleniya. Rol' my'slyashhej lichnosti. Cikly' razvitiya my'shleniya [Mindset: Essence and Development. Thinking Concept. The Role of a Thinking Person. Thinking Development Cycles], Moscow, LENAND, 2015, 368 p.
15. Broussard M. Iskusstvennyy anti-intellekt: Predely vozmozhnogo. [Artificial Unintelligence. How Computers Misunderstand the World] / Per. s angl. Moscow: Al'pina non-fikshn, 2020, 362 p.
RESUME
O. M. Korchazhkina
The Language of an Artificial Mindset: The Need and the Possibility of Building It
The language of an artificial mindset is an anthropomorphic language for strong artificial intelligence (SAI) systems that is an analogue of the human language, which is designed to provide a full-fledged thinking process.The problem of creating a language that can support SAI systems to make complex decisions and fulfill creative activities is divided into two aspects: 1) how much modern SAI systems need such a language and 2) how much it is possible to create it. The solution to this problem is preceded by the search for an answer to another more controversial question: can machines think and what is the sign of full-fledged thinking in general?
The range of these issues is considered from the point of view of the integrative scientific field - cognitive science. The investigation involves a number of works by leading Russian and foreign experts in the field of cognitive psychology, linguistics and psycholinguistics, personality theory, the science of thinking and consciousness, and artificial intelligence. As a research method, we chose the concept of abductive reasoning by Charles S. Peirce that includes abductive reasoning (search for plausible hypotheses), deductive reasoning (deduction of consequences from the hypotheses), and inductive reasoning (confirmation of deduction conclusions by accumulated empirical facts).
The research has confirmed the initial hypothesis that the key factor of the high-level mindset lies in the sphere of language and speech. Modern SAI systems should have a developed psyche and "master" the language of the artificial thought. Without such a language, they a priori cannot have an anthropomorphic type of thinking.
At the current level of SAI development, creating the language of an artificial mindset is technologically impossible. This solution should be preceded by a detailed study of the biological principles the human brain works under, social and personal components that affect thinking as an activity, as well as further research on the functions of a language as a tool for fulfilling thinking.Only if these principles are fully understood, one can make an attempt to implement them in real SAI systems, which appears to be an undeniably difficult task.
РЕЗЮМЕ
О. М. Корчажкина
Язык искусственного мышления: необходимость и возможность создания
Язык искусственного мышления - это антропоморфный язык для систем сильного искусственного интеллекта (СИИ), аналог человеческого языка, который призван обеспечивать полноценный процесс мышления. Проблема создания языка, способствующего принятию сложных решений и осуществлению творческой деятельности системами СИИ, разбивается на два аспекта: 1) насколько необходим современным системам СИИ такой язык и 2) насколько возможно его создание. Решению этой проблемы предшествует поиск ответа на другой более спорный вопрос: могут ли машины мыслить и что вообще является признаком полноценного мышления?
Круг обозначенных вопросов рассматривается с точки зрения интегративной научной области - когнитивистики. Привлечены труды ведущих отечественных и зарубежных специалистов в области когнитивной психологии, лингвистики и психолингвистики, теории личности, науки о мышлении и сознании, искусственному интеллекту. В качестве метода исследования выбрана теория абдуктивных умозаключений Чарльза Пирса: единство абдукции (поиск правдоподобных гипотез), дедукции (выведение следствий из выдвинутых гипотез) и индукции (подтверждение выводов дедукции накопленными эмпирическими фактами).
Подтверждена первоначальная гипотеза: ключевым фактором осуществления высокоуровневого процесса мышления является владение языком и речью. Современные системы СИИ должны обладать развитой психикой и «владеть» языком искусственного мышления. Не имея такого языка, они априори не могут обладать антропоморфным типом мышления.
Создание языка искусственного мышления на данном этапе развития СИИ в технологическом плане невозможно. Решению этой задачи должно предшествовать детальное изучение биологических принципов работы человеческого мозга, социально-личностных компонентов, влияющих на мышление как вид деятельности, а также дальнейшее исследование функций языка как инструмента осуществления мышления. Только в случае полного понимания этих принципов может быть сделана попытка их реализации в реальных системах СИИ, что представляется неоспоримо сложной задачей.
Статья поступила в редакцию 12.10.2020.
