CC BY
20
обучении испытуемых контролю паттернов их мозговой активности с помощью декодированной нейронной обратной связи. Этот метод можно использовать для того, чтобы непосредственно воздействовать на уровень уверенности, связанный с репрезентациями в ГРП. Применяя этот метод в рамках различных экспериментов, можно было бы получить доказательства того, что механизм метапознания является общим для всех репрезентаций в пределах ГРП. Авторы отмечают, что их исследование «помогает лучше понять не только природу ГРП, но и репрезентации, которые оно глобально транслирует» [с. 569]. Это приближает ученых к разгадке характера сознания.
М.А. Сущин
2020.01.008. ЦИХИ Р.М., КАЙЗЕР Д. ГЛУБИННЫЕ НЕЙРОННЫЕ СЕТИ КАК НАУЧНЫЕ МОДЕЛИ.
CICHY R.M., KAISER D. Deep neural networks as scientific models // Trends in cognitive sciences. - 2019. - Vol. 23, N 4. - P. 305-317. -DOI: https://doi.org/10.1016/j.tics.2019.01.009.
Ключевые слова: философия науки; когнитивная наука; глубинные нейронные сети; искусственный интеллект; объяснение; предсказание; исследование.
Авторы из Германии, когнитивные ученые, с позиций философии науки обсуждают возможность использования глубинных нейронных сетей (ГНС) в качестве моделей в когнитивной науке.
Обретшие с недавних пор значительную популярность ГНС представляют собой вычислительные алгоритмы, позволившие компьютерам решать когнитивные задачи в реальном мире, которые долгое время были не по зубам системам искусственного интеллекта (ИИ), но с которыми легко справляются люди: распознавание образов, обработка естественного языка, планирование и т.д. В последние несколько лет ГНС произвели революцию сначала в области компьютерного зрения, а затем и в других областях - обработки естественного языка, контроля и планирования (в играх Atari и го), а также в области изучения пространственного ориентирования (нахождение кратчайшего маршрута на карте метро).
Как отмечают авторы, несмотря на то что изначально ГНС были созданы для решения прикладных и инженерных задач, их
применение в когнитивной науке также может оказаться весьма плодотворным. Не так давно было показано, что ГНС способны предсказать суждения людей о перцептивном сходстве (human perceptual similarity judgments), а также лучше, чем другие модели, объяснить нейронную активность сенсорной коры приматов. Однако попытки применения ГНС в когнитивной науке вызвали ожесточенные дискуссии.
Чтобы оценить потенциал ГНС как научных моделей, полагают авторы, прежде всего необходимо определить, чем характеризуются хорошие научные модели. Можно, например, попробовать определить характеристики наилучшей возможной научной модели и взять ее как образец для сравнения. Возможна ли такого рода одна совершенная научная модель в когнитивной науке? Авторы находят такую возможность крайне маловероятной, так как, по их мнению, между предпочтительными свойствами моделей в когнитивной науке должен существовать баланс и ни одна не может обладать сразу всеми этими свойствами.
Предпочтительные свойства (desiderata) моделей разделяются на два класса: теоретические и нетеоретические. К теоретическим свойствам моделей биологических феноменов, по авторам, относятся точность (насколько точен результат моделирования), реализм (схожесть модели и феномена) и общность. Одновременно всеми этими свойствами модель может обладать только тогда, когда моделируемый класс феноменов является гомогенным, т.е. обладает одинаковыми свойствами. Во всех остальных случаях модель не может быть одинаково точной и общей.
Поведение же и мозг биологических организмов не являются гомогенными ни в каком отношении. Соответственно, в когнитивной науке не может быть одной модели, которую бы в равной степени хорошо отличали точность, реализм и общность. Вместо этого должно быть множество моделей со своими сильными сторонами. Например, возможны модели зрения для какого-либо одного человека, группы индивидов или различных организмов (человека и паука), но не для всех этих агентов сразу. Поэтому чтобы оценивать научный потенциал ГНС, замечают авторы, необходимо принимать во внимание цели моделирования, а также то, какие качества моделей исследователи видят приоритетными.
Кроме того, модели могут оцениваться также на основе нетеоретических критериев, к которым относятся практические (скорость вычисления, легкость обработки) и этические соображения. В научной практике последние часто берут верх над теоретическими свойствами моделей. В свете такого рода нетеоретических соображений, считают авторы, ГНС заслуживают очень высокой оценки: «Они производят вычисления дешево и быстро, и их изучение имеет меньше этических ограничений, чем изучение других моделей» [с. 309].
При этом в научных дисциплинах разной степени зрелости могут сосуществовать самые разнообразные модели. В когнитивной науке существуют разные модели - модели с ящиками и стрелочками (например, модель рабочей памяти А. Бэддели), вычислительные модели (символьные и др.), модели целых организмов (аплизии или мыши) и т.д. Сосуществование и успех разнообразных моделей в науках разной степени зрелости говорит против возможности одного наилучшего вида моделей. Исходя из этого, авторы призывают не отвергать ГНС преждевременно и не рассматривать их как единственный тип моделей, к которому когнитивная наука в конечном счете должна прийти.
Несмотря на свое разнообразие, научные модели часто рассматриваются как имеющие общий источник, а именно теорию, из которой они были выведены и на проверку которой они направлены. Однако эта точка зрения плохо согласуется с научной практикой, поскольку модели редко выводятся непосредственно из теории. Создание моделей является в большей степени творческим процессом, нежели прямолинейной логической дедукцией. Используемые в настоящий момент в когнитивной науке ГНС не выводились из какой-либо теории для ее проверки. (Хотя и они, по-видимому, были вдохновлены теориями функционирования биологического мозга.) Впрочем, это обстоятельство не является причиной для отказа от ГНС, поскольку их происхождение не имеет отношения к оценке их научной ценности.
Как известно, для технологических и инженерных разработок первостепенная цель заключается в создании устройств, которые выполняют определенную работу (например, корректно предсказывают определенный результат), тогда как задача объяснения часто отходит на второй план. Несмотря на то что значительный
предсказывающий потенциал ГНС не оспаривается даже их критиками, эти модели часто отвергаются по причине того, что предсказание видится менее значимым для науки, нежели объяснение.
В противоположность этой точке зрения авторы выделяют два момента в том, что предсказание обладает значимостью для когнитивной науки. Во-первых, ГНС могут использоваться чисто прагматически, как инструмент для решения практических задач без прямой отсылки к объяснению. В этом случае они могут применяться для помощи пациентам с повреждениями мозга и для не-инвазивного экспериментального контроля активности мозга. Во-вторых, ГНС могут быть этапом на пути к подлинному объяснению. Как отмечают авторы, «предсказывающий потенциал в конечном счете является критерием для успешного объяснения: мы не можем быть удовлетворены моделью, которая предлагает объяснение, но которая не может успешно предсказывать» [с. 310].
Для многих исследователей в когнитивной науке образцом объяснительных моделей являются так называемые математико-теоретические модели. В рамках этих моделей устанавливается некоторое число релевантных переменных для описания феномена, предлагается способ их взаимодействия, после чего переменные и их взаимодействие моделируются математически. Такого рода модели достаточно прозрачны. В сравнении с этими моделями ГНС выглядят совершенно иначе. Глубинная нейронная сеть может обладать миллионами параметров, которые выучиваются ею, а не устанавливаются a priori. Поэтому сразу может быть неочевидно, как эти параметры соотносятся с миром или взаимодействуют между собой. ГНС, без полного понимания внутренних механизмов ее работы, может выглядеть как черный ящик. В связи с этим возникает проблема, а именно что моделирование работы мозга при помощи ГНС подобно попыткам объяснения работы одного черного ящика через другой.
В ответ авторы приводят три аргумента в пользу того, что ГНС обладают объяснительной силой. Первый аргумент заключается в том, что ГНС предлагают объяснение иного вида - телеологические объяснения. Иначе говоря, ГНС функционируют определенным образом не потому, что они репрезентируют некоторый аспект мира, а потому, что им необходимо достичь определенной цели, например распознать объект.
Второй аргумент гласит, что на самом деле ГНС фактически используются так же, как традиционные математико-теоретичес-кие модели. В конце концов, в фундаментальном смысле они определяются рядом устанавливаемых a priori параметров, таких как архитектура, материалы для обучения, процедура и цели обучения. Эти переменные прямо относятся к специфическим феноменам в мире, поэтому модель является прозрачной и обладает объяснительной силой.
Наконец, третий аргумент состоит в том, что непрозрачность ГНС, связанная с их сложностью, представляет собой промежуточное состояние, которое будет преодолено на основе значительных возможностей этих моделей для объяснения post hoc.
Однако помимо предсказания и объяснения, утверждают авторы, научные модели выполняют еще одну функцию, а именно исследование новых горизонтов (exploration). Согласно идеализированному представлению о естественных науках, прогресс в них совершается посредством выведения из развитой теории гипотез и их последующей проверки. Однако когда развитая теория отсутствует, появляется необходимость исследовать и создавать отправные точки для новых теорий, а не предсказывать и объяснять. Такого рода исследование является вездесущей практикой в науке. Авторы утверждают, что ГНС вносят значимый позитивный вклад в эту практику по двум причинам. Во-первых, ввиду отсутствия развитой теории какой бы то ни было когнитивной функции эти модели играют важную исследовательскую роль. Во-вторых, по причине их сложности ГНС предоставляют значительные возможности для исследования. По мнению авторов, использование ГНС для исследования новых горизонтов помогает когнитивной науке в трех аспектах.
Прежде всего, исследование с помощью ГНС может привести к формулированию новых гипотез. Философ науки Мэри Хессе (Mary Hesse) предложила понимать отношение между моделью и ее объектом в терминах аналогии. По М. Хессе, модель может обладать позитивной, негативной и нейтральной аналогией по отношению к своему объекту. Позитивные и негативные аналогии представляют собой то, что, соответственно, объединяет и различает модель и ее объект. Если же общность или различие между моделью и ее объектом не установлены, то модель обладает ней-
тральной аналогией. Поэтому нейтральные аналогии позволяют открывать новые факты об объектах исследования. Применительно к дискуссиям о ГНС это означает, что исследование нейтральных аналогий между этими моделями и мозгом может выступить источником новых гипотез для эмпирической проверки. Если позитивные и негативные аналогии в этом случае представляют собой то, что объединяет и различает ГНС как модели и мозг как их объект, то нейтральными являются те аналогии между ГНС и мозгом, общность или различие которых неизвестны.
Другое обещающее направление использования ГНС в когнитивной науке, по авторам, заключается в демонстрациях возможности моделирования поведения или нейронной активности и, соответственно, мотивации дальнейших исследований на основе идеи, применяемой в инженерном деле, - проверки и подтверждения принципа действия (proof-of-principle demonstrations). «В инженерной практике идея проверки и подтверждения принципа действия показывает осуществимость определенного подхода к решению проблемы с помощью создания устройства, которое решает проблему» [с. 314]. Этот успех, в свою очередь, мотивирует дальнейшие исследования. В когнитивной науке использование ГНС в этом ключе может помочь продемонстрировать, например, возможность восходящего или нисходящего подхода к изучению зрения и мотивировать, таким образом, дальнейшее внимание к этой теме.
Наконец, ГНС могут использоваться в когнитивной науке для оценки уместности изучаемого феномена и для изменения и уточнения понятий, когда отсутствует развитая теория. Так, например, использование ГНС в исследованиях нейрофизиологических оснований зрительного восприятия помогло уточнить хорошо известную гипотезу двух зрительных потоков. «В итоге, - пишут авторы, - предсказывающая сила ГНС создает прекрасную отправную точку для развития с их помощью новых теорий и пересмотра существующих теорий. Моделирование с помощью ГНС порождает новые гипотезы, позволяет подтверждать принцип действия системы и помогает уточнять наши научные понятия. Чтобы не сойти с правильного пути, исследование новых горизонтов не должно быть спутано с объяснением или экспериментом» [с. 315].
В заключение авторы представляют четыре вывода своего исследования: 1) ГНС должны использоваться в когнитивной науке как один из множества видов полезных моделей; 2) благодаря своей предсказывающей силе ГНС могут стать инструментом для научного исследования и практического приложения; 3) необходимо использовать объяснительную силу ГНС для теоретической работы, но при этом ясно оговаривать, о каком типе объяснения идет речь; 4) исследовательский потенциал ГНС может способствовать появлению новых теоретических разработок, которые трудно предвидеть в настоящий момент.
М.А. Сущин
2020.01.009. УАЙТ К.Дж. ИНТЕГРИРУЯ ГЛОБАЛЬНОЕ РАБОЧЕЕ ПРОСТРАНСТВО В ПРОГРАММУ ПРЕДСКАЗЫВАЮЩЕЙ ОБРАБОТКИ: НА ПУТИ К РАБОЧЕЙ ГИПОТЕЗЕ. WHYTE C.J. Integrating the global neuronal workspace into the framework of predictive processing: Towards a working hypothesis // Consciousness and cognition. - 2019. - Vol. 73, art. 102763. - P. 1-9. -DOI: https://doi.org/10.1016/j.concog.2019.102763.
Ключевые слова: программа предсказывающей обработки; теория глобального рабочего пространства; сознание; мозг; предсказание.
Автор из Австралии рассматривает вопрос интеграции двух ведущих программ в современной когнитивной науке и исследованиях сознания - программы предсказывающей обработки (НПО) и модели глобального нейронного рабочего пространства (ГНРП).
ППО пытается охватить восприятие, действие и познание в рамках единой вычислительной перспективы приближенного байесовского процесса минимизации ошибки в предсказании. С этой точки зрения на основе внутренней модели мира мозг порождает предсказания сенсорного входа и сопоставляет их с действительными сенсорными сигналами. В случае несоответствия между ними (именуемого ошибкой в предсказании - prediction error) мозг вносит коррективы во внутреннюю модель мира для порождения более совершенных предсказаний. Таким образом, в отличие от традиционного взгляда на восприятие как на восходящий процесс извлечения свойств (feature extraction), ППО предлагает рассмат-
