CC BY
14
В заключение авторы представляют четыре вывода своего исследования: 1) ГНС должны использоваться в когнитивной науке как один из множества видов полезных моделей; 2) благодаря своей предсказывающей силе ГНС могут стать инструментом для научного исследования и практического приложения; 3) необходимо использовать объяснительную силу ГНС для теоретической работы, но при этом ясно оговаривать, о каком типе объяснения идет речь; 4) исследовательский потенциал ГНС может способствовать появлению новых теоретических разработок, которые трудно предвидеть в настоящий момент.
М.А. Сущин
2020.01.009. УАЙТ К.Дж. ИНТЕГРИРУЯ ГЛОБАЛЬНОЕ РАБОЧЕЕ ПРОСТРАНСТВО В ПРОГРАММУ ПРЕДСКАЗЫВАЮЩЕЙ ОБРАБОТКИ: НА ПУТИ К РАБОЧЕЙ ГИПОТЕЗЕ. WHYTE C.J. Integrating the global neuronal workspace into the framework of predictive processing: Towards a working hypothesis // Consciousness and cognition. - 2019. - Vol. 73, art. 102763. - P. 1-9. -DOI: https://doi.org/10.1016/j.concog.2019.102763.
Ключевые слова: программа предсказывающей обработки; теория глобального рабочего пространства; сознание; мозг; предсказание.
Автор из Австралии рассматривает вопрос интеграции двух ведущих программ в современной когнитивной науке и исследованиях сознания - программы предсказывающей обработки (ППО) и модели глобального нейронного рабочего пространства (ГНРП).
ППО пытается охватить восприятие, действие и познание в рамках единой вычислительной перспективы приближенного байесовского процесса минимизации ошибки в предсказании. С этой точки зрения на основе внутренней модели мира мозг порождает предсказания сенсорного входа и сопоставляет их с действительными сенсорными сигналами. В случае несоответствия между ними (именуемого ошибкой в предсказании - prediction error) мозг вносит коррективы во внутреннюю модель мира для порождения более совершенных предсказаний. Таким образом, в отличие от традиционного взгляда на восприятие как на восходящий процесс извлечения свойств (feature extraction), ППО предлагает рассмат-
ривать восприятие как, в сущности, нисходящий процесс, в рамках которого только сигналы об ошибке в предсказании могут распространяться «вверх» по нейровычислительной иерархии.
В последние годы ППО нашла свое применение в области психопатологии, исследованиях внимания, действия и перцептивных феноменов. Между тем сравнительно небольшое число исследований в рамках ППО было посвящено прояснению того, как информация переходит из бессознательной обработки в сознание. Некоторые сторонники ППО утверждают, что эта программа может выступить в качестве единой теории разума / мозга, поэтому этот вопрос становится особенно актуальным.
Одна из возможностей здесь заключается в том, чтобы интегрировать независимо развитую теорию сознания в структуру ППО. Шаги в этом направлении были предприняты философом и когнитивистом Якобом Хохви (Jakob Hohwy), который предложил концепцию сознания, интегрирующую одну из ведущих современных научных моделей сознания - модель ГНРП - в структуру ППО. Для краткости автор обозначает концепцию Я. Хохви предсказывающим ГНРП (ПГНРП). Несмотря на то что, по замечанию автора, концепция Я. Хохви имеет большой потенциал, она нуждается в дальнейшем теоретическом и эмпирическом развитии. Таким образом, цель своей работы автор видит в том, чтобы очертить эмпирические предсказания, которые помогут отличить ПГНРП от других версий идеи ГНРП, встречающихся в литературе.
Прежде всего автор предлагает обзор основных положений ППО и теории ГНРП соответственно и после этого переходит к реализации основной задачи работы. Итак, в первую очередь в статье дается краткий обзор основных принципов когнитивистской ППО. Ее отправным пунктом служит следующее наблюдение: доступная мозгу информация о мире сообщается ему только посредством сенсорного преобразования (transduction). Мозг не имеет прямого доступа к причинам сенсорных сигналов, и тем не менее субъекты воспринимают мир как целостный и детализированный. В соответствии с ППО мозг решает эту задачу посредством порождения предсказаний о сенсорных сигналах и последующего пересмотра этих предсказаний в случае несоответствия между предсказаниями и действительными сенсорными сигналами. В общих чертах: нисходящие предсказания (называемые также «предшест-
вующие ожидания» (prior expectations). - Реф.) сопоставляются с сенсорными сигналами, в случае необходимости в модель мира вносятся соответствующие исправления, после чего генерируются скорректированные предсказания. Этот процесс, как предполагается, осуществляется в пределах всей иерархически организованной коры мозга. «Содержанием восприятия, - пишет автор, - является предсказание, которое в лучшей степени объясняет (explains away) ошибку в предсказании в пределах всей иерархии и, таким образом, получает наивысшую апостериорную вероятность» [с. 4]. Кроме того, важнейшую роль в этой схеме выполняет связанный с вниманием механизм оценки точности сигналов об ошибке в предсказании, благодаря которому действительные сигналы об ошибке могут быть дифференцированы от незначительных сигналов или просто шума.
Ясно, что способность восприятия постоянно изменяющегося мира требует, чтобы ошибки в предсказании минимизировались на разных временных шкалах: от миллисекундных предсказаний, относящихся к быстрым движениям глаз, до предсказаний социальных взаимодействий и т.п. Так, в соответствующей литературе были представлены две основные точки зрения относительно реализации в мозге механизма минимизации ошибки в предсказании на разных временных шкалах. Согласно первой точке зрения, первичные сенсорные зоны в постериорных регионах коры минимизируют ошибку в предсказании на коротких временных шкалах, тогда как с постепенным удалением обработки от непосредственного сенсорного входа антериорные регионы коры минимизируют ошибку в предсказании на больших временных шкалах. Другая позиция основывается на так называемой структурной модели кортико-кортикальных соединений, в соответствии с которой аг-ранулярная кора и дисгранулярная кора, находясь на вершине иерархии, отслеживают статистические закономерности в поведении нижестоящих уровней (в мультимодальных интегративных зонах и далее в ассоциативных зонах), посылают им предсказания и получают от них сообщения об ошибках.
Очертив ключевые положения ППО, автор вкратце излагает постулаты другой ключевой для его работы модели - модели ГНРП. Исторически первая разновидность этой идеи - теория глобального рабочего пространства (ГРП) - получила развитие благо-
даря психологу Б. Баарсу в качестве когнитивной теории сознания. В ее основу была положена гипотеза, гласящая, что сознание связано с обеспечением доступа к информации для множества работающих сравнительно изолированно бессознательных процессов и механизмов мозга. «Сознательные процессы, - пишет автор, - обладают ограниченной вместимостью, являются последовательными, широко распространяемыми, гибкими и чувствительными к контексту. В противоположность бессознательные процессы располагают гораздо большей информационной вместимостью, функционируют параллельно, а также являются относительно изолированными и автономными. Чтобы стать сознаваемой, информация должна войти в пределы ГРП - последовательный и широко распространяемый инструмент информационного обмена, который облегчает взаимодействие множества без того изолированных функций» [с. 3].
Теория Б. Баарса строилась вокруг экспериментального подхода к изучению сознания - контрастной феноменологии. Смысл этого подхода состоит в том, что использование в экспериментах стимулов на пороге сознательного восприятия (с помощью экспериментальных парадигм вроде зрительной маскировки, бинокулярного соперничества и т.п.) при сохранении неизменными (насколько это возможно) прочих переменных позволяет рассматривать сознание как независимую экспериментальную переменную и делать выводы о вычислительной роли сознательной и бессознательной обработки информации.
Используя контрастную методологию в сочетании с методами нейровизуализации, С. Деан и его коллеги предложили модель реализации схемы ГРП в мозге, названную ими моделью ГНРП. Согласно С. Деану и его коллегам, система ГРП поддерживается сетью тесно связанных пирамидальных нейронов, соединяющих префронтальные и теменные регионы мозга. Информация, ставшая достоянием ГРП, транслируется и поддерживается возвратной (reentrant) активностью части нейронов ГРП. В то же время возможность проявления каких-либо других конфигураций ГРП, связанных с другими потенциально осознаваемыми стимулами, подавляется. В итоге кодирование информации в ГРП делает возможными высокоуровневые когнитивные функции: планирование, вербаль-
ный отчет, сознаваемую рабочую память, волевой контроль действий и т. д.
Важнейшим теоретическим элементом модели ГНРП оказывается предсказание того, что как видимые, так и подпороговые стимулы будут практически идентично обрабатываться ранними зрительными зонами. Однако спустя 250-500 мсек после предъявления стимула происходит нелинейная и исключающая другие состояния (all-or-nothing) активизация префронтально-теменной сети. В противном случае (т.е. когда глобального возбуждения не происходит) бессознательные репрезентации используются для руководства поведением. Другими словами, согласно ГНРП, сознательную обработку информации в мозге отличает широко распространяемое, относительно позднее по времени и исключающее другие состояния возбуждение префронтально-теменной сети.
Изложив основные положения двух программ, автор переходит к обсуждению возможности их интеграции. Так, согласно модели ГНРП, нейроны с взаимными связями соревнуются друг с другом и в конечном итоге либо достигают порога возбуждения и формируют ГРП для определенного стимула, либо ограничиваются бессознательной обработкой информации. При этом возникает вопрос об условиях перехода нейронами порога для формирования состояния глобального возбуждения. Именно в исследовании этого вопроса, по мнению автора, открывается возможность для интеграции двух программ, или, точнее говоря, включения модели ГНРП в рамки ППО. По Я. Хохви, ППО содержит в себе возможный ответ на вопрос об условиях перехода порога возбуждения конфигурацией нейронов. В соответствии с ППО состояние глобального возбуждения может проявляться тогда, когда определенное предсказание в минимизирует ошибку в предсказании лучшим способом, нежели конкурирующие предсказания, и, таким образом, формирует наилучшее объяснение текущего сенсорного входа. При этом выбор гипотезы, в наилучшей степени объясняющей сенсорный вход (в терминах ППО, гипотезы с наибольшей апостериорной вероятностью. - Реф.), обладает центральным значением для руководства действиями (эта способность в рамках ППО называется «активный вывод» - active inference).
Между тем Я. Хохви не единственный исследователь, который пытается объяснить сознание путем интеграции модели ГНРП
в рамки ППО. Л. Чейнс (L. Chaines) и Л.Ф. Бэррет (L.F. Barrett) представили отличающуюся от стандартной концепцию реализации этой схемы в мозге1. Если согласно стандартной точке зрения, ГНРП связано с активностью префронтально-теменной сети мозга, то, по Л. Чейнс и Л.Ф. Бэррет, кора лимбической системы формирует «лимбическое рабочее пространство», которое поддерживает сознательную обработку информации. Согласно Л. Чейнс и Л.Ф. Бэррет, лимбическая кора, соединенная двусторонними связями с подчиненными структурами (такими как гипоталамус и амигдала), выбирает среди одномодальных (unimodal) репрезентаций наиболее релевантную текущим целям организма и интегрирует ее в ГРП.
В заключение автор отмечает, что в настоящий момент не имеется достаточного количества эмпирических свидетельств, чтобы определить правоту какой-либо из этих альтернатив. Нахождение подобного рода свидетельств потребует систематического изучения сознательной обработки информации, относящейся к различным сенсорным модальностям, у пациентов с поражениями лимбической коры, а также метаанализа нейровизуализационных экспериментов такого же рода сознательной обработки информации и др. Однако автор выражает уверенность в способности модели ПГНРП направлять будущие теоретические и эмпирические исследования роли механизмов минимизации ошибки в предсказании в сознательной обработке информации.
М.А. Сущин
2020.01.010. ТАДДЕО М. ТРИ ЭТИЧЕСКИХ ВЫЗОВА ПРИЛОЖЕНИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ОБЛАСТИ КИ-БЕРБЕЗОПАСНОСТИ.
TADDEO M. Three ethical challenges of applications of artificial intelligence in cybersecurity // Minds and machines. - 2019. - Vol. 29, N 2. - P. 187-191. - Mode of access: https://doi.org/10.1007/s11023-019-09504-8
Ключевые слова: искусственный интеллект; кибербезопас-ность; киберпространство; глубинное обучение; этика.
1 Chaines L., Barrett L.F. Redefining the role of limbic areas in cortical processing // Trends in cognitive sciences. - 2016. - Vol. 20, N 2. - P. 96-106.
