CC BY
35
Вестник Томского государственного университета. 2019. № 441. С. 75-79. DOI: 10.17223/15617793/441/10
ФИЛОСОФИЯ
УДК 165.4
А.В. Голубинская
ПРИНЯТИЕ ЗНАНИЯ РАСШИРЕННЫМ СОЗНАНИЕМ В УСЛОВИЯХ ИНФОРМАЦИОННОГО ОБЩЕСТВА
Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-311-00061.
Предложена адаптация гипотезы расширенного сознания к условиям познавательной деятельности субъекта современного информационного общества. Выводится три типа распределения и расширения познавательной деятельности: автономный (сократический) и два трансактивных, в том числе без применения виртуальных технологий (ньютоновский) и с их применением (кларковский). Рассмотрение возможных вариаций «кларковского субъекта» позволяет выявить новые связи между гипотезой и проблемой эпистемического доверия.
Ключевые слова: онлайн-знание; эпистемическое доверие; сократический субъект; ньютоновский субъект; кларковский субъект; расширенное сознание; информационное общество.
Считается, что Сократу принадлежат слова «Я знаю, что ничего не знаю». Сегодня мы не знаем и этого, ведь возможности, которые даёт нам Интернет, привели к тому, что знать можно всё, кроме собственного невежества. Мы, как в сократическом диалоге, постоянно задаём вопросы, но почти не ведём дебатов и, вместо поиска ответа в сущности интересующего нас явления, получаем доступ ко всем когда-либо написанным по этому явлению комментариям. Вопросы стали запросами, а ответы - данными, которые вовсе не влекут за собой новых, более глубоких вопросов, и хотя при такой познавательной деятельности Сократ-помощник оказался бы крайне полезным, мы всё же склонны запрашивать и получать данные в одиночку. «Истины», лежащие в нашем доступе, почти ничего не стоят, и потому их называют постистинами [1, 2], фолк-истинами [3], подчёркивая условность, относительность и даже переносный смысл применения к ним свойства истинности. Мы говорим об обществе знаний, указывая на неорганизованный, спонтанный поток информации, и о самих знаниях, уравнивая их со сбором информации. Однако производить знания или принимать их осознанно, осмысленно, путём суждения - это труд, которому традиционно служило меньшинство. В современных условиях такое ограничение попросту невозможно, в результате чего знание подменяется данными, а познание - сбором их фрагментов, и с эпистемологической точки зрения это очень сомнительное положение. В целом таковы основные направления современной критики общества знаний [1, 4, 5].
Намного позже Сократа появились альтернативные подходы к знанию и незнанию, само отношение к познаваемости мира сильно изменилось. Важно понимать, что во времена становления классической науки, а также свойственного этому периоду научного мышления, один учёный мог удержать в голове все существующие научные знания. С. Фаерштайн отметил, что по соотношению знаний одного учёного к общему количеству накопленных знаний Ньютон и его современники обошли бы всех современных гениев [6. Р. 13]. Однако сегодня выпускник школы дол-
жен знать больше, чем знал Ньютон, и держать в уме все накопленные знания можно в лучшем случае только в пределах одной конкретной дисциплины. Выходит, что в этом плане мы ближе к Сократу, чем к Ньютону, хотя в общих чертах и в повседневной жизни продолжаем верить в ценности классической науки вроде возможности устранения всех научных пробелов, разработки теории всего, абсолютной точности научного метода.
Впрочем, всё ещё сложно оспорить утверждение, что отношение к знанию Сократа и субъекта современного информационного общества должны чем-то отличаться, и дело должно быть не в том, что мы знаем, а как мы это знаем. Возможно, разница связана с тем, что наши предки знали немного, но эти немногие знания определяли все их действия, - они знали, чтобы действовать. Мы же, напротив, отличаемся странной привилегией бытия среди вещей, которые, вообще говоря, познаны, но не нами. Эта разница, очевидно, не в нашу пользу.
Субъекты информационного общества не столько жаждут понимания вещей, сколько доступа к пониманию «до востребования». В одном из исследований [7. Р. 12-13] «гуглизации мышления», т.е. провоцируемых поисковыми системами следствий когнитивных процессов, группы респондентов должны были отвечать на разные вопросы, в том числе при помощи подсказок из Интернета или без возможности проверить свой ответ. По результатам авторами был сделан вывод, что точное воспроизведение ответа из Интернета, даже ошибочное, вызывало в респондентах чувство гордости, в то время как собственных знаний всегда было недостаточно для выражения уверенности в их достоверности. Это наблюдение подталкивает к вопросу: если изолировать нас от всемирной сети информации, как много мы обнаружим в себе?
Допустим, что знания «гуглизованного мышления» - это всё же знания, и их можно исследовать наравне со знаниями, которыми субъект обладает в традиционном смысле этой фразы. В данной работе эти «традиционно» понимаемые знания будем называть «автономными», т.е. независимыми от каких-либо внешних источников и локализованные в биоло-
гической системе субъекта. Те знания, которые зависят от подключения к сети, назовём «трансактивными» по аналогии с тем, как этот термин используется в когнитивной психологии для описания идентичных явлений. Однако даже такое простое деление встречает ряд затруднений.
Обратим внимание на ещё один эксперимент [8], результатом которого стало следующее заключение: активным интернет-пользователям свойственно не столько запоминать информацию, полученную из глобальной сети, сколько запоминать место в кибер-пространстве, откуда эту информацию можно извлечь. Это, пожалуй, может стать одним из принципов теоретизации трансактивных знаний в условиях информационного общества. Прежде полагалось, что трансактивная память объясняет, как одни люди полагаются на воспоминания других людей и как распределяется информация в устойчивых социальных связях (вроде семейных) [9. Р. 91]. Вопрос о природе этого явления задаётся и в психологии, и в философии сознания. Так, например, основные положения истории об Отто и Инге, представленной у А. Кларка и Д. Чалмерса [10, 11], схематично воспроизводятся и у теоретиков трансактивной памяти [12], хотя авторы и не используют общую терминологию.
Совершённое допущение - одна из форм гипотезы расширенного сознания, которая включает в когнитивную систему человека внешние артефакты, регулярно используемые для решения умственных задач [12. Р. 233], перцептивная система субъекта вовлекает в себя мир, а не представляет модели независимого от ума мира [13. Р. 195]. Для иллюстрации этого положения зачастую описывают образ человека с записной книжкой, которая так часто им используется, что стала ничем не уступающей памяти частью механизма хранения информации [14. Р. 149]. Если всё же включить в эту схему современные информационные технологии, что вполне допустимо для выбранной теории [15. С. 134-135], то окажется, что записи в эту книжку делает не только её хозяин, но ещё несколько миллиардов человек, и её содержание вряд ли можно ограничить даже самой подробной энциклопедией. Именно поэтому применение гипотезы необходимо уточнить.
Во-первых, внешние компоненты когнитивных систем должны отвечать требованию о регулярности взаимодействия [12. С. 233]. Выходит, говорить стоит не о веб-пространстве в целом, но о тех его зонах, в которых пользователь достаточно свободно ориентируется. Например, Иван и Анна оба пользуются Интернетом во время написания работы по истории и оба используют в качестве источника онлайн-курс их лектора. Анна не знает даты гражданской войны во Вьетнаме и потому спешно просматривает курс в поисках нужной информации. Иван уже несколько раз просмотрел этот курс и точно помнит, что даты представлены в начале второй лекции, поэтому открывает нужную лекцию и находит информацию, зная, где именно её искать. Гипотеза расширенного сознания применима только к случаю с Иваном: его знания являются трансактивными, в то время как пример с Анной - это пример простого отсутствия знания. Это
уточнение позволяет нам избежать установления равенства между знаниями пользователей и всем содержимым Интернета, которое они потенциально могут использовать. Замечание похожего рода высказано и П. Смартом в «Веб-расширенном сознании» [16]: Ви-кипедия, разумеется, намного доступнее, чем бумажная версия энциклопедии, но избыточность информации на каждой из страниц приводит к тому, что получение необходимой информации требует времени и усилий, следовательно, Википедия не может рассматриваться как элемент когнитивных структур личности.
Во-вторых, как было показано в двух упомянутых выше экспериментах, существует некоторое противоречие в оценке автономного и трансактивного воспроизведения знаний. Здесь интуитивно чувствуется связь гипотезы расширенного сознания с чем-то вроде эпистемического доверия. Однако, чтобы это установить, необходимо обозначить исходную точку размышления: как изменится ситуация, если Отто заменит блокнот на цифровой дневник?
Гипотеза расширенного сознания в условиях информационного общества. Представим, что Иван и Анна идут в тот же музей, что Отто и Инга. Как и в оригинале [10], Инга помнит адрес, а Отто испытывает с этим трудности и заносит его в блокнот. Иван тоже не обладает надёжной памятью, поэтому открывает социальные сети и отправляет Инге сообщение с просьбой указать адрес, что она и делает. Теперь адрес хранится в его личных сообщениях. Анна также не способна запомнить адрес, но она и не испытывает в этом потребности, поскольку она планирует воспользоваться навигатором, как только доберётся до города, а для этого ей потребуется только внести в программе слово «музей» и следовать указаниям голосового помощника. Для совершения этой операции Анне достаточно информации о том, что она пойдёт в конкретный музей, не больше. Очевидно, что в данном случае Анна знанием адреса не обладает и полагает, что, если в навигаторе была бы ошибка, обманутые пользователи сообщили бы в поддержку, поэтому риск заблудиться очень невысок. Так второе условие (условие надёжности) можно считать выполненным. Однако Анна полагается на технического партнёра, тем самым иллюстрируя распределение трансактивной памяти: если поменять навигатор на Ивана, который сопроводит Анну к музею, ей также не потребуется знать адрес и количество её знаний не изменится. Выходит, внешний источник - это уже не просто источник, а деятель, который полностью берёт на себя и получение знания, и совершения действия, для которого потребовалось это знание. Поскольку перемещение Анны в пространстве под указаниями навигатора не является когнитивным актом, а всю прочую работу взял на себя технический деятель, то от самой Анны вообще не потребовалось совершения умственных операций.
Интересно, что мысленный эксперимент с Иваном и Анной выявляет не только пример совершения действий без требуемых для этого знания, но и пример того, как можно иметь знания, но «не знать их». Так, когда Иван читает сообщение от Инги, то всякая интересующая нас разница между ним и Отто исчезает. Однако вплоть до этого момента Иван, имеющий од-
но непрочитанное сообщение от Инги с адресом музея, также не обладает знанием, хотя имеет основания полагать, что оно у него есть. Этих оснований может быть несколько, как минимум три:
(1) он обратился к Инге с просьбой прислать адрес,
(2) он знает, что у него есть одно непрочитанное сообщение от Инги,
(3) он не прочитал, но визуально оценил поступившее сообщение и понял, что это адрес, поскольку оно начиналось со слов «ул.» и имело цифры в конце сообщения,
но всё равно он не знает адрес. Можно обозначить и другие интересные свойства: Иван полностью доверяет Инге и рассматривает её как надёжный источник информации о месте музея, а также Иван знает «координаты» веб-пространства, где эта информация хранится. Иными словами, ситуация воспроизводит условия предыдущего опыта, когда Иван готовил работу по истории и выступал примером трансактивного знания.
С точки зрения теории трансактивной памяти, ситуация не является чем-то исключительным. Стоит лишь заменить навигатор Анны на живого человека, и описанные события не будут выделяться из таких же историй, представленных как в психологической литературе: один знает последовательность компонентов детали, другой - последовательность их соединения, в совокупности они владеют одним знанием [17. Р. 127] (самый известный пример распределения знаний - это их распределение среди членов экипажа -[18]). И здесь уже просматривается искомая разница между тем, как знал Сократ, и тем, как знает субъект современного общества: разница в количестве таких «когнитивных партнёров», локализованных за биологическими пределами организма. В конце концов, факт того, что Сократ выступал против письменности, превращает его в фигуру, абсолютизирующую автономность знания. «Сократический субъект», пожалуй, вряд ли возможен сегодня в условиях глобализованной культуры знания: записывать, вести тетради и фиксировать информацию «на потом» - всё это стало навыком дошкольного уровня, не говоря о темпах развития информационно-технической грамотности у поколений, не заставших мира до Интернета. Иными словами, сегодня «сократический субъект» - это образ, который мы используем для человека, знающего автономно. Впрочем, «ньютоновский субъект» получается ещё более идеализированным образом человека, автономно знающего всё, что можно знать. Выходит, современный человек - это всё же «кларковский субъект».
Проблема обоснованности знаний «кларковских» субъектов: невидимое третье лицо. Своеобразный консенсус в эпистемологии относительно природы знания достигнут в вопросе компонентов знания: убеждения, истинность и обоснованность, что следует из распространённой фразы о равенства понятий «знать» и «иметь обоснованное убеждение, что Р истинно». Следовательно, чтобы считать какую-то внешнюю, вне-нейронную информацию личным знанием субъекта, нужно пропустить её через внутренние механизмы «одобрения» так, чтобы она «так же заслуживала доверия, как и то, что извлекается из
биологической памяти» [19]. Очевидно, «кларковский субъект» вносит некоторые изменения в представления об обоснованности, которая не обязательно должна быть каким-то внутренним действием [20].
Однако философия Э. Кларка не предполагает, что подобный субъект или воспроизводимая им познавательная ситуация могут быть чем-то атомарным, т.е. начальным и неделимым, для всей теории. Скорее, их можно назвать «молекулами», и от того, что входит в эти молекулярные связи, зависит то, как именно раскрывается «кларковский субъект». С одной стороны, это артефакты [10; 19; 21. Р. XV; 22], как в примере с Отто и Иваном. С другой стороны, это и другие субъекты [23], конкретные или обобщённые, например ситуация с Анной. Можно добавить в этот ряд и своеобразный симбиотический агент в виде социально-технических эпистемических систем [24-26]. Эти компоненты не обязательно должны взаимодействовать между собой напрямую, и это положение раскрыто в аргументе эпистемического доверия Хардвига.
Если мы наложим на гипотезу расширенного сознания аргумент Д. Хардвига, то получим вероятный способ преодоления проблемы обоснования веб-расширенного познания. Сам аргумент можно представить в следующем изложении: некто может знать нечто, если обладает доказательствами, но и также если не обладает доказательствами, но верит тому, кто ими обладает [27]. Этот аргумент показывает, что обоснованность знания, не входящего в структуры личного опыта субъекта, выражается в обоснованности расценивать высказывания третьего лица как высказывания истинные. В настоящем контексте речь идёт о том, что доверие Отто не является доверием к блокнотам, но доверием к себе, и обоснованием истинности суждения является не то, где он зафиксирован, а то, кем эта фиксация произведена. Возвращаясь к замечанию П. Смарта [16], обоснованность знаний к энциклопедии подкрепляется не самой материей энциклопедии, а доверием к издателю, автору, экспертному совету, который позволил этой информации получить статус энциклопедии, к профессору, порекомендовавшего эту энциклопедию, к продавцу книжного магазина, поставившего книгу на полку научной и энциклопедической литературы, и т.д. Кому же доверяет «кларковский субъект»? По аналогии, доверие Ивана к сообщению от Инги в социальных сетях не является доверием к социальным сетям, но доверием к высказываниям Инги по вопросу местонахождения музея, и может быть описано, например, моделью распределения доверия Д. Хардвига. Под действие этого тезиса попадает и Анна, которая полагается не на знание технической системы, но на знание интернет-сообщества, подкреплённое инструментами народного контроля. Однако её доверие распределяется совершенно иным способом, предположительно связанным с феноменом мудрости толпы, или, скорее, с оценкой этого феномена самим познающим сознанием в процессе принятия и обоснования знания. Несмотря на то, что термин «мудрость толпы» имеет историю применения в описанной проблематике [28; 29; 30. Р. 7-8], возможность построение модели доверия остаётся неочевидной.
Таким образом, проблема приятия знаний при веб-расширенном познании - это проблема медиации знаний. В традиционном понимании медиация осуществляется собственными силами, а трансактивное знание становится таким знанием, сохранение и передача которого осуществляются с помощью внешних средств. В условиях информационного общества распределение знания сталкивается с проблемой распределения доверия, и здесь можно сделать следующее заключение. Сама по себе гипотеза расширенного сознания служит иллюстрацией нетипичных для теории познания способов распределения когнитивных функций познающего субъекта, подчёркивает вклю-
чённость технических средств в интеллектуальную деятельность. Субъект информационного общества в заданных гипотезой условиях становится примером другого явления, а именно изменений в доверии, служащим обоснованием принимаемого знания. Так, От-то и Инга - персонажи, доверяющие себе, в том числе опосредованно техническими объектами. Иван и Анна, напротив, выражают возможности опосредованного принятия знания через доверие к другим. В условиях же виртуально-информационных технологий эпистемическое доверие может быть персонифицированным (что подразумевается в модели Хардвига) к обезличенной, но органичной социальной массе.
ЛИТЕРАТУРА
1. Sismondo S. Post-truth? // Social Studies of Science. 2017. Vol. 47, is. 1. P. 3-6.
2. Fuller S. Post-Truth: Knowledge As A Power Game. London : Anthem Press, 2018.
3. Gerken M. On folk epistemology: How we think and talk about knowledge. Oxford : Oxford University Press, 2017.
4. Frankfurt H.G. On bullshit. Princeton : Princeton University Press, 2009.
5. Brey A., Innerarity D., Mayos G. The Ignorance Society and other essays. Barcelona : Infonomia, 2009.
6. Firestein S. Ignorance: How It Drives Science. Oxford University Press, 2012.
7. Ward A.F. One with the Cloud: Why People Mistake the Internet's Knowledge for Their Own. Cambridge : Harvard University, 2013.
8. Sparrow B., Liu J., Wenger D.M. Google effects on memory: Cognitive consequences of having information at our fingertips // Science. 2011.
Vol. 333, № 6043. P. 776-778.
9. Wenger D.M., Erber R., Raymond P. Transactive memory in close relationships // Journal of Personality and Social Psychology. 1991. Vol. 61,
№ 6. P. 923-929.
10. Clark А., Chalmers D. The Extended Mind // Analysis. 1998. № 1. P. 7-19.
11. Wegner D.M. Transactive memory: A contemporary analysis of the group mind // Mullen B., Goethals G.R. (eds) Theories of group behavior. New York : Springer, 1987. P. 185-208.
12. Левин С. Расширенное сознание и каузальный статус деятелей // Логос. 2017. Т. 26, №. 5. С. 227-242.
13. Clark A. Surfing Uncertainty: Prediction, Action, and the Embodied Mind. Oxford : Oxford University Press, 2000.
14. Левин С.М. Коллективное сознание и десубстантивация ментального //Мысль: Журнал Петербургского философского общества. 2015. Т. 18. С. 142-156.
15. Винник Д.В. Сознание за пределами мозга истоки аргументации радикального экстернализма // Вестник Томского государственного университета. Философия. Социология. Политология. 2010. № 2 (10). C. 125-136.
16. Smart P.R. The Web-Extended Mind // Metaphilosophy. 2012. Vol. 43, №. 4. P. 446-463.
17. Nevo D., Wand Y. Organizational memory information systems: a transactive memory approach // Decision support systems. 2005. Vol. 39, № 4. P. 549-562.
18. Hutchins E. How a cockpit remembers its speeds // Cognitive science. 1995. Vol. 19, № 3. P. 265-288.
19. Clark A. Memento's revenge: The extended mind, extended // R. Menary (ed.) The Extended Mind. Cambridge, Massachusetts, USA : MIT Press, 2010.
20. Michaelian K., Arango-Munoz S. Collaborative memory knowledge: A distributed reliabilist perspective // Collaborative remembering: Theories, research, applications. 2018. P. 231-247.
21. Chalmers D. Foreword to Andy Clark's Supersizing the mind // A. Clark, Supersizing the mind: Embodiment, action, and cognitive extension. Oxford : Oxford University Press, 2011. P. ix-xvi.
22. Record I., Miller B. Taking iPhone seriously: epistemic technologies and the extended mind // J. Adam Carter, A. Clark, J. Kallestrup, S. Orestis Palermos, D. Pritchard (eds) Extended Epistemology. Oxford: Oxford University Press, 2018. P. 105-127. DOI: 10.1093/oso/9780198769811.003.0007
23. Carter J.A., Clark A., Kallestrup J., Palermos S.O., Pritchard D. Socially Extended Epistemology. Oxford : Oxford University Press, 2018.
24. Simon J. Knowing Together: а Social Epistemology for SocioTechnical Epistemic Systems: Dissertation. Vienna : University of Vienna, 2010. 448 p.
25. Simon J. Distributed Epistemic Responsibility in a Hyperconnected Era // The Onlife Manifesto: Being Human in a Hyperconnected Era / L. Floridi eds. Dordrecht : Springer, 2015. P. 145-159.
26. Smart P.R. Human-extended machine cognition // Cognitive Systems Research. 2018. Vol. 49. P. 9-23.
27. Hardwig J. Epistemic Dependence // The Journal of Philosophy. 1985. Vol. 82 (7). P. 335-349.
28. Solomon M. Groupthink versus the wisdom of crowds: The social epistemology of deliberation and dissent // The Southern Journal of Philosophy. 2006. Vol. 44, № S1. P. 28-42.
29. Niederer S., Van Dijck J. Wisdom of the crowd or technicity of content? Wikipedia as a sociotechnical system // New Media & Society. 2010. Vol. 12, № 8. P. 1368-1387.
30. Halpin H. Does the Web extend the mind? // Proceedings of the 5th annual ACM web science conference. ACM, 2013. P. 139-147. Статья представлена научной редакцией «Философия» 14 февраля 2019 г.
Knowledge Acceptance by an Extended Mind in the Information Society Conditions
Vestnik Tomskogo gosudarstvennogo universiteta - Tomsk State University Journal, 2019, 441, 75-79. DOI: 10.17223/15617793/441/10
Anastasia V. Golubinskaya, Lobachevsky State University of Nizhny Novgorod (Nizhny Novgorod, Russian Federation). E-mail: golub@ioo.unn.ru
Keywords: online knowledge; epistemic trust; Socratic subject; Newtonian subject; Clarkian subject; extended mind; information society.
The reported study was funded by the Russian Foundation for Basic Research, Research Project No. 18-311-00061
The article aims to develop the extended mind thesis in order to involve the cognitive opportunities of a person of modern information society, the so-called "Clarkian subject", and to expand the theoretical foundation of the problem of web-knowledge phenomena. The research is built on the materials of the theories of transactive memory, extended mind and epistemic dependence, which as a whole constitute the relevant explanation of how we know in the Internet era. The author combines the results of existing research projects in philosophy (Otto and Inga examples of the extended mind thesis) and cognitive psychology (experiments on googlization of mind). The article includes three theoretical parts. The first part presents the study of specific traits of how modern person knows and how his or her knowing involves environment. Thus the author differs an autonomous knower ("Socratic") and transactive knowers, including those who know with virtual information technologies ("Clarkian") and without it ("Newtonian"). The second part of the article focuses on the question of the mediation of knowledge of the "Clarkian subject". Is it possible to "googlize" Otto's example? For an answer, it is necessary to complement the mentioned episode of D. Chalmers and A. Clark with two completely new cognitive situations, namely with Ivan, who uses social networks like Otto's notebook, and Anna, whose technical partner performs all her cognitive actions. It provides the discovery of two new ways of how the information society connects a person with knowledge: a person may literally "have" knowledge but might not really know it, or a person might not even "have" knowledge in any sense but may use it practically. The analysis of this experiment composes the results of the second part of the article. The third part of the article brings together the idea of a mediator of knowledge and the idea of an agent of knowledge in the conditions of the described thought experiment. It is hardly possible to analyze a mediator as a reason to accept knowledge. In this frame, the question about cognitive partnership of human and non-human elements transforms into the question of justification of transactive knowledge, or more likely the question of its epistemic trust. The author concludes that artificial cognitive partners of human mind do not transform the cognitive activity essence, but mediators of knowledge, which also mediate the system of epistemic trust. It seems clearly notable that epistemic trust is not common for each situation. At least, two forms are possible: personalized trust and depersonalized (social) trust, but the mechanisms of its mediation are still indistinct and represent the further development of the research.
REFERENCES
1. Sismondo, S. (2017) Post-truth? Social Studies of Science. 47 (1). pp. 3-6. DOI: 10.1177/0306312717692076
2. Fuller, S. (2018) Post-Truth: Knowledge As A Power Game. London: Anthem Press.
3. Gerken, M. (2017) On folk epistemology: How we think and talk about knowledge. Oxford: Oxford University Press.
4. Frankfurt, H.G. (2009) On bullshit. Princeton: Princeton University Press.
5. Brey, A., Innerarity, D. & Mayos, G. (2009) The Ignorance Society and other essays. Barcelona: Infonomia.
6. Firestein, S. (2012) Ignorance: How It Drives Science. Oxford University Press.
7. Ward, A.F. (2013) One with the Cloud: Why People Mistake the Internet's Knowledge for Their Own. Cambridge: Harvard University.
8. Sparrow, B., Liu, J. & Wenger, D.M. (2011) Google effects on memory: Cognitive consequences of having information at our fingertips. Science. 333 (6043). pp. 776-778. DOI: 10.1126/science.1207745
9. Wenger, D.M., Erber, R. & Raymond, P. (1991) Transactive memory in close relationships. Journal of Personality and Social Psychology. 61 (6). pp. 923-929.
10. Clark, A. & Chalmers, D. (1998) The Extended Mind. Analysis. 1. pp. 7-19.
11. Wegner, D.M. (1987) Transactive memory: A contemporary analysis of the group mind. In: Mullen, B. & Goethals, G.R. (eds) Theories of group behavior. New York: Springer.
12. Levin, S. (2017) The extended mind and the causal status of the agent. Logos. 26 (5). pp. 227-242. (In Russian).
13. Clark, A. (2000) Surfing Uncertainty: Prediction, Action, and the Embodied Mind. Oxford: Oxford University Press.
14. Levin, S.M. (2015) Kollektivnoe soznanie i desubstantivatsiya mental'nogo [Collective mind and mental desubstantiation]. Mysl': Zhurnal Peterburgskogo filosofskogo obshchestva. 18. pp. 142-156.
15. Vinnik, D.V. (2010) Consciousness outside the brain - origins of radical externalism argumentation. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya — Tomsk State University Journal of Philosophy, Sociology and Political Science. 2 (10). pp. 125136. (In Russian).
16. Smart, P.R. (2012) The Web-Extended Mind.Metaphilosophy. 43 (4). pp. 446-463. DOI: 10.1111/j.1467-9973.2012.01756.x
17. Nevo, D. & Wand, Y. (2005) Organizational memory information systems: a transactive memory approach. Decision Support Systems. 39(4). pp. 549-562. DOI: 10.1016/j.dss.2004.03.002
18. Hutchins, E. (1995) How a cockpit remembers its speeds. Cognitive Science. 19 (3). pp. 265-288.
19. Clark, A. (2010) Memento's revenge: The extended mind, extended. In: Menary, R. (ed.) The Extended Mind. Cambridge, Massachusetts, USA: MIT Press.
20. Michaelian, K. & Arango-Munoz, S. (2018) Collaborative memory knowledge: A distributed reliabilist perspective. In: Meade, M.L. et al. (eds) Collaborative remembering: Theories, research, applications. Oxford Scholarship Online.
21. Chalmers, D. (2011) Foreword to Andy Clark's Supersizing the mind. In: Clark, A. Supersizing the mind: Embodiment, action, and cognitive extension. Oxford: Oxford University Press.
22. Record, I. & Miller, B. (2018) Taking iPhone seriously: epistemic technologies and the extended mind. In: Adam, J. et al. (eds) Extended Epistemology. Oxford: Oxford University Press. DOI: 10.1093/oso/9780198769811.003.0007
23. Carter, J.A. et al. (2018) Socially Extended Epistemology. Oxford: Oxford University Press.
24. Simon, J. (2010) Knowing Together: a Social Epistemology for SocioTechnical Epistemic Systems: Dissertation. Vienna: University of Vienna.
25. Simon, J. (2015) Distributed Epistemic Responsibility in a Hyperconnected Era. In: Floridi, L. (ed.) The Onlife Manifesto: Being Human in a Hyperconnected Era. Dordrecht: Springer.
26. Smart, P.R. (2018) Human-extended machine cognition. Cognitive Systems Research. 49. pp. 9-23. DOI: 10.1016/j.cogsys.2017.11.001
27. Hardwig, J. (1985) Epistemic Dependence. The Journal of Philosophy. 82 (7). pp. 335-349.
28. Solomon, M. (2006) Groupthink versus the wisdom of crowds: The social epistemology of deliberation and dissent. The Southern Journal of Philosophy. 44 (S1). pp. 28-42. DOI: 10.1111/j.2041-6962.2006.tb00028.x
29. Niederer, S. & Van Dijck, J. (2010) Wisdom of the crowd or technicity of content? Wikipedia as a sociotechnical system. New Media & Society. 12 (8). pp. 1368-1387. DOI: 10.1177/1461444810365297
30. Halpin, H. (2013) Does the Web extend the mind? Proceedings of the 5th annual ACM web science conference. ACM. pp. 139-147.
Received: 14 February 2019
