CC BY
50
СОЗНАНИЕ ЧЕЛОВЕКА И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ МАШИН
Аммун (Бишкис)
Аммун (Бишкис) - иеромонах, клирик Русской Православной Церкви, Московский Патриархат
Аннотация: в статье автор обращается к концепции сознания человека, выработанной монахами восточной церкви первых веков христианства. Исследуется соотношение древнего христианского воззрения и современных концепций, высказанных философами за последние двадцать - тридцать лет. Исходя из того, что философское осмысление феномена сознания коррелируется с работами в области робототехники и искусственного интеллекта, предлагается попытка рассмотреть современные проблемы ИИ в свете восточно -христианской философии.
Ключевые слова: древняя православная философия, когнитивные науки, сознание, ментальность, искусственный интеллект, общество людей и общество машин, футурология.
Причиной написания данной статьи явились ностальгические воспоминания о проведённой в стенах Alma Mater безмятежной юности и встречах в институтских аудиториях с советским философом, профессором, специалистом по теории познания и онтологии, д.ф.н. Баталовым А.А. (1941-2008), чьи лекции по диалектическому материализму я с удовольствием и интересом слушал в 1981 году.
В наши дни его соратники по кафедре и ученики разместили на интернет-ресурсе краткую информацию об ушедшем наставнике, в числе прочего указывающую: «согласно А.А. Баталову, мышление представлено в трёх основных функциях: познающий ум (интеллект), практический разум (рациональная воля), пафос ума (рациональный уровень эмоциональности)». Не так часто, сегодня можно услышать глас философа, мыслящего глобальные философские категории и возвысившегося до высот подобного уровня, вызывающего несомненный интерес.
Следует сразу отметить, что в рамках данной статьи не ставится задача выработки четко очерченных определений философских понятий и категорий, поэтому такие понятия как «сознание», «мышление», «рассудок» возможно и не будут применяться в акцентированно строгих «академических» формулировках. Нам интереснее рассмотреть проблему «осмысления человеком объективного мира», а не отграничивать друг от друга процессы, участвующие в данном «осмыслении».
Анатолий Афанасьевич Баталов говорил о мышлении и его функциях, но можно предположить, что выдвинутый им тезис имеет прямое отношение к более общему феномену, а именно к человеческому сознанию. И дело тут вот в чем. Объем понятий, используемых философами, со временем претерпевает изменения, иногда очень существенные, но философия при этом остается сама собой со времен античного Фалеса. Меняется язык, но не меняются философские категории.
Много веков назад, а именно во второй половине IV века в Римской империи жил монах-философ Евгарий Понтийский (345 - 399 гг.). Его еще называли «философ в пустыни». Ученик Василия Великого, Григория Богослова, Григория Нисского, послушник Руфина и Макария Александрийского он несколько лет прожил в Египетской пустыни, собирая, обобщая и систематизируя опыт известных и безызвестных пустынников (Один из них, ученик Памвы прп. Аммоний был в те годы его другом).
В результате им написано немало поучительных и интересных произведений, к слову сказать, практически не переведенных на русский язык и не издававшихся в нашей стране, в которых он изложил некий «общий» взгляд древней православной церкви на человеческую ментальность. В последние годы, появились труды переводчика и комментатора Евгария швейцарского схиархимандрита Гавриила (Бунге), что позволяет и нам получить представление о существовавшей в те далекие годы начальной православной философии.
Так вот, согласно Евгарию [1], разумная душа трехчастна и состоит, во-первых, из разумного начала, которое именуется им просто умом. Во-вторых, желательного начала и, в-третьих, яростного начала. Эти три начала или части души взаимозависимы и воздействуют друг на друга.
Не очевидна ли схожесть вышепредставленных воззрений? Познающий ум соответствует разумному началу, рациональная воля является ничем иным, как желательным началом души, а красивое название «пафос ума» может смело заменять неблагозвучный термин «яростное начало».
Известно, что ранее Платон также разделял душу человека на три части: бессмертный разум, пожелание и сердце [7]. Но я не ищу заимствований или повторений.
Хотя соответствие и налицо, но тем не менее, есть и различия. Они заключены, прежде всего в праксиологическом подходе к проблеме. Для Платона разделение души на части требовалось для создания надежной аналогии для придания его теории государства большей убедительности. После расправы над его любимым учителем Сократом, Платону несомненно хотелось создать справедливую и идеальную концепцию государственного устройства, исключающего подобные эксцессы, пережитые философом. Великое государство должно быть подобно уму великого философа!
Анатолий Афанасьевич Баталов, как мне вспоминается был убежденный атеист и стойкий марксист-ленинец, пришедший в философию из медицины, которая и по сей день твердо основывается на материализме, эволюционизме и биологическом натурализме. Сфера его профессиональных интересов относилась к философскому осмыслению процесса мышления и, в первую очередь, профессионального мышления, так
необходимого в социалистическом обществе, в котором он жил и трудился. Его задачей было показать, как нервная ткань создает нематериальные процессы, формирующие сознание человека. Подвести философское основание под тот факт, как метко заметили Д. Деннет и Д. Хофштадтер, что «мыслительный процесс протекает у нас позади глаз и между ушами» [6].
Египетские пустынники, чьи наставления скомпилировал Евгарий, не обременяли себя теоретизированием в области онтологии, а к учению языческих философов относились даже со страхом. Им нужна была отдельная база, на которой они могли бы выстраивать методики борьбы со своими страстями.
Анатолий Афанасьевич Баталов был учеником советской философской школы, которая сейчас, да и раньше на Западе, не пользуется особым интересом. Материя первична, сознание вторично и «возникает в процессе трудовой, общественно-производственной деятельности людей» [8]. Но даже в наши дни, философы, не относящие себя к указанному течению, все равно сходятся во мнении, что сознание является продуктом высшей нервной деятельности. Один из немногих современных философов, посвятивших свои работы проблеме философии сознания, Джон Р. Сёрль, не перестает утверждать со страниц своих книг, что, хотя науке пока и неизвестны нейрофизиологические основания сознания, но ментальные феномены причинно обусловлены нейрофизиологическими процессами в мозге и сами являются свойствами мозга [2].
Сёрль, как и Дэниел Денет и Дэвид Чалмерс уверен в том, что сознание возникает на определенном этапе функционирования и развития центральной нервной системы человека. Философия же должна это все хорошенько и доступно объяснить. Мы уже слышали мнение Сёрля, послушаем теперь Чалмерса. Его подход еще более конкретен: «мы хотели бы, чтобы теория сознания делала по меньшей мере следующее: она должна была бы указывать условия, при которых физические процессы порождают сознание, и по отношению к процессам, порождающим сознание, она должна была бы специфицировать, какой именно тип опыта оказывается связан с ними. И мы хотели бы, чтобы эта теория объясняла, как оно порождается, чтобы возникновение сознания казалось понятным, а не магическим. В итоге мы хотели бы, чтобы она позволила нам увидеть сознание в качестве интегральной части природного мира» [5]. Д. Деннет и Д. Хофштадтер признают, что «человеческий разум, включая сознание и мысли о самом себе, может быть объяснен в терминах деятельности центральной нервной системы, которая, в свою очередь, может быть сведена к уровню биологической структуры и функций данной физиологической системы. Во-вторых, биологические явления могут быть полностью поняты в терминах атомной физики, то есть в терминах действия и взаимодействия составляющих систему атомов углерода, азота, кислорода и т.д.» [6].
Таковы современные взгляды философов на философию сознания.
Египетские монахи, искавшие спасение своей души, а порой и жизни, на необъятных просторах выжженной солнцем Нитрийской пустыни, не знали ничего ни о достижениях современной нейробиологии, ни о феноменологии сознания Эдмунда Гуссерля, ни, даже, о собаке Павлова. Ход их размышлений был совершенно иным - вот о нем нам стоит поговорить.
Размышления монашествующего той далекой поры о человеке основывались, прежде всего на утверждении, изложенном в Книге Бытия: «и сотворил Бог человека по образу Своему, по образу Божию сотворил его» [3]. А коль скоро, уже тогда знали, что Бог троичен, то душа человека, как Образ Божий, им представлялась также состоящей из трех взаимозависимых, взаимодействующих, но обособленных частей.
Опытным путем отцы-пустынники III - IV веков определили, что в сознании человека постоянно присутствуют восемь страстей, мешающих ему наслаждаться жизнью и препятствующих достижению Царства Небесного. Это чревоугодие, блуд, сребролюбие, печаль, гнев, уныние, тщеславие и гордыня [1]. Из них чревоугодие и блуд имеют корни в естественных для каждого человека физиологических потребностях, сребролюбие имеет некоторое рациональное основание (кто ж хочет жить в нищете!), но также и иррациональное, остальные же имеют вполне иррациональное происхождение: человеку они не нужны и могут сильно подпортить жизнь, если он предастся их влиянию.
Для описания этих трех частей был избран практический подход, основанный на священных текстах Евангелий. Диавол, искушая Христа, трижды обращается к нему. Первое предложение лукавого состояло в следующем: «Тогда Иисус возведен был Духом в пустыню, для искушения от диавола, И, постившись сорок дней и сорок ночей, напоследок взалкал. И приступил к Нему искуситель и сказал: если Ты Сын Божий, скажи, чтобы камни сии сделались хлебами». Это обращение к желательной части души. Второе предложение звучало так: «Потом берет Его диавол в святой город и поставляет Его на крыле храма, и говорит Ему: если Ты Сын Божий, бросься вниз, ибо написано: Ангелам Своим заповедает о Тебе, и на руках понесут Тебя, да не преткнешься о камень ногою Твоею». Это попытка воздействовать на яростное начало человеческой души, - ведь перед ним был Человек.
Третьим искушением было: «Опять берет Его диавол на весьма высокую гору и показывает Ему все царства мира и славу их, и говорит Ему: всё это дам Тебе, если, пав, поклонишься мне» [4]. Это обращение уже к разумной части.
Основываясь на этом евангельском тексте и на практической значимости для борющихся со своими страстями и было произведено разделение души на части и составляющим или, в современной трактовке, «ментальным феноменам» души человека были присвоены соответствующие названия.
Практическим подход был потому, что из него вытекала удобная возможность человека самому оказывать воздействие на своё сознание и, обусловленное им, поведение, что считалось и считается по сей день важнейшим в деле спасения Души, после молитвы и причастия Святых Даров.
Но можем ли мы сегодня найти подтверждение этому логическому рассуждению?
Ребенок рождается с практически сформированной центральной нервной системой. В постнатальный период происходит не формирование, но дальнейшее прогрессивное развитие уже сформированного головного мозга, вызванное взаимодействием с окружающим миром. Сознание, разделенное на три вышеуказанных отдела, уже присутствует, но пока еще не имеет своего достаточного наполнения. Оно практически свободно за исключением набора врожденных рефлексов.
Нейрофизиологи разделяют врожденные рефлексы на:
- пищевые, двигательные и тонические, местом хранения которых является желательная область души;
- защитные, в виде реакции на яркий свет или болевое раздражение, находящиеся в яростной части;
- ориентировочные, в виде слежения за окружающими объектами, реакции на световые сигналы и т.д. занимающие разумную часть сознания.
В процессе развития, ребенок начинает «заполнять» пустующие области своего сознания конкретным содержанием. Прав Д. Сёрль, когда указывает на механизмы (сам Сёрль говорит о «структурных чертах»), которыми сознание производит это наполнение: модальности, единство сознательного опыта, интенциональность, субъективность, наличие центра и периферии внимания, настроение и определение удовольствие/неудовольствие. Однако резко отвергая с первых слов своего размышления солипсизм, философ все же оказывается не в состоянии полностью избыть его. В его философии сознание, обладающее интенциональностью, является активным участником отношения субъект-объект. На деле же и объект, коим является окружающий ребенка вещественный мир, а также и социум, включающий в себя его родителей, братьев, сестер, воспитателей, учителей, да и просто друзей из подъезда или соседнего двора, также является активным участником этого отношения. И от того, какую информацию или опыт будет получать ребенок (подросток или молодой человек), в каком виде ему ее «подадут» будет напрямую зависеть, какие выводы сознание сделает для себя, чем будут заполнены три части его сознания. А это окажет свое влияние и на логику рассуждений субъекта, и на сферу его желаний и эмоциональную окраску восприятия и решений.
Сегодня часто сталкиваешься с такой ситуацией: у хорошо обеспеченных или даже богатых родителей вырастают «проблемные» дети. Родители недоумевают - они обеспечили своему ребенку все возможности: и компьютер, и путешествия, и лучшие бытовые условия - в общем то, о чем они сами в детстве даже и не мечтали. Но ребенок уже с подросткового возраста сводит свой жизненный путь к известной триаде: компьютер, холодильник, туалет. Стоит лишь только поближе познакомиться с жизнью такой семьи и сразу можно отметить: вместо чтения книг в семье просмотры голливудских фильмов, с насилием, эротикой и культом героя-одиночки, вместо посещения храма - спа-салоны, сауны, рестораны и стадионы, вместо любви пренебрежительное отношение к ближнему, осуждение соседей и, даже, близких людей. Взаимные обвинения родителей с использованием нецензурной лексики также в наши дни не является редкостью в «хорошо обеспеченных семьях». Как результат -яростная часть души ребенка заполнена отрицательными эмоциями, толкающими его на асоциальное поведение.
Одно из самых сильных желаний человека - желание утолить чувство голода. Кушать вкусно, дорого и много. Поэтому Церковь (как, впрочем, и любая религия) призывает человека к соблюдению постов, т.е. к контролю над своими желаниями. В ответ на это, во всех средствах массовой информации, и особенно на телеэкранах, именно в дни длительных постов наиболее часто запускают рекламу мясных и колбасных изделий. Это сознательная нагрузка на желательную область нашего сознания.
Праксиология духовных изысканий египетского монашества в начале IV века н.э. заключала в себе ряд практических наставлений, передававшихся от старца к послушнику, позволявших преодолевать ненужные для человека проявления в его жизни его собственного сознания.
В качестве примера, возьмем распространенный ментальный феномен «печаль». Что такое печаль? С точки зрения нейробиологов, печаль проявляется в усилении взаимодействия миндалевидного тела и гиппокампа в ЦНС. С точки зрения современных психологов, печаль представляет собой отрицательную эмоцию, возникающую в результате потери кого-то или чего-то важного и длящуюся продолжительное время, которая разделяется на периоды протеста, смирения и беспомощности. С точки зрения эволюционистов, наоборот, печаль несет позитивные последствия: в этот период улучшается память и в целом мышление.
В качестве противоядия предлагаются получение ярких позитивных эмоций, особая диета, смех, равно как и плач, путешествия, активный поиск нового партнёра по жизни.
Евгарий расценивает печаль как результат «обманутых или неудовлетворенных желаний». В данном случае мы имеем совершенно отличный подход: потеря чего-то важного, как это трактует современная психология, воздействует на разумную часть сознания. Человек может порассуждать о важности или неважности утерянного, методом замещения «возместить» утраченное, попытаться найти позитивный смысл в новом состоянии утраченного. Однако быть свободным от нового «приступа» печали невозможно. Таким образом жизнь человека является чередой сменяющих друг друга состояний радости и печали и повлиять на этот процесс мы не в силах.
По Евгарию, печаль возникает, когда происходит раздражение желательной части души. Если же к этому присоединяется еще и эмоциональная окраска как раздражение яростной области сознания, то печаль переходит в уныние, на современном языке в депрессию. Из чего следует, что эмоции можно и следует подавлять и при приложении определённых усилий достичь беспечального состояния или блаженства. «От природы гневливая часть души должна бороться за наслаждения, к которым стремиться вожделеющая часть души» [9].
Печаль свойственна эгоистам и самодовольным людям. «Не печалится воздержанный, что не удались снеди, и целомудренный, что не успел в задуманном неразумно непотребстве, и негневливый, что не возмог отомстить, и смиренномудрый, что лишен человеческой почести, и несребролюбец, что потерпел утрату» [1]. Из этого следуют
и некоторые практические выводы, например, в области экономики. Инвестиции, по мнению, некоторых американских экономистов представляют собой «лишние деньги», т.е. деньги, прежде всего сэкономленные за счет «скромной» жизни и, уже после, вложенные в рост.
Пристальное внимание философов к осмыслению ментальных феноменов или сознания в последние десятилетия подстегивается еще и дискуссией о возможности или невозможности создания искусственного (машинного) сознания. Ему соответствует принятое с середины прошлого века понятие Artificial Intelligence или искусственный интеллект в русском переводе.
Эту проблему не обошли стороной ни Д. Сёрль, ни остальные. И этот диспут выходит за рамки чистой философии как «любви к мудрствованию». Так или иначе возникают достаточно практические вопросы: будет ли создана антроподобная машина, помощник и со-деятель человека? А может это будет собеседник? Насколько возможна синергия человека и машины? А может робот и полностью заменит человека в некоторых ситуациях?
Философия сегодня чаще отвечает на этот вопрос отрицательно, хотя и оставляет надежду на позитивный ответ. Д. Сёрль, Д. Чалмерс, Р. Пенроуз считают, что это невозможно в принципе, так как машина никогда не сможет понимать. Р. Goutam подходит к вопросу с более философской позиции и считает, что проблема в том, что человечеству так до сих пор и не понятно, что же есть сознание. «Аппаратные средства компьютера могут воспроизводить тело в той или иной форме. Программные средства могут пытаться симулировать мозг и интеллект с помощью логики, но подобная симуляция всегда будет неполная вследствие системных ограничений. В лучшем случае мы можем улучшать и улучшать соответствие, при этом удовлетворительное соответствие будет серьезно отставать от целевого идеала. Продвигаясь вверх по иерархической лестнице и достигнув трудноуловимое во всех своих частях сознание, мы натолкнемся на непробиваемую стену без каких-либо надежд на решение» [10].
Elisabeth Hildt видит в данной проблеме, прежде всего методологическую трудность. «Мы строим знания о человеческом сознании от первого лица, тогда как искусственное сознание может быть доступно нам лишь от третьего лица. Соответственно, вопрос состоит в том, как понять, что машина может иметь сознание?» [11]. Иные возражения против возможности создания машинного сознания, построены на математическом подходе к решению задач: довод неспособности, математический довод и довод неформализуемости.
Последние так или иначе связаны с выводом, который проистекает из известной теоремы Курта Гёделя о неполноте. Все вышеприведенные гипотезы имеют одно основание: понимание сознания как продукта высшей нервной деятельности человека.
Но пока философия обсуждает невозможность своего осмысления, практики вовсю создают «умные машины». Робот Fedor слетал на МКС, iCub идентифицирует людей, запоминает названия, может ориентироваться в пространстве и находить выход из сложных лабиринтов, китайский Smart Doctor Assistant сдал экзамены на врача. Список успехов и достижений можно продолжать и продолжать.
На заре роботостроения Д. Сёрль выдвинул идею о разделении искусственного интеллекта на два уровня:
- слабый ИИ - мощный инструмент;
- сильный ИИ - некое сознание [12].
В свете подобного подхода можно считать слабый ИИ машинным аналогом разумной и желательной части человеческого сознания. Аппаратными средствами, оперирующими логикой и математическими вычислениями можно воспроизвести разумную часть сознания. Может быть не завтра, но будучи оптимистами мы можем верить в то, что это когда-нибудь, но произойдет. Программные средства, содержащие в себе стройную иерархию приоритетов, могут быть доведены до уровня желательной области сознания. Оговоримся, что опять-таки не сегодня вечером.
Но для сильного ИИ требуется, чтобы машина включала в себя, наравне с двумя другими также и яростную часть или как говорил А.А. Баталов пафос ума. Только тогда в ней будет «некое сознание».
Что же это за яростная часть?
Можно сказать, что это самая иррациональная и мистическая часть нашего сознания. Вот пример, Христофор Колумб многие годы плавал на торговых судах вдоль берегов Европы, но в 1475 году, примерно 24 - 25 лет от роду, «заражается» идеей путешествия в Индию, первое из которых состоялось в 1491 году. Семнадцать лет он добивался этой возможности и таки добился: 3 августа 1492 года Колумб вывел корабли из гавани испанского города Палос-де-ла-Фронтера. Все эти годы все было против него, ему отказывали и при испанском дворе, и в Португалии, и в Англии, у него не было ни гроша на организацию плавания, но он добивался своего. Некая ментальная сила заставляла его биться в закрытую дверь.
Кстати поставки товаров из Индии и Китая в Европу были тогда прекрасно налажены и с успехом контролировались «транснациональным синдикатом» под управлением венецианских и генуэзских семей. Откуда взялась сила, толкавшая Колумба все это время на организацию дорогой и смертельно опасной экспедиции? Из яростной части его души.
Из яростной части нашей души к нам приходят эмоции, которые мы можем с трудом выразить в словах, но в некоторых случаях они бывают настолько сильны, что человек просто не может им противостоять.
Вот другая жизненная ситуация. Психолог Татьяна Владимировна Воробьева описывает следующую ситуацию [13], с которой столкнулась в своей профессиональной деятельности. Девочку-подростка, жившую в бедном провинциальном доме-интернате, решила удочерить состоятельная американская семья. В Америке девочке была предоставлена собственная комната в большом доме, много гамбургеров и кока-колы, добротная, модная одежда и самые радужные перспективы, касающиеся будущего обучения и замужества за состоятельным американцем. Но через полгода жизни в приемной семье девочка стала проситься назад в русский детский дом. Конечно, ее не
поняли, но после нескольких попыток побега, вернули обратно в Россию, в детский дом с обшарпанными стенами и скудной и однообразной едой. Американские приемные родители, хорошие и порядочные люди, взяв себе на воспитание девочку из «варварской» России, тем самым, как они считали, выполняли свой гражданский, человеческий и христианский долг, а работавшие в российском интернате нянечки, воспитатели и директор ее просто любили. И ребенок остро почувствовал, где его любят, а где нет... Тяга к любви оказалась сильнее желания гамбургеров.
Откуда это чувство? Из яростной части души.
Когда же сила яростной части души или же, пользуясь терминологией А.А. Баталова - пафос ума, ослабевает с человеком происходят всем нам хорошо известные кризис среднего возраста [1] и синдром профессионального выгорания. Может развиваться апатия вплоть до депрессивных состояний.
Так как процесс не имеет рациональной природы, то и «врачевание» Евгарием предлагалось иррациональное и по большей части мистическое: чтение Псалтири. Similia similibus curantur.
Попробовав же поупражнять себя в футурологических изысканиях и предугадать будущее, к которому приведет наметившийся уже сейчас социальный и технический тренд мы можем предположить, что скоро человека будет окружать большое количество «умных» машин, обладающих так называемым «слабым ИИ». Робот водитель такси, робот школьный учитель, робот врач, робот полицейский, робот официант, робот-нянька - все они будут надежно и безотказно выполнять запрограммированные в них функции, но при этом у них будут полностью отсутствовать эмоции. Человек окружит себя апатичными помощниками, без которых ему все труднее будет существовать. Однако апатия, как отсутствие эмоций также «заразительна» для психики человека. Апатичный компьютер воспитывает подрастающее поколение не хуже профессиональных учителей или заботливых родителей и бабушек. Уже сегодня на школьных переменах дети не скачут, не кричат и не смеются, но отдыхают, уткнувшись в свои смартфоны. Но в наши дни у человека пока еще только один апатичный друг - смартфон, но скоро их число будет расти. Будет расти и изменение сознания человека.
Если же, какому-то гениальному математику удастся создать «формулу любви» и формализовать такие человеческие эмоции как любовь и ненависть, честь и предательство, интерес и отвращение, кои воздействуют из яростной части на остальные части сознания, то мы получим роботов, обладающих сильным ИИ, машинным сознанием и как результат, параллельное с человечеством машинное общество. Как будет человечество существовать с ним? Не выльется ли это в тот технократический кошмар, представленный в фантастических фильмах про Терминатора, когда машины с упорством достойным идиота, пытаются уничтожить человека, как своего конкурента на планете Земля? Ответ и очевиден и отсутствует.
Список литературы
1. Гавриил (Бунге) 2019, Гавриил (Бунге), схиархимандрит. «Евгария Понтийского «Монах, или Практический трактат: Сто глав о духовной жизни». М. Изд-во Сретенского монастыря, 2019.
2. Серл Джон .Открывая сознание заново. М. Идея-Пресс, 1999.
3. Библия. М. Изд-во Московской Патриархии, 2011.
4. Библия, Евангелие от Матфея (Гл. 4 ст.1-9).
5. ЧалмерсД. «Сознающий ум. В поисках фундаментальной теории». М. Изд-во: КД «ЛИБРОКОМ», 2013.
6. Хофштадтер Д., Деннет Д. «Глаза разума». Самара: Издательский дом Бахрах-М, 2003.
7. Трубецкой Е.Н. «Политические идеалы Платона и Аристотеля в их всемирно-историческом значении». Вопросы философии и психологии М., 1890.
8. Философский словарь под ред. И.Т. Фролова. М., 2001.
9. Гавриил (Бунге). Схиархимандрит Гавриил (Бунге) «Тоска, печаль, депрессия: Духовное учение Евгария Понтийского об акедии». М. Изд-во Сретенского монастыря, 2014.
10. Goutam P. «Artificial Intelligence and Consciousness» ResearchGate, 2004.
11. Hildt E. (2019) Artificial Intelligence: Does Consciousness Matter? Front. Psychol. 10:1535.doi: 10.3389/fpsyg.2019.01535.
12. Searle J.R. (1980). Minds, brains and programs. Behav. Brain Sci. 3, 417-424.doi: 10.1017/S0140525X00005756.
13. Воробьева Татьяна. «Воспитание без слез и ошибок». ООО «Издательство АСТ», 2019.
