CC BY
187
ХРИСТИАНСКОЕ ЧТЕНИЕ
Научный журнал Санкт-Петербургской Духовной Академии Русской Православной Церкви
№ 6 2020
Иеромонах Мефодий (Зинковский)
Православное богословие личности и проблематика искусственного интеллекта
DOI 10.47132/1814-5574_2020_6_10
Аннотация: Статья посвящена проблематике искусственного интеллекта (ИИ) в контексте богословия личности. В русле святоотеческого предания автор проводит сопоставительный анализ функций и возможностей человеческого ума как высшей части природы, принадлежащей личности, и ИИ, как явления технического прогресса. Автор считает, что человеческая личность, несводимая к своим телу и душе, но, одновременно, содержащая и превосходящая их, не может быть искусственно смоделирована с помощью сколь угодно тонких, но всегда природных схем. ИИ в богословском смысле безипостасен и неспособен к ипостасному объединению с другим интеллектом или с человеком. У ИИ отсутствует сознание и базовые личностные свойства — жертвенность, ответственность, свобода, он неспособен производить эмоциональную жизнь, сочувствие и молитву. Открывая человеку его высокое призвание к обожению, богословие личности призывает не обманываться иллюзиями современных технических достижений и трезво пользоваться ими, однако, при этом, осознавая опасности внедрения в жизнь сложных машин. Среди таковых: ослабление волевой составляющей, увеличение стремления к комфорту и власти, ранняя деменция, потеря подлинных личностных свойств и высших смыслов бытия, развитие тоталитаризма и кастовости. Автор аргументирует, что человечество может и обязано, опираясь на христианскую антропологию, определить векторы адекватного использования высоких достижений прогресса, включая ИИ, на пользу, а не во вред человечеству.
Ключевые слова: искусственный интеллект, человечество, технический и культурный прогресс, личность, природа, Святая Троица, несводимость личности к природе, ипостасность, единство, мозг, ум, сознание, личностное произволение, страсти, виртуальная реалность.
Об авторе: Иеромонах Мефодий (Зинковский Станислав Анатольевич)
Доктор богословия, кандидат технических наук, доцент кафедры теологии Русской христианской гуманитарной академии. E-mail: m.zink@yandex.ru ORCID: https://orcid.org/0000-0001-5221-544X
Ссылка на статью: Мефодий (Зинковский), иером. Православное богословие личности и проблематика искуственного интеллекта // Христианское чтение. 2020. № 6. С. 10-24.
KHRISTIANSKOYE CHTENIYE [Christian Reading]
Scientific Journal Saint Petersburg Theological Academy Russian Orthodox Church
No. 6 2020
Hieromonk Methody (Zinkovskiy)
The Orthodox Theology of Personhood and Problems of Artificial Intelligence
DOI 10.47132/1814-5574_2020_6_10
Abstract: The article is devoted to the problems of artificial intelligence (AI) in the context of personality theology. In line with the patristic tradition, the author conducts a comparative analysis of the functions and capabilities of the human mind as the highest part of nature, belonging to the individual, and AI, as a phenomenon of technical progress. The author believes that a human personality, irreducible to his body and soul, but at the same time containing and surpassing them, cannot be artificially modeled using arbitrarily subtle, but always natural schemes.
AI in the theological sense is hypostatic and incapable of hypostatic union with another intellect or with a person. AI lacks consciousness and basic personality traits — sacrifice, responsibility, freedom — and is unable to produce emotional life, compassion and prayer. Opening to a person his high vocation for deification, the theology of personality calls on us not to be deceived by the illusions of modern technical achievements but rather to soberly use them while realizing the dangers of introducing complex machines into life. Among those are a weakening of the volitional component, an increase in the desire for comfort and power, early dementia, the loss of true personality traits and higher meanings of being, the development of totalitarianism and caste. The author argues that humanity can and must, relying on Christian anthropology, determine the vectors of adequate use of high achievements of progress, including AI, for the benefit, and not to the detriment of humanity.
Keywords: artificial intelligence, humanity, technical and cultural progress, person, nature, Holy Trinity, irreducibility of personality to nature, hypostasis, unity, brain, mind, consciousness, personal willing, passions, inner reality.
About the author: Hieromonk Methody (Zinkovskiy Stanislav Anatoliyevich)
Doctor of Theology, Candidate of Technical Sciences, Associate Professor, Department of Theology of the Center for Academic Relations at the Russian Christian Humanitarian Academy. E-mail: m.zink@yandex.ru ORCID: https://orcid.org/0000-0001-5221-544X
Article link: Methody (Zinkovskiy), hieromonk. The Orthodox Theology of Personhood and Problems of Artificial Intelligence. Khristianskoye Chteniye, 2020, no. 6, pp. 10-24.
Искусственный интеллект будет осуществлять желания людей, которые заложат в алгоритм свои намерения, а они не всегда оказываются благими. Искусственный интеллект будет нести всего лишь вспомогательную функцию.
Илон Маск
Современная проблематика искусственного интеллекта
Мы обращаемся к проблеме искусственого интеллекта, поскольку сейчас он очень быстро развивается и активно обсуждается в российском обществе, и под этим понятием кроется не какое-то однозначное явление, но много разного рода технологий и идеологий. Круг вопросов, возникающих в связи с искусственным интеллектом, охватывает области целого ряда наук, включая богословие и философию, а подход к этим вопросам в значительной мере определяется нашими мировоззренческими установками. Многие позитивно оценивают этот технологический прорыв, но в то же время высказывают опасения возможных негативных последствий.
Профессор Татьяна Владимировна Черниговская, исследователь мозга, психолингвист и нейробиолог, в своих интервью высказывает серьезные опасения, что в результате развития науки искусственный интеллект когда-то может стать личностью, «выйти из-под контроля человека», самостоятельно «будет принимать решения» [Черниговская, 2020] и даже формировать «свои планы, свои мотивы, свои цели» [Двадцать цитат, 2020]. Вероятно, она подразумевает большую схожесть этого искусственного мыслящего аппарата с человеком в его реакциях, принятии решений и так далее.
Есть люди, которые идут дальше (и из нашего дальнейшего рассмотрения будет вытекать, что таких людей можно назвать фантазерами), они утверждают, что искусственный интеллект будет развиваться так, что скоро с помощью современных информационных средств сознание человека можно будет перенести на твердые носители, где оно и будет жить. Так, программист Рей Курцвейл, написавший книгу «Эпоха мыслящих машин», надеется, что «в нынешнем веке мы сможем загрузить весь наш мозг в компьютер и жить вечно, без ограничений наших смертных тел» [Kurzweil, 2020, 142]. Эти надежды приводят автора даже к отрицанию телесности в словах: «мы не всегда нуждаемся в реальных телах. Если мы оказались в виртуальной среде, тогда виртуальное тело будет прекрасным» [Kurzweil, 2020, 142].
Конечно, с позиций православного богословия эти утверждения можно оценить как фикцию, но есть люди, трансгуманисты, которые серьезно в них уверены. Сторонники искусственного интеллекта «красноречиво защищают возможности машинного бессмертия и воскресения, и их ученики, архитекторы виртуальной реальности и ки-берпространства, ликуют в ожидании богоподобной вездесущности и бестелесного совершенства» [Шурман, 2020; см.: Noble, 1999]. Подобные фантазии приводят людей к значительным искажениям картины мира и человека, например к восприятию Вселенной как компьютера, а человечества — как «приложения-убийцы» [Kelly, 2002].
Сейчас в Америке живет инженер-программист Энтони Левандовски, прежде работавший на компанию Google, который утверждает даже, что создаст бога на основе искусственного интеллекта, «бога» с маленькой буквы, который будет общаться с человеком, не будет наказывать, это будет некое сознание с комфортным интерфейсом, которое заменит человеку Бога. Это начинание уже имеет своих сторонников в квазирелигиозном движении «Путь в будущее» (см.: [Интервью с митр. Иларионом Алфеевым, 2020]). Конечно, это явление можно расценить как богоборчество. Человек никогда не сможет изобрести что-то подобное, но есть люди, которые всерьез этим занимаются. И у многих наших современников возникает вопрос: что такое эти глубокие нейронные сети, моделируемые с помощью новых технологий? Они высказывают
страхи, что когда-нибудь эта система станет неуправляемой и искусственный интеллект поработит человечество.
Научное определение искусственного интеллекта, его разновидности и отношение к нему в восточной и западной культуре
Чтобы говорить об искусственном интеллекте, избежав каких-либо страхов, паникерства и алармизма, нужно прежде всего определить, что такое интеллект и что такое искусственный интеллект (artificial intelligence). В научном определении интеллекта (лат. intellectus — «восприятие; разумение, понимание; понятие, рассудок») упоминаются такие качества, как способность принятия решений, волевая составляющая, рефлексия, то есть анализ набранной информации, способность адаптировать свое поведение к изменяющейся ситуации, а также целевые установки [Интеллект, 2020]. И если здесь говорится о целеполагании даже в чисто светском контексте, то для нас важно, что у искусственного интеллекта целеполагание будет такое, каким его запрограммировали, тогда как у человека есть возможность постановки целей, превосходящих его природные естественные возможности и установки.
В современных литературных источниках различают искусственный интеллект и искусственный разум [Ладанов, 2020]. Искусственный интеллект призван проделывать простую и грязную работу за человека, например собирать и фильтровать искусственный и органический мусор, и это прекрасно. Специалисты говорят, что он не может думать сам, это не собственно разум, а некая машина, наделенная программой и выполняющая определенные функции согласно этой программе. И даже такое употребление искусственного интеллекта вызывает вопросы, потому что оно может привести, например, к потере рабочих мест. А с ростом таких технологий уже возникают и другие биоэтические вопросы.
Искусственный разум предположительно должен обладать более широкими возможностями, в том числе способностями к адаптации, самообучению и даже творчеству, и именно об этих системах ученые говорят как о потенциальных «личностях» с самостоятельными целями. Но будут ли такие машины обладать сознанием? Это наиболее сложный для обсуждения вопрос. Ответ будет отрицательный, но под это утверждение мы должны подвести определенную базу. Потому что специалисты говорят, что они не могут до конца предсказать, как будут себя вести эти созданные глубокие нейронные сети.
Развитие западного богословия в какой-то мере подготовило нынешнюю ситуацию в западном мире, где происходит идеализация искусственного интеллекта. В свое время Фома Аквинский (f 1274) в «Сумме теологии» сказал, что Божественный ум «является Сущностью Бога» («in solo Deo intellectusest eius essential») [Фома Аквинский, 2005, 92. 1.79.2], то есть отождествил Божественное мышление с Сущностью. Но согласно восточному богословию в Боге есть Три Личности, Три Ипостаси, Которые метафизичны, то есть не сводятся к Сущности, к Природе Бога, поэтому и мышление Трех Ипостасей не может быть сведено только к Природе Бога. Например, в Евангелии Христос говорит: «Якоже знает Мя Отец, и Аз знаю Отца» (Ин 10:15). Это знание Ипостасями Святой Троицы Друг Друга тоже относится к Их непостижимому мышлению, и, следовательно, мышление в восточном православном богословии не сводится к понятию Сущности (см.: [Мефодий Зинковский, 2015]). Но если бы мы сказали вслед за западными отцами, что мыслительный процесс сводится к Сущности, то тогда эту Сущность дальше можно было бы смоделировать.
Таким образом, восточный православный и западный ответы на вопрос об искусственном интеллекте качественно разные, и это связано с различием западной и восточной идеологий. Западная идеология, даже если мы забыли об этих корнях, строится и развивается по аксиомам, заложенным когда-то римо-католическим богословием.
Понятие интеллекта в Священном Писании
Обращаясь к понятию интеллекта в Священном Писании, рассмотрим два термина: «уоид» (греч. «ум») и «бь&уоьа» (греч. «критическое мышление» или «способность к размышлению»). Если проанализировать употребление даже только этих двух терминов, то из Священного Писания вытекает, что человеческий ум имеет ряд свойств, возводимых к богословию личности: ум как высшая часть человеческого естества определяет все его состояние, в уме происходит личностное самоопределение человека, ум человека призван к единению с Богом.
По мысли священнописателей, существует связь ума с сердцем. Например, когда Господь говорит: «Возлюби Господа Бога твоего всем сердцем твоим... и всем разумением твоим» (Мф 22:37), или: «вложу законы Мои в мысли их, и напишу их на сердцах их» (Евр 8:10), подчеркивается взаимосвязь умного и сердечного делания, а также способность человеческого ума воспринимать Закон Бога и любовь к Богу. Говоря об этой способности, так называемом эмоциональном интеллекте в современном научном понимании, вспомним, что искусственный интеллект ее не имеет.
К уму также относятся понятия чистоты, мрачности, гордости и смирения. Ясно, что какие могут быть у искусственного интеллекта чистота или мрачность, смирение или гордость? Никаких. Но о человеческом уме, пораженном гордостью, говорит Священное Писание, упоминая «гордых мыслию сердца» (см.: Песнь Пресвятой Богородицы 4, Лк 1: 51). Или можно вспомнить выражение ап. Павла из Послания к Ефеся-нам — «помраченные смыслом» (Еф 4:18), он говорит здесь о некоей мрачной мысли. Как чисто технически можно описать мрачность мысли — это отдельный вопрос, но Евангелие об этой мрачности говорит.
Именно в уме первоначально происходит развращение или падение человека: «не развратитеся вслед мыслей своих» (Числ 15:39). Кроме того, в Священном Писании описывается способность человека работать со своим умом. В словах Первого соборного Послания ап. Петра «препоясав чресла помышления вашего» (1 Петр 1:13) подразумевается некая собранность, передаваемая через образ препоясывающегося человека, упоминаются «чресла помышлений», то есть мысли, которые можно собрать. Эту способность работать со своим умом, собрать свой ум, можно определить как метафизическое свойство, возводимое к богословию личности. Кто этим умом работает? Как раз тот, кто обладает им, — личность человека. И конечно, искусственный интеллект такой способности не имеет, будучи полностью зависимым от моделирующих его программ.
Вспомним также цитату из Послания к Филиппийцам ап. Павла: «Мир Божий, который превыше всякого ума, соблюдет сердца ваши и помышления ваши во Христе Иисусе» (Флп 4:7). Речь здесь идет о мире Божьем, превосходящем человеческий ум, который находится не где-то на небе, у недоступного и трансцендентного Бога, как думали западные философы, но который, превосходя ум человека, таинственным образом соединяется с ним и соблюдает мысли человека в определенном образе и состоянии, во Христе Иисусе. То есть здесь описывается метафизичность человеческого ума за счет синергии с Богом. Это дает нам основания утверждать, что ум человека, который живет в Церкви, в Таинствах, в молитве, будет выше технического понятия мыслительного аппарата, и человеческое «я» с благодатию содействующею будет превосходить ментальные способности просто мозга, который сейчас пытаются моделировать с помощью современных технических средств.
Понятие ума у святых отцов
Святые отцы, особенно восточные, много размышляли о человеческом уме и оставили нам огромный пласт высказываний с использованием тех же терминов «уоид» и «81&У01а».
В истории восточного богословия известен случай, когда Евагрий Понтийский (f 399) и ряд других мыслителей-аскетов высказывали мысли о том, что из всего естества человека исключительно ум человека обладает способностью познания Бога. Они считали, что исключительно умом, аскетически очищая себя от страстей, человек может познать Бога. Но святоотеческое понимание этого вопроса все же другое. Ум не является тем инструментом, который достаточен, чтобы познать Бога, потому что человек весь тварен, и ум его, хотя и является высшей частью человеческой природы, высшей частью души, но составляет только часть этого единого человеческого естества.
Православная антропология признает в человеке тело и душу, ум (греч. voüg), или дух человеческий (греч. nveü^a), является высшей частью души, так же как мозг — самая сложная и совершенная по устроению часть человеческого тела. Эту мысль подтверждают слова ап. Павла «слово Божие... острее всякого меча обоюдоострого: оно проникает до разделения души и духа, составов и мозгов» (Евр 4:12). Некоторые богословы полагали, что эти слова доказывают трихотомию1 — «дух и душу разделяет» (см.: [Лука Войно-Ясенецкий, 2003]). Но все же это не так, поскольку слово Божие разделяет нечто единое. Если меч делит единое тело человека, рассекая составы и мозги, то и слово Божие своей остротой разделяет единую душу, то есть ее «растительную», низшую часть и высшую, ментальную, связанную с умом и способностью думать о высоких вещах. Мы рассматриваем дух как высшую часть души, принадлежащую единой человеческой природе.
Прп. Максим Исповедник (f 662), поясняя выражение апостола Павла «Мы имеем ум Христов» (1 Кор 2:16), утверждает: когда мы говорим, что призваны иметь ум Христов, то мы должны мыслить во всем согласно Христу. «Иметь ум Христов — значит по нему (кат' aüxov) мыслить и обо всем через Него мыслить»2. Подобно тому как мы возглашаем на богослужении: «От Луки святого Евангелия чтение», то есть «согласно Луке, святого Евангелия чтение», так мы должны мыслить «согласно Христу». Здесь можно подумать, что человеческий ум Христов встал на место нашего, и теперь мы думаем, как Он. Нет, он не замещает наш ум, и у нас не становится два человеческих ума, но наш ум согласован с умом Христовым. Далее преподобный продолжает: мы должны «мыслить по нему и обо всем через него». «По нему» — согласно его тропосу, или образу мышления. То есть Христос помогает нам понять всю окружающую действительность. И согласно с Ним мы осознаем все происходящее и с нами, и с окружающим миром.
Далее прп. Максим размышляет, что нужно изменить не логос (греч. iVóyog) природы человека [Louth, 2005, 56], т. е. не некую матрицу, которая осталась не поврежденной первородным грехом праотцев ^м.: Быт 2:16-17; Быт 3), а нужно изменить тропос мышления, образ мышления (греч. тр0яод). То есть человек поврежден не как что-то разбитое, что невозможно склеить или склеить очень сложно, а как, например, сердце, которое работает с аритмией. Оно бьется, оно — сердце, оно не стало куском простой ткани, но оно бьется неправильно. Так неправильно работает ум человека. Он не согласован с ритмом Христа, он работает с пребоем, он человеку дает какие-то ложные мысли. И согласование мыслей с умом Христовым, к которому призывает св. Максим, это изменение образа, тропоса мышления.
Мы знаем, что в результате грехопадения3 волевая составляющая у человека работает все слабже. И это заставляет задуматься, — к чему приведет выполнение роботами за человека бытовых технических работ? Если искусственный интеллект
1 Дихотомия — учение о двухчастном (тело и душа) составе человека, более свойственно святоотеческой антропологии, чем трихотомия — учение о его трехчастном составе (тело, душа и ум, или тело, душа и дух).
2 «Norv yap e^Eiv XpiCTTor eywye ФПЦ1, tóv кат' aÚTÓv voorvTa, кш 5ia návTwv aÚTÓv voorvTa» (Maximus Confessor. Capitum Theologiae et Oeconomiae. PG 90. Col. 1164 B).
3 Святые отцы различают в первородном грехе Адама «само преступление (napá^aai^, см.: Рим 5:14). и созданное этим греховное состояние, греховность (ацартСа, см.: Рим 5:12, 13). Потомки Адама. не участвовали лично, непосредственно, сознательно и добровольно в самом
будет приводить человека к понижению степени жизненной активности и все большему расслаблению — не будет ли это нарушением заповеди Божией «В поте лица твоего будешь есть хлеб твой» (Быт 3:19)? И если человек не сможет подвизаться ни в труде, ни в молитве, имея все жизненные удобства, то к чему это приведет? Захочет ли он менять образ мышления, и будет ли у него мотивация делать это? А если не будет, то человек может эту битву с искусственным интеллектом, которая, собственно, запускается тоже людьми, проиграть. Известно, что Фред Брукс, один из основоположников самой идеи искусственного интеллекта, уважаемый ученый-программист и христианин, сказал: «Пришло время признать, что первоначальные цели искусственного интеллекта... послали нас в неверном направлении» (см.: [Brooks, 1996, 64]). То есть он осознал, что интенции были неверными. А какие интенции стоят за созданием дальнейших технических достижений в области искусственного интеллекта — это большой вопрос.
Свв. Каллист и Игнатий Ксанфопулы (XIV в.), комментируя слова прп. Максима Исповедника, отмечают, что он отличает мысль от фантазии: «иное есть мечтание (^ фаутаоча) и иное помышление, или мысль (^ vonon, 8n^a8^ то von^a). Они производятся разными силами и свойствами движения разнятся: ибо мысль есть действие (энергия) или произведение (^ vonon elvai ev^pyeia Kai Sn^ioupyia) ума, а мечтание — плод страсти, напечатление образа, представляющего нечто чувственное, или как бы нечто чувственное» [Каллист и Игнатий, 210, 370].
То есть не всякая мысль, согласно святым отцам, имеет в себе заложенное Богом основание. Есть мысли, которые созидательны, а есть фантазии, которые определяются святыми как плод страстей и образ вещей, призывающих к страстному влечению (например, образ вина). Эти мысли, как и страсти, их порождающие, не имеют отношения к реальному миру, созданному Богом4. Будучи связанными с человеческой поврежденностью грехом, они рождаются в сознании человека в результате неких процессов. И хотя эти фантазии реального обоснования в бытии не имеют, они могут реально влиять на сознание человека. Виртуальный мир сейчас принимает все большие объемы именно за счет таких фантазий, имеющих условное отношение к реальности. И здесь таится определенная опасность этих интенсивно развивающихся технологий.
У святых отцов постоянно встречается мысль о том, что ум, помышление человека должно быть возведено к Сверхсущностному (греч. Ynepouoia) Богу, то есть способность ума подниматься над естественным состоянием заложена в человеке Самим Богом. Евагрий ошибался, утверждая, что якобы ум сроден с Богом, как духовное, умное, тонкое, богоподобное существо, и сам может познавать Бога, и только с помощью ума мы познаем Бога. Ум сам по себе не имеет этой способности. Ум превосходит свое естество, стремясь к Сущностному Свету, только Духом Святым, и только за счет личностных способностей человека он соединяется в Богом. Потому что именно личность, согласно православной триадологии и христологии, позволяет осуществить синтез несоединимого.
Например, во Христе синтезируются Божество и человечество. Было множество ересей по этому поводу, потому что Божество бесконечно, а человечество конечно, как их можно соединить? Греческая древняя мысль таких соединений не знала, она знала только случаи соединения тварных вещей, когда одна диффундировала, растворилась в другой, или они в химическом процессе образовали третью. А таких случаев, чтобы
поступке Адама. но в рождении принимают как неминуемое наследие греховное состояние естества, в котором обитает грех (ä^apTia)» [Иустин Попович, 2004, 242].
4 Свв. Каллист и Игнатий различают три категории фантазий. Первая — образующая (eiKovioTiK^), дает образы, «образует» и делает воспринимаемым то, что приняло восприятие. Вторая — проецирующая (ävaTunwTiK^), синтезирует из остатков предыдущего (опыта) образы, не основанные ни на чем, она в основном и называется фантазией. В третьей концентрируется всякое удовольствие (сласть) и всякая фантазия предполагаемого добра или зла, и она сопровождается унынием. См.: [KäXXioTo^ Kai IyvaTio^, 2020. Гл. 65] (перевод наш).
две несоединимые вещи сохранили свое естество в новом живом организме, в греческом научном мире не наблюдалось, тем более, если это Божество и человечество.
И только богословие ипостаси, которое говорит о соединении тварной человеческой природы с нетварной Сущностью Логоса, Второго Лица Троицы, позволило христианству объяснить, как это могло быть. Точно так же объясняется обоже-ние. Как человек может принять нетварную энергию, если она бесконечно отлична от нашего тварного мира? Только за счет того, что человек есть личность по образу Бога, по образу Христа, он соединяет в своей личности тварное и нетварное. Именно ипостасное начало в нас позволяет мыслить возможным и реализовать на практике двуединство природ в нас по образу Христа. Эта возможность ипостасного начала позволяет уму подниматься выше себя и соединяться с нетварным Богом.
Естественно, что у искусственного интелекта такой способности нет, поскольку он безипостасен, это просто некие подражащие нейронным сетям схемы, и он никогда не будет обладать способностью соединять тварное с нетварным. Поэтому для человека, находящегося в русле святоотеческого предания, он никогда не станет вызовом, хотя появление таких машин напоминает нам о нашем призвании и необходимости двигаться к обоженному бытию. А человека во страстях, который будет обуреваться виртуальными фантазиями, искусственный интеллект обыграет, и не только в шахматы, как он делает это сейчас.
Человеческий ум и искусственный интеллект в контексте
богословия личности
Согласно православному богословию, человек создан по образу Бога, и поэтому он — одновременно природа и личность. Подобно тому, как Троица — это Три Лица и Одна Природа, человечество — множество личностей и единая природа. Ипостаси Святой Троицы не сводятся к Своей Сущности, хотя и не отрываются от Нее, и в этом один из парадоксов православной догматики. Так же и человеческая личность не сводится к своей природе, а, «содержа в себе свою природу, природу превосходит», «этим превосходством дает существование ей», но и не существует вне природы [Лосский, 2000, 299-300]. И какие бы сложные системы ни были созданы, они всегда останутся попыткой на природном уровне смоделировать только человеческий ум, но никак не личность.
К сожалению, в современном богословии часто смешиваются понятия ума, души и личности человека. Подобные неточности встречаются даже у свт. Феофана Затворника (^ 1894), который писал, например, что душа «по теснейшему сочетанию с телом приняла его в свою личность» [Феофан Затворник, 2009, 19], смешивая понятия «души» и «личности». Священник СПбДА Сергий Ладанов, обсуждая проблемы искусственного интеллекта, опирается на тезисы, что душа нематериальна, «наша душа — это наше „я"», которое наука никогда не сможет измерять [Ладанов, 2020]. Да, эти тезисы подтверждают невозможность создания искусственного интеллекта, но они богословски неточны, поскольку наше «я», наша личность — это не душа и не тело, а синтез тела и души и нечто, превосходящее этот синтез.
Как правило, создатели искусственного интеллекта не придают значения телесности человека, стремясь в виртуальную реальность, но для православного богословия человеческая телесность всегда остается исключительно важной. Христианское мировоззрение признает онтологическую реальность творения и ценность физической реальности. Христос, который является «Словом, ставшим плотью» (1 Ин 3:2), показывает ценности физического мира и человека для Бога. В новых небесах и на земле мы не будем развоплощеными духами, плывущими в эфире, но, по словам апостола, мы с нетерпением ждем «воскресения тела и жизни вечной» рЛиштаап, 2020]. Эта онтологическая отправная точка отвергает представления современных редукционистов о людях как сложных биохимических машинах, и утверждает ценность физического мира [Шурман, 2020].
Личность не тождественна своим телу и душе, и поэтому не может быть искусственно создана с помощью сколь угодно тонких, но всегда природных схем, а человек, будучи образом Святой Троицы, несопоставим с искусственным интеллектом. Будучи сотворенными по образу и подобию Божию, мы имеем уникальную потенциальную возможность «ассимилировать и вечно носить в себе нетварную Жизнь Божества» [Софроний Сахаров, 2009а, 307]. Открывая наше высокое призвание к обожению, богословие личности призывает нас не оказаться позади современного «технического паровоза» за счет своих страстей и предсказуемости нашего поведения по страстям. Если мы, как куклы, будем регулируемы лишь деньгами, страстями и средствами массовой информации и, по слову схиархим. Софрония (Сахарова), не сможем актуализировать нашу личностность [Софроний Сахаров, 2009Ь, 143], то будем близки к моделированию роботами и сложными искусственными системами. И тогда человечество действительно получит большой урон от проживания в мире, насыщенном техническими достижениями.
Искусственный интеллект в социуме и проблема единства
Существует также понятие социального интеллекта как анализа поведения другого «я», другого человека и адаптации к этому поведению. Способен ли на такие действия искусственный интеллект? Очевидно, что нет. Также есть понятие эмоционального интеллекта, подразумевающее некое осознание и работу с эмоциями, что заставляет задуматься: может ли быть что-то подобное у искусственного интеллекта? Ответ тоже будет отрицательный.
Важный аспект, связанный с этой проблемой, это единство природы человечества. Наши человеческие ипостаси составляют единую человеческую природу, и наша лич-ностность означает не отделенность нас друг от друга, но наоборот. Наше природное единосущие это не какой-то умозрительный факт «похожести», но духовная реальность. В этом тоже состоит наша иконность и сообразность Богу.
В контексте этого богословского факта искусственный интеллект также не может претендовать на какое-то серьезное копирование человека как единого Адама. Ни один искусственный интеллект никогда не будет единосущным с другим искусственным интеллектом. Предположим, будет создана некая машина, она может быть похожей на другую машину, они будут «подобосущны», но никогда они не будут «единосущны». Подобно тому, как в арианских спорах еретики утверждали, что Христос не единосущен, а только подобосущен Богу Отцу. Святые отцы определили это как ересь и разработали догматическое учение о том, что Отец и Сын единосущны, а не подо-босущны. И по поводу человечества мы можем утверждать, что все мы единосущны. А один искусственный интеллект, другой искусственный интеллект и третий искусственный интеллект никогда не будут единосущны, они никогда не смогут образовать единой, органически живой ткани, которую составляет человеческий род.
Но люди все меньше хотят быть едиными, все больше индивидуализируются и воспринимают свою личность не как принадлежащую единой природе Адама, а наоборот, пытаются искаженным образом выпятить ее за счет каких-то внешних или других качеств, отделяя себя от всего человечества. Можно с уверенностью сказать, что такого рода мышлению или тропосу как образу мышления искусственный интеллект будет противостоять. И один на один такой человек будет проигрывать в мышлении этим сложным системам.
Очевидно, что каждый человек сам выбирает свой путь. Множество святых стремились к максимальному единству со всем Адамом, прп. Серафим Саровский каждому человеку говорил: «Радость моя!» [Дивеевская тайна, 2011, 11], а св. Силуан Афонский молился за все человечество [Софроний Сахаров, 2011, 54-55]. И они оказываются в сотни раз более едины со всем человечеством, чем современный человек, который совершает тысячу звонков в день, всех знает, со всеми общается, все у него в телефоне, но он никого особенно не любит.
Таким образом, сети не могут имитировать подлинный социум, построенный на духовных началах, как в соборной Церкви Христовой. Искусственный интеллект может вести «диалог» в рамках построенных математических и лингвистических моделей общения, но он не способен выстраивать подлинно личностные отношения, поскольку его диалог с кем бы то ни было заведомо будет механизирован, даже если в его ответы вписана теория вероятности и возможность в какой-то степени логически непредсказуемого ответа. С богословской точки зрения, искусственный интеллект может только подражать социуму, и если в отношениях людей может и должен присутствовать Дух Святой в той мере, в которой мы Его допускаем, то в отношениях с искусственным интеллектом Дух Святой не присутствует, потому что у того нет личности, призванной к общению с Богом.
Мы знаем также, что для выстраивания подлинных личностных отношений необходима верная личностная ориентация, и такая ориентация невозможна для искусственного интеллекта. В частности, искусственный интеллект не способен на жертвенность, ответственность, сочувствие, ему недоступны такие категории, как свобода нравственного выбора, молитва и подобные личностные свойства и состояния.
Безипостасность искусственного интеллекта имеет своим следствием неспособность к объединению — ни с другим интеллектом, ни с человеком, потому что такие объединения возможны только на ипостасном уровне. Способность персонального начала включать, усваивать в свое бытие бытие других личностей [Николай Сахаров, 2001, 108] без подавления их, а с предоставлением им расширенной свободы действий, является одним из ключевых свойств персонального начала, отличающим его от природного. Если одна природа соединяется с другой, то она имеет тенденцию изменяться и изменять ту, с которой соединяется, тогда как личность сохраняет свою уникальность и обогащается за счет включения в себя другого бытия, и ее сознание постепенно о-кафоличивается вплоть до молитвы за всех [Софроний Сахаров, 2003, 136-137].
Богословие сознания и искусственный интеллект
Следующий аспект, который мы рассмотрим, — это тема сознания. Западные философы говорят, что современная наука не может объяснить сознание. Материалисты и ученые самых разных мировоззренческих установок считают, что сознание есть продукт развития материи, и рассматривают сознание как «огромный комплекс переживаний и мыслей, доступный к оцифрованию, который якобы можно транслировать с помощью возрастающих компьютерных технологических возможностей» (см.: [Мефодий Зинковский, 2018, 190]). Они уверены, что рано или поздно они усложнят искусственный интеллект настолько, что он повторит человеческую эволюцию и в конце концов у него родится какое-то сознание.
Но, с богословской точки зрения, это невозоможно, потому что сознание — это свойство исключительно личности. Святоотеческое богословие мало говорит о личностном сознании как богословской категории. В большей степени занимаясь три-адологией и христологией, святые отцы заложили основы антропологии, оставив задачу ее развития последующим поколениям. В этом ключе в XIX в. еп. Михаил (Грибановский) говорил о том, что в Троице есть Три Ипостаси, Три Субъекта, созерцающих Единую Природу, Единый Объект [Михаил Грибановский, 2003, 135], а различие между Ипостасями «заключается в том, что Они различным образом созерцают Божественную Природу» [Михаил Грибановский, 2003, 124, 136, 149]. Владыка Михаил, по сути, подвел базу к тому, чтобы сказать, что у Трех Лиц в Боге есть Три сознания5. Обратим внимание, что само слово «со-знание» этимологически означает совместное знание. А профессор Санкт-Петербургской Духовной академии Василий Васильевич
5 По слову владыки Михаила, «самосознание является главным признаком личности» [Михаил Грибановский, 2003, 149].
Болотов скажет, что у Каждого из Трех Лиц Троицы есть самосознание [Болотов, 1918, 341], а «отношение между Лицами» должно быть понимаемо как «форма личной жизни», связанная с «самосознанием» каждого из Лиц [Болотов, 1918, 341].
Православное богословие связывает сознание с личностью в Боге и в человеке. А поскольку в искусственном интеллекте нет личности и его можно определить как сколь угодно сложное, но чисто природное явление, то сознание в нем никогда не возникнет. Но сейчас на Западе активно пытаются объяснить сознание именно с точки зрения интегрированной, сложной или многослойной информации (см.: [Hassel, 2017]). Это сведение ценностных ориентиров всей физической реальности к информации в современном мире напоминает ересь гностицизма, особенно распространенную в первые века христианства.
Нехристианские мировоззрения типа синтоизма, наделяющего сознанием и душой все предметы мира (см.: [Thomas, 2009]), материализма, постулирующего, что существует только материя, приводят человека к стремлению полностью объяснить феномен человеческого сознания «с учетом только биологического мозга и законов физики и химии» [Matthew, 2016, XXVI-XXVII]. В так называемой philosophy of the brain встречаются такие примитивные вещи, когда всё, что происходит в сознании человека, объясняется гормонами и физиологическими процессами, происходящими в его мозгу. Люди, придерживающиеся подобных взглядов и надеющиеся создать искусственное сознание, таким образом отрицают личностность и асимптотически стремятся к тому, что искусственный интеллект положит их на лопатки. Человек же, сознающий себя в рамках православного богословия и аскетики и развивающий себя на этом пути, остается независим от любых достижений робототехники.
Взаимосвязь тела и души, мозга и сознания в личности и искусственный интеллект
Еще один важный вопрос, связанный с нашей темой, — это вопрос о том, как тело человека связано с его душой и, соответственно, мозг связан с умом. Эта взаимосвязь, несомненно, присутствует, но здесь много неисследованного.
Ученые-исследователи человеческого мозга единодушно сходятся во мнении о непревзойденной сложности и совершенстве мозга по сравнению с другими органами в единой системе человеческой телесности. Академик РАН Наталья Петровна Бехтерева (f 2008) отмечала, что человеческий мозг может быть сопоставлен только со всей Вселенной вместе взятой, со всеми миллиардами Галактик, настолько сложно он устроен, и утверждала, что мозг никогда не будет смоделирован и можно говорить только об условном моделировании малого процента человеческого мозга.
В то же время большинство ученых-физиков и программистов думают, что исключительно мозг, то есть физическая составляющая человека, и порождает сознание. Например, Татьяна Владимировна Черниговская утверждает, что мозг «принимает решение за тридцать секунд до того, как человек это решение осознает» [Двадцать цитат, 2020], и поэтому не человек владеет мозгом, а мозг владеет человеком, как более независимый, хитрый и обманывающий нас [Двадцать цитат, 2020].
Но другие ученые, христиане, а также и нейтральные в отношении вероисповедания люди, говорят о совершенно другом. Так, по словам доктора-ревматолога Сэма Парния, мы видим взаимосвязь человеческих мозга и сознания, что подтверждает определенную роль нейронных сетей в реализации работы сознания, но мы не можем доказать, что наши «мысли являются продуктом деятельности нервных клеток» (см.: [Сэм Парния и др., 2017]). Нобелевский лауреат в области физиологии мозга Джон Кэрью Экклз (f 1997) был готов «экспериментально подтвердить, что работа сознания не может быть объяснена функционированием мозга. Сознание существует независимо от него» [Eccles, 1979, 176; см. также: Eccles and Popper, 1977]. Н. П. Бехтерева высказывала по поводу соотношения мозга и сознания парадоксальную мысль,
что сознание человека существует отдельно от его мозга, обрабатывается последним, но не рождается им [Бехтерева, 2020]. Исключительно важным является и ее наблюдение об определенной метафизичности жизни человека, необходимости и продуктивности наличия «сверхзадачи», без которой человеческое существование становится бессмысленным [Бехтерева, 2020].
Продолжая ее мысль, мы должны сказать, что с точки зрения православного богословия связь человеческого сознания и мозга несомненно присутствует, но всегда необходимо помнить о богоустановленной иерархии состава человека, в соответствии с которой ум определяет состояние души, а душа определяет состояние тела (см.: [Кирилл и Мефодий Зинковские, 2013]). В состоянии грехопадения эта пирамида переворачивается, и тогда мы асимптотически начинаем двигаться к той безличностной модели мирозания, которую создатели искусственного интеллекта хотят считать реальностью и в которой падшее естество человека определяет мировой порядок.
Согласно православному богословию, естество каждого рождающегося в этот мир человека находится в поврежденном, раскоординированном состоянии, причиной чего является первородный грех праотцев, передаваемый из поколения в поколение и формирующий неверно направленное человеческое произволение. Эта внутренняя разобщенность и раскоординированность человеческого естества приводит к ограниченности сознания, когда, по свидетельству современной науки, мы не полностью пользуемся мозгом, а нейронные сети человеческого мозга не работают в полную силу (принято называть всего около 6 % как ту часть объема мозга, где нейроны взаимосвязаны и находятся в рабочем состоянии). И если человек будет дальше расти в грехе, предаваясь страстям и, например, понижая свои интеллектуальные способности за счет цифрового аутизма, — то что будет с человеком? Согласно статистическим наблюдениям, когда человеку предложено ответить на тест, а рядом лежит смартфон, то он отвечает хуже, его мозг работает хуже, он расслабился, словно бы говорит: «Глянь туда!» Так возникает цифровой аутизм, и это статистика.
И если мы будем идти этим путем, технологии будут далее наращивать свой потенциал, то в какой-то момент у человека, который не противостоит греху, не имеет ни молитвы, ни благодати Божией, ни участия в Таинствах, за счет технологий, которые берут на себя все, будет развиваться преждевременная деменция. Что станет с таким человеком в механизированном мире? И если, даже не обладая сознанием, эти машины будут выполнять за человека все, то во что превратится человек? В овощ? Есть такая серьезная опасность.
Реальные опасности искусственного интеллекта и наши действия
Создатель «Хроник Нарнии» британский писатель и богослов Клайв Стэйплз Льюис (f 1963), который был близок к православной вере, посещал православный храм в Оксфорде, но, к сожалению, так и не успел принять православие, одну из своих последних книг назвал The Abolition of Man («Устранение человека»). Он предполагал, что развитие автоматизации и технологий может привести к тому, что человек, собственно, станет не нужным обществу. Власть может быть сконцентрирована в руках элиты, смотрящей на других людей как на материал, который нужно организовывать и ограничивать в развитии и размножении [Lewis, 1974, 55]. Это, по сути дела, пред-зрение тоталитаризма, и если сейчас человечество духовно, с помощью Православной Церкви и христианства не будет противостоять этим процессам, то это вполне обозримая реальность. Еще в 2017 г. известный американский инженер-изобретатель Илон Маск обратился в ООН с открытым письмом, в котором просил ввести запрет на разработку и использование военных роботов, рассматривая эти действия как опасные для человечества и открывающие возможность новому этапу гонки вооружений [Илон Маск и другие, 2020].
Сейчас в западном мире многие неправославные христиане, протестанты и католики, обсуждают границы применения искусственного интеллекта и говорят
о необходимости ограничений того, что должны делать компьютеры [Weizenbaum, 1976, 5-6]. Например, они задаются вопросом, должны ли мы использовать роботов в сфере ухода за детьми и престарелыми (см.: [Sharkey and Sharkey, 2011]). Известны случаи в Японии, когда робот ухаживает за больным полностью, иногда приходит врач, но в основном больной находится в контакте с роботом. Хорошо ли это? Хорошо ли, что мы устраняемся от служения друг другу, используя роботы? Это — вопрос открытый и очевидно требующий регуляции.
То же самое касается и вопроса потери работы многими людьми, такими, например, как водители-дальнобойщики в Америке. Если роботы смогут полностью беспи-лотно управлять процессом движения, и эти три миллиона человек сразу потеряют работу, то кто сможет их занять? И кто будет этим заниматься?
Современные страхования искуственного интеллекта так называемых футуристов и фаназеров, для которых, по словам Святейшего Патриарха Кирилла, эта сфера стала новой религией, заменяющей прежнюю «квазиверу в прогресс» [Слово Святейшего Патриарха Кирилла, 2020], — идеи трансгуманизма, переселения сознания человека на носители, компьютерное бессмертие, создание «бога», развитие нано-технологий — все это не должно нас пугать. Но мы должны думать о том, как реально работать с тем, что будет создано в рамках управляющих искусственным интеллектом программ и кто будет эти программы регулировать. Сможет ли Православная Церковь, верующие люди, сказать свое слово о регулировании этих вопросов не деньгами, не чьей-то идеологией, а духовными принципами? «Осмысленность человеческого бытия, придание ему высшего смысла и одухотворенности — вот к чему призывает Евангелие и святоотеческая мудрость. „Обес-словесивание" [Афанасий Великий, 1902, 207] человеческой природы» [Кирилл Зинковский, 2018, 186] и человеческой жизни — вот что более всего заботит христианина при обозрении тенденций современных научно-технических достижений. И сможем ли мы противостоять этим процессам, которые становятся реальностью и несут определенную опасность? Это не повод к тому, чтобы прятаться, выбрасывать свои паспорта или бояться получать образование, но мы призваны дать свой православный ответ — как можно адекватно использовать эти достижения научно-технического прогресса на пользу, а не во вред человечеству.
Источники и литература
1. Афанасий Великий (1902) — Афанасий Великий, свт. Слово о воплощении Бога Слова, и о пришествии Его к нам во плоти // Афанасий Великий, свт. Творения: в 4 т. ТСЛ: Собственная типография, 1902-1903. Т. 1. 1902. C. 191-264.
2. Бехтерева (2020) — Н. Бехтерева: «Я допускаю, что мысль существует отдельно от мозга». URL: https://professionali.ru/Soobschestva/put_k_sebe/n-behtereva-ja-dopuskaju-chto-mysl/ (дата обращения: 26.11.2020).
3. Болотов (1918) — Болотов В.В. Лекции по истории древней Церкви: в 4 т. / Под ред. проф. А. Бриллиантова. Пг.: Третья государственная типография, 1918. [Репринт: М., 1994]. Т. 2.
4. Двадцать цитат (2020) — Двадцать цитат нейролингвиста Татьяны Черниговской о загадках человеческого мозга. URL: https://www.adme.ru/zhizn-nauka/20-citat-nejrolingvista-tatyany-chernigovskoj-o-zagadkah-chelovecheskogo-mozga-2135565/ (дата обращения: 20.11.2020).
5. Дивеевская тайна (2011) — Дивеевская тайна и предсказания о воскресении России. Преподобный Серафим Саровский Чудотворец: Сборник. М.: Вече, 2011.
6. Илон Маск и другие (2020) — Илон Маск и другие ИТ-лидеры требуют запретить военных роботов. URL: https://hightech.fm/2017/08/21/killer_robots_ban (дата обращения: 27.11.2020).
7. Интеллект (2020) — Интеллект. URL: https://dic.academic.ru/dic.nsf/ruwiki/2081 (дата обращения: 26.11.2020).
8. Интервью с митр. Иларионом Алфеевым (2020) — Интервью с митр. Иларионом (Ал-феевым). Общение с Богом невозможно заменить никаким искусственным разумом. URL: https://pravoslavie.ru/107735.html (дата обращения: 26.11.2020).
9. Иустин Попович (2004) — Иустин (Попович), прп. Догматика Православной Церкви // Иустин (Попович), прп. Собрание творений: в 5 т. / Пер. с серб. С. Фонова. М.: Издательство Паломник, 2004-2007. Т. 2.
10. Каллист и Игнатий (2010) — Иноков Каллиста и Игнатия Ксанфопулов наставления безмолвствующим, в сотне глав // Добротолюбие: в 5 т. / Пер. с греч. свт. Феофана Затворника. М.: Издательство Сретенского монастыря, 2007-2010. Т. 5. С. 298-407.
11. Кирилл и Мефодий Зинковские (2013) — Кирилл (Зинковский), иером., Мефодий (Зинковский), иером. Иерархическая антропология преп. Максима Исповедника // Церковь и время. 2013. № 3 (64). С. 59-83.
12. Кирилл Зинковский (2018) — Кирилл (Зинковский), иером. Святоотеческое учение о плоти и материи и современные биомедицинские технологии // Вестник Русской Христианской Гуманитарной Академии. 2018. Т. 19. Вып. 4. Специальный вып. (Материалы Общероссийской конференции «Философско-религиозные проблемы биотехнологического улучшения человека»). С. 180-187.
13. Ладанов (2020) — Ладанов C, свящ. Богословская оценка научно-технического прогресса в контексте «трудной проблемы сознания». URL: https://spbda.ru/publications/ svyaschennik-sergiy-ladanov-bogoslovskaya-ocenka-nauchno-tehnicheskogo-progressa-v-kontekste-trudnoy-problemy-soznaniya/ (дата обращения: 26.11.2020).
14. Лосский (2000) — Лосский В. Н. Богословское понятие человеческой личности // Лос-ский В. Н. Богословие и Боговидение. Сборник статей. М.: Издательство Свято-Владимирского братства, 2000. С. 295-302.
15. Лука Войно-Ясенецкий (2003) — Лука (Войно-Ясенецкий), архиеп. Дух, душа, тело. М.: Сибирская благозвонница; Клин: Христианская жизнь, 2003.
16. Мефодий Зинковский (2015) — Мефодий (Зинковский), иером. Ипостасно-природный характер понятия «знание» и теология образования // Вестник Русской Христианской Гуманитарной Академии. 2015. Т. 16. Вып. 3. С. 29-38.
17. Мефодий Зинковский (2018) — Мефодий (Зинковский), иером. Богословие личности и биотехнологии улучшения человека // Вестник Русской Христианской Гуманитарной Академии. 2018. Т.19. Вып.4 (Материалы Общероссийской конференции «Философско-религиозные проблемы биотехнологического улучшения человека»). С. 188-194.
18. Михаил Грибановский (2003) — Михаил (Грибановский), еп. Лекции по введению в круг богословских наук. Киев: Пролог, 2003.
19. Николай Сахаров (2001) — Николай (Сахаров), иерод. Учение архим. Софрония о старчестве: старчество и послушание в богословии архим. Софрония (Сахарова) / Пер. с англ. А. А. Мельникова // Начало. 2001. № 10. С. 84-112.
20. Слово Святейшего Патриарха Кирилла (2020) — Слово Святейшего Патриарха Кирилла на открытии XXI Всемирного русского народного собора. URL: http://www.patriarchia.ru/ db/text/5052002.html (дата обращения: 26.11.2020).
21. Софроний Сахаров (2003) — Софроний (Сахаров), архим. О молитве. Свято-Троицкая Сергиева Лавра. Свято-Иоанно-Предтеченский монастырь, 2003.
22. Софроний Сахаров (2009а) — Софроний (Сахаров), схиархим. Видеть Бога как Он есть. Сергиев Посад: Свято-Троицкая Сергиева лавра; Свято-Иоанно-Предтеченский монастырь, 2009.
23. Софроний Сахаров (2009b) — Софроний (Сахаров), схиархим. Таинство христианской жизни. Сергиев Посад: Свято-Троицкая Сергиева лавра; Свято-Иоанно-Предтеченский монастырь, 2009.
24. Софроний Сахаров (2011) — Софроний (Сахаров), схиархим. Преподобный Силуан Афонский. Свято-Троицкая Сергиева лавра, 2011.
25. Сэм Парния и др. (2017) — Сэм Парния при участии Джоша Янга. Стирая смерть. Научный подход к вопросу о границах между жизнью и смертью. М.: Олимп-Бизнес, 2017.
26. Татьяна Черниговская (2020) — Татьяна Черниговская — о мозге, волшебстве и искусственном интеллекте. URL: https://ria.ru/20191126/1561585051.html7utm_ referrer = https%3A%2F%2Fzen.yandex.com%2F%3Ffrom%3Dspecial&utm_source = YandexZenSpecial (дата обращения: 26.11.2020).
27. Феофан Затворник (2009) — Феофан Затворник, свт. Что есть духовная жизнь и как на нее настроиться? М.: Отчий дом, 2009.
28. Фома Аквинский (2005) — Фома Аквинский. Сумма теологии. Часть I. Вопросы 75119. Киев: Эльга, Ника Центр, 2005.
29. Шурман (2020) — Шурман Д. Искусственный интеллект: христианский ответ. URL: https://www.proza.ru/2018/09/10/1651 (дата обращения: 26.11.2020).
30. Brooks (1996) — Brooks Fr. P. The Computer Scientist as Toolsmith II // Communications of the ACM. 1996. Vol. 39. No. 3 (March). P. 61-68.
31. Eccles (1979) — Eccles J. C. The Human The Human Mystery: The GIFFORD Lectures University of Edinburgh 1977-1978. Berlin: Springer-Verlag Berlin and Heidelberg GmbH & Co, 1979.
32. Eccles and Popper (1977) — EcclesJ.C, PopperK.R. The Self and Its Brain. Berlin; Heidelberg; London; New York: Springer-Verlag, 1977.
33. Hassel (2017) — Hedda Hassel M0rch. The Integrated Information Theory of Consciousness: An introduction // Philosophy Now. 2017. Is. 121 (August/September).
34. KaXXiorog Kai Iyvaxtog (2020) — Ayiog KaXXiorog Kai Ayiog Iyvaxtog (oi Sav9onXoi). Мебобод Kai Kavovag акрф]д yia остоид SiaXeyouv x^v психаолк] Z^] // ФЛокаМа xwv Iepwv NnnxiKwv. Тоцод E'. URL: https://azbyka.ru/otechnik/prochee/dobrotolyubie-filokalija-na-grecheskom-jazyke-tom-5/1_2 (дата обращения: 26.11.2020).
35. Kelly (2002) — Kevin Kelly. God is the Machine. Wired, December 2002. URL: https://www. wired.com/2002/12/holytech/(дата обращения: 26.11.2020).
36. Kurzweil (2020) — Kurzweil R.. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. Penguin, 2000.
37. Lewis (1974) — Lewis C. S. The Abolition of Man. New York: HarperOne, 1974.
38. Louth (2005) — Louth A. Maximus the Confessor. London; New York: Routledge, 2005.
39. Matthew (2016) — Matthew T. Dickerson, The Mind and the Machine: What it Means to the Human and Why It Matters. Cascade Books, 2016. P. XXVI-XXVII.
40. Maximus Confessor, PG 90 — S. Maximus Confessor. Capitum Theologiae et Oeconomiae // Patrologiae cursus completus (series Graeca): in 161 t. / Ed. par J.-P. Migne. Paris, 1857-1866. Vol. 90. 1083-1176.
41. Noble (1999) — Noble D. The Religion of Technology: The Divinity of Man and the Spirit of Invention. Penguin Books, 1999.
42. Schuurman (2020) — Schuurman D. C. The Rapture of the Geeks // All Things. 2015. November 5. URL: https://inallthings.org/the-rapture-of-the-geeks/(дата обращения: 28.11.2020).
43. Sharkey and Sharkey (2011) — Sharkey A, Sharkey N.Children, the Elderly, and Interactive Robots // IEEE Robotics & Automation Magazine. 2011. Vol. 18. No. 1 (March). P. 32-38.
44. Thomas (2009) — Thomas L. What's Behind Japan's Love Affair with Robots? // Time Magaizine. 2009. Aug. 03.
45. Weizenbaum (1976) — Weizenbaum J. Computer Power and Human Reason: From Judgment to Calculation. San Francisco: W. H. Freeman & Co., 1976.
