CC BY
74
Научно-аналитический вестник ИЕ РАН, 2020, №5
УДК 322
Вероника ЯЗЬКОВА
«СЛУГА» ИЛИ «ГОСПОДИН»? КАТОЛИЧЕСКАЯ ЭТИКА И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Аннотация. Статья посвящена отношению Ватикана и католической общественности к системам искусственного интеллекта (ИИ), этическим нормам его использования в интересах общего блага и социальной справедливости. Католические иерархи утверждают, что концентрация метаданных, власти и богатства в руках немногих грозит обострением социальных противоречий и может привести к ущемлению демократических прав и свобод европейских сообществ. «Римский призыв», подписанный в феврале 2020 г. Папской академией жизни и лидерами 1Т-индустрии, стал важнейшим политическим соглашением в области этики искусственного интеллекта. Документ является логическим продолжением подписанных ранее соглашений - «Руководства по этике для надёжного ИИ» и «Рекомендаций по политике и инвестициям ЕС в сфере ИИ», принятых Комиссией Евросоюза в 2019 г. По мнению церковных иерархов и богословов, создание этического кодекса ИИ возможно только при участии всего гражданского общества и католической церкви, которая руководствуется в этом вопросе нормами христианской морали и принципами Социальной доктрины.
Ключевые слова: искусственный интеллект (ИИ), католическая церковь, Ватикан, Римский призыв, метаданные, этика.
Внедрение новейших технологий практически во все сферы жизни современного общества побудило Ватикан определить этические нормы использования искусственного интеллекта (ИИ) в интересах общего блага и социальной справедливости. Не подвергая сомнению преимущества, которые принёс научно-технический прогресс в авиации, космической отрасли, медицине, естественно-научной сфере, сфере коммуникации и т.д., церковные иерархи и католические СМИ не устают утверждать, что будущее человечества зависит от создателей новых технологий, а точнее от того, насколько корректным будет их представление об общественном благе, природе человеческого опыта, социальной справедливости1.
Сходясь в том, что завоевания цивилизации - данность, без которой немыслима сегодняшняя жизнь, католические исследователи по-разному оценивают перспективы развития искусственного интеллекта. Оптимисты верят, что его можно держать под контролем; пессимисты склонны рассматривать ИИ как проявление «нового антигуманизма». Принцип утилитаризма, заложенный в системах ИИ, со временем может свести на нет яркую индивидуаль-
© Язькова Вероника Евгеньевна - кандидат исторических наук, старший научный сотрудник Центра по изучению проблем религии и общества Отдела политических и социальных исследований ИЕ РАН. Адрес: 125009, Россия, Москва, ул. Моховая, д. 11, стр. 3. E-mail: [email protected].
Статья поступила в редакцию: 15.10.2020.
DOI: http://dx.doi.org/10.15211/vestnikieran52020113120.
1 Spadaro A., Twomey P. Intelligenza artificíale e giustizia sociale. Una sfida per la Chiesa. La Civilta cattolica. Quaderno 4070. Vol.I, 18.01.2020. URL: https://www.laciviltacattolica.it/articolo/intelligenza-artificiale-e-giustizia-sociale/ (дата обращения 13.10.2020); Pagliaga S. Liberarsi dalla dittatura futuribile degli algoritmi. Avvenire. 06.12.2019. URL: http://www.meltemieditore.it/wp-content/uploads/paliaga-avvenire-societa-automatica-stiegler.pdf (дата обращения 13.10.2020).
ность человека или плюрализм взглядов1, отмечается в газете Итальянской епископской конференции «Аввенире». По мнению итальянского философа К. Аккото, сотрудника Массачу-сетского технологического университета, наивно думать, что машины нейтральны, это «думающие машины», и «думают» они о нас, а между тем наша цивилизация внедряет «новые формы автоматизации... во все измерения бытия»2. Распознавание лиц, скрытые системы наподобие голосовых помощников Google, системы оценки благонадёжности, финансовой платёжеспособности клиента, помимо преимуществ, несут в себе серьёзные риски. Итальянский мыслитель, директор исследовательского центра философии информации Оксфордского университета проф. Л. Флориди подчеркнул, что на сегодняшний день возникновение цифровых технологий привело к «демократизации. нашей уязвимости, то есть к её увеличению». Если принять во внимание, что к 2050 г. почти 70% человечества будет жить в мегаполисах, управляемых при помощи технологии 5G, соблюдение прав и свобод индивида становится насущной необходимостью3. Если прежде считалось, что злоупотребления в этой сфере характерны для авторитарных режимов или для государств с сильной централизацией власти, то теперь стало очевидно, что от подобных явлений не застрахованы и некоторые европейские страны4, полагает итальянский адвокат Дж. Спинольо.
«Римский призыв»
В основу этического кодекса использования искусственного интеллекта лёг документ «Римский призыв к этике ИИ», разработанный под эгидой Папской академии жизни5 и подписанный 28 февраля 2020 г. архиепископом В. Палья (Папская Академия жизни), Б. Смитом (президентом компании Microsoft), Дж. Келли III (вице-президентом IBM), Д. Ку (генеральным директором Продовольственной сельскохозяйственной организации ООН) и П. Пизано (министром по технологическим инновациям и цифровизации), представляющей правительство Итальянской республики. Ключевыми принципами этики алгоритмизации были признаны: прозрачность системы ИИ; деятельность в интересах человеческой личности, предоставление индивиду возможности для самовыражения и саморазвития; принцип ответственности разработчиков за конечный продукт; беспристрастность, исключающая дискриминацию по какому-либо признаку, уважение человеческого достоинства; надёжность, безопасность и соблюдение privacy6. Уникальность документа, по мнению монсеньора В. Палья, объясняется тем, что он стал «первой совместной попыткой соединить в формулировках критерии этики с бытовыми представлениями о ценностях»7.
«Римский призыв» можно по праву рассматривать как логическое продолжение подписанных ранее соглашений - «Руководства по этике для надёжного ИИ» (апрель 2019 г.) и «Рекомендаций по политике и инвестициям ЕС в сфере ИИ» (июнь 2019 г.), принятых Ко-
1 Paliaga S. L'intelligenza artificiale, il volto, il volto del nuovo antiumanesimo? Avvenire. 6.07.2019. URL: https://www.avvenire.it/agora/pagine/lintelligenza-artificiale-il-nuovo-antiumanesimo (дата обращения 9.10.2020).
2 Pagliaga S. Occhio alle macchine, ormai sono biologiche. Avvenire.it. 21.04.2020. URL: https://www.avvenire.it/ agora/pagine/occhio-alle-macchine-ormai-sono-biologiche (дата обращения 13.10.2020).
3 Pierri M. Intelligenza artificiale, che cosa lega filosofía e ingegneria secondo Luciano Floridi (Oxford). Formiche.net. 25.03.2019. URL: https://formiche.net/2019/03/intelligenza-artificiale-filosofia-ingegneria-etica-floridi-oxford/ (дата обращения 10.10.2020).
4 Spinoglio G. Intelligenza artificiale, le linee guida europee: pro e contra dell'approccio Ue. Agenda Digitale. 14.01.2019. URL: https://www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-le-linee-guida-europee-pro-e-contro-dellapproccio-ue/ (дата обращения 03.10.2020).
5 Академия ставит перед собой задачу продвижения католической этики жизни.
6 Rome Call for AI Ethics. Pontificia Accademia per la Vita. 26-28.02.2020. URL: http://www.academyforlife.va/ content/pav/it/events/workshop-intelligenza-artificiale.html (дата обращения 13.10.2020).
7 Firmata oggi a Roma la Call for an AI Ethics. Microsoft. 28.02.2020. URL: https://news.microsoft.com/it-it/2020/02/28/firmata-oggi-a-roma-la-call-for-an-ai-ethics/ (дата обращения 11.10.2020).
Научно-аналитический вестник ИЕ РАН, 2020, №5
миссией Евросоюза с привлечением 52 экспертов высокого уровня из стран ЕС, учёных, философов, теологов, предпринимателей, представителей гражданского общества (High-Level Expert Group on AI). Участники экстертной группы Еврокомиссии поставили перед собой цель создать «человекоцентричную» модель искусственного интеллекта, о чём годом раньше, в 2017 г., говорилось в отчётах Французской Национальной комиссии «Информатика и свободы» и Аналитической компании ICORating. В соответствии с документом, задуманным Евросоюзом как «золотой стандарт» использования ИИ в глобальном масштабе, никакие технологические блага не оправдывают ущемления базовых ценностей европейских сообществ1, прав и свобод граждан2. Декларировалось также, что соблюдение Общего регламента по защите данных3 (GDRP) от 2016 г. предписано для обязательного исполнения всем компаниям на территории ЕС.
Папа Франциск о рисках цифровой галактики
Представление о том, что гипертехнологичный мир нуждается в философии и этике, созрело в католической церкви не сегодня. Ещё в 2017 г. папа Франциск заявил членам Папского Совета по культуре, что наука должна осознать и признать собственные границы. «Не всё, что возможно или осуществимо технически, приемлемо этически», - отметил понтифик, уточнив, что, как учил папа Павел VI (понтификат 1963-1978 гг.), «подлинный прогресс - тот, который осуществляется ради блага каждого человека и человеческой личности во всей её це-лостности»4. Папа Франциск пояснил, что трагический разрыв между гуманитарно-теологическим и научным знанием приводит к взаимному обеднению обоих. Наука и технология, безусловно, расширили границы познания природы и человека, но, взятые в отдельности, они не способны дать ответы на все вопросы, заменить собой религиозный опыт, народную мудрость, литературу, искусство, философию, теологию, постичь тайну человеческой экзистенции.
Признавая новые технологии цифровой галактики «даром Божиим», понтифик, тем не менее, заявил в феврале 2020 г. в послании, адресованном Папской академии жизни, что неуправляемое внедрение интеллектуальных систем, позволяющих контролировать ментальные и поведенческие привычки людей в политических или коммерческих целях часто без их ведома, рискует усугубить социальные противоречия. Беспокойство главы католической церкви вызывает «асимметрия» в обществе, при которой интернет-пользователи сведены до положения потребителей, обслуживающих частные интересы «немногих избранных, знающих
0 нас всё, тогда как мы о них не знаем ничего». Подобное неравенство, сосредоточение знания и богатства в немногих руках представляют серьёзную угрозу для демократического общества, поскольку притупляют способность индивида к критическому мышлению и препятствуют осознанной реализации прав и свобод5.
1 Spinoglio G. Intelligenza artificiale, le linee guida europee. pro e contra dell'approccio Ue. Agenda Digitale. 14.01.2019. URL. https.//www.agendadigitale.eu/cultura-digitale/intelligenza-artificiale-le-linee-guida-europee-pro-e-contro-dellapproccio-ue/ (дата обращения 03.10.2020).
2 ИИ не должен использоваться для массового надзора - рекомендации экспертов Еврокомиссии. Digital Russia. 02.07.2019. URL. https.//d-russia.ru/ü-ne-dolzhen-ispolzovatsya-dlya-massovogo-nadzora-rekomendatsü-ekspertov-evrokomissii.html (дата обращения 10.10.2020).
3 Подробнее об этике персональных данных см.: Ястреб Н.А. Как проблема персональных данных меняет этику искусственного интеллекта? // Философские проблемы информационных технологий и киберпространства. 2020. №1(17). C. 37-3S.
4 Papa Francesco. «La scienza ha limiti da rispettare. Serve responsabilità etica». La Repubblica. 18.11.2017. URL. https.//www.repubblica.it/vaticano/2017/11/18/news/papa_francesco_scienza_limiti-181422014/#.~.text=La%20scienz a%2C%20come%20qualsiasi%20altra,un%20senso%20di%20responsabilit%C3%A0%20etica%22. (дата обращения 03.10.2020).
5 Il Papa. l'intelligenza artificiale è un dono ma serve un'algor-etica. Vatican News. 28.02.2020. URL. https.//www. vaticannews.va/it/papa/news/2020-02/papa-francesco-intelligenza-artificiale-algor-etica-discorso.html (дата обраще-
Научно-аналитический вестник ИЕ РАН, 2020, №5
Понтифик не устаёт повторять об опасности генетического программирования людей. Выступая на тему «Будущее человечества: вызов антропологии», он предложил задуматься об истинной природе человека, определить критерии его отличия от машины1. Этот призыв, который в предшествующие эпохи отсылал бы нас к абстрактным понятиям, отныне наделён вполне конкретным содержанием.
«Сила добра» и коллективная ответственность
Важным этапом диалога между наукой и католической церковью стала встреча президента всемирно известной компании Microsoft Брэда Смита с папой Франциском. Инициатором встречи выступила Папская Академия жизни. Совместно с компанией Microsoft Академия учредила премию за лучшую докторскую диссертацию на тему «Искусственный интеллект на службе человеческой жизни». Обращаясь к папе Франциску, Б. Смит заявил, что сегодня миру чрезвычайно важно услышать звучный и авторитетный голос Церкви. «Голос, - многозначительно подхватил понтифик, - который вернёт в лексикон человека слова, рискующие из него выпасть: "нежность", "ласка", "братство". Соцсети могут лишь дополнить реальное общение людей "во плоти". Оно возможно только при непосредственном контакте сердец, глаз, дыхания, - пояснил папа Франциск. - Если сеть мыслится как продление или ожидание такого контакта, она может быть расценена как ресурс»2.
По итогам встречи Б. Смит дал эксклюзивное интервью Андреа Монда, главному редактору газеты «L'Osservatore Romano» - официального органа Ватикана. Интервьюируя лидера Microsoft, Монда охватил широкий круг актуальных проблем: в чьей компетенции находится icloud, в чьи руки в конечном счёте стекаются метаданные? Реально ли получить гарантии демократического функционирования системы? Наконец, можно ли поставить искусственный интеллект на службу общему благу?
Б. Смит в своих ответах придерживался убеждения, что развитие технологий является частью или даже разновидностью эволюции человечества. Он утверждал, что внедрение искусственного интеллекта в социальную сферу требует эволюции законодательства. «Возможно, мы более, чем кто-либо, знаем, как функционируют эти технологии, - отметил президент Microsoft, - но это отнюдь не означает, что мы знаем лучше других, как они справятся с той ролью, которую должны были бы играть в обществе. Мы отдаём себе отчёт в том, что обязаны быть силой добра., понимаем, что чем крупнее компания, тем больше её ответственность перед миром, перед людьми»3. Однако соблюдение неприкосновенности личного пространства, защита данных - вопрос коллективной ответственности. Решение этих задач требует привлечения учёных, предпринимателей, государственных и негосударственных структур, всего гражданского общества. Было бы полезно, подчеркнул Смит, чтобы правительства способствовали развитию технологий, которые позволят использовать персональные данные, не раскрывая идентичности владельца.
Руководитель Microsoft заявил, что компания впредь намерена финансировать разработку систем «безопасности в сети», «глобальное цифровое воспитание», вкладывать средства в проекты филантропии, вовлечь в образовательный проект более 2 млн студентов, представителей поколения «neet», которые в силу различных причин не работают и не учатся. Такая
ния 03.10.2020).
1 Papa Francesco: «La scienza ha limiti da rispettare. Serve responsabilitá etica» ...
2 La tecnologia ha bisogno dell'alleanza tra etica, politica e diritto. Riflessioni. 14.02.2019. URL: https://francescomac ri.wordpress.com/2019/02/14/la-tecnologia-ha-bisogno-dellalleanza-tra-etica-politica-e-diritto/ (дата обращения 11.10. 2020).
3 Ibid.
мера, по признанию Смита, не устраняет все «болевые точки». Системы ИИ, имеющие непосредственное отношение к privacy, уже сегодня заставляют общество искать баланс между общественной безопасностью и незыблемостью демократических свобод в правовом государстве1.
Беседа главного редактора «L'Osservatore Romano» с президентом компании Microsoft очень показательна. Давая пространные, редко прямые, ответы на поставленные вопросы, Б. Смит привлёк внимание собеседника к теме коллективной ответственности, ответственности государства и всего гражданского общества за развитие и внедрение систем ИИ, как бы отходя в тень. Сам же он в известном смысле «умыл руки», сославшись на то, что «развитие технологий есть разновидность эволюции человечества» и, следовательно, объективная данность, неуправляемая величина, изменить которую уже практически невозможно. Такая же, как способность машин к самообучению и принятию решений.
Подобная позиция, часто высказываемая представителями мира IT-индустрии, встретила жёсткий отпор католической общественности. Думается, однако, что речь идёт о том трагическом, глубоком «разрыве» между гуманитарно-теологическим и научным знанием, о котором говорил папа Франциск. IT-специалисты нередко подразумевают под этикой искусственного интеллекта формализацию понятия этических норм2, «выбор соответствующего математического аппарата3 для работы с этими формами: сопоставления, измерения, анализа», наконец, верификацию параметров ИИ на соответствие этическим нормам4, считают отечественные исследователи В.Э Карпов, П.М. Готовцев, Г.В. Ройзензон. Что же касается людей церкви, то они понимают под этикой ИИ «этичность» его применения, сопряжённые с этим риски и даже тестирование разработчиков на предмет соответствия нормам христианского нравственного учения.
Этический вызов
Этой теме посвящена статья Антонио Спадаро, главного редактора авторитетного католического научного журнала «La Civilta Cattolica», написанная в соавторстве с П. Тумей. «Алгоритмы не нейтральны, - пишут авторы. - Разработчики, будучи людьми, не беспристрастны; их предубеждения, предрассудки, предпочтения вольно или невольно влияют на то, что принято считать "независимым алгоритмическим процессом". Именно поэтому церковь считает большой ошибкой тенденцию видеть в искусственном интеллекте "нечто независимое" от вмешательства человека в области конструирования, шифрования, внедрения данных и их использования»5.
Подобное убеждение, по сути дела, освобождает индивида от ответственности за конечный продукт. А между тем software, программные обеспечения, используемые в ходе приёмных экзаменов в высших учебных заведениях, в банковской сфере, в сфере потребления, могут в буквальном смысле изменить судьбу личности. Моделируя решение человека так, что он подчас не отдаёт себе в этом отчёт, искусственный интеллект наделяет колоссальной властью своих разработчиков, что неминуемо выводит на повестку дня вопрос о социальной справедливости и равных возможностях6. Не случайно, как отметили М. Келли и П. Тумей в
1 Ibid.
2 Разин А.В. Этика искусственного интеллекта // Философия и общество. 2019. №1. С. 60.
3 Ройзензон Г.В. Проблемы формализации понятия этики в искусственном интеллекте // XVI национальная конференция по искусственному интеллекту с международным участием КИИ-2018 М., 2018. С. 251.
4 Карпов В.Э, Готовцев П.М., Ройзензон Г.В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. 2018. №2(87). С. 94.
5 Spadaro A., Twomey P. Intelligenza artificiale e giustizia sociale...
6 Ibid.
статье «"Big data" и этический вызов», опубликованной на страницах того же журнала «La Civilta Cattolica», в XXI в. категория «обездоленных» пополнилась. «Бедными» сегодня следует считать не только тех, у кого нет денег, но и людей, не сведущих в технологии, необразованных, наивных и эксплуатируемых1.
В условиях бурного развития технологий пристальное внимание, с которым католическая общественность следит за использованием искусственного интеллекта, вполне объяснимо. Системы ИИ затрагивают не только сферы деятельности человека, но и его самого, его тело, более того, работают автономно. Часть из них представляет собой, по сути дела, «модель человеческого мозга из искусственных нейронов», а подчас такие интеллектуальные системы, которые применяются в «ранее считавшихся недоступными для формализации и алгоритмизации сферах человеческой деятельности», например, в правоохранительной системе, экспертной криминалистике2. Системы, основанные на нейронных сетях глубокого обучения и самообучения, выходят за пределы ответственности человека. Интеллект, который «не является ни человеческим, ни тем более биологическим, ставит глобальные вопросы перед специалистами в области метафизики, эпистемологии, этики и политической теории», - убеждены А. Спадаро и П. Тумей. В обществе, которое не сумеет достойно и грамотно ответить на вызов ИИ, «слуга рискует стать господином» .
В сложившейся ситуации католическая церковь видит свою задачу в том, чтобы открыто заявлять о своей позиции, наблюдать за действием ИИ-систем на рабочих местах, в школах и больницах. Чрезвычайно важно помочь людям «приспособиться» к искусственному интеллекту, минимизировать риски, нести ценности Евангелия, этики, социальной справедливости, общего блага представителям технической элиты - экспертам и инженерам, тем, кто непосредственно занят в области программирования, сбора и селекции данных4. Речь идёт, таким образом, об евангелизации человечества на принципиально новом этапе его развития в XXI в.
* * *
Не умаляя преимуществ, которые принесли миру новые технологии, Ватикан не скрывает беспокойства по поводу безудержного развития искусственного интеллекта. Появление систем, основанных на нейронных сетях глубокого обучения и самообучения, машин, многократно опережающих людей в скорости принятия решения, по мнению католических учёных-теологов, со временем может не только вытеснить человека из многих сфер занятости, но и детерминировать его потребительские предпочтения, привычки, общение, даже судьбу, посягнуть на неприкосновенность privacy. Католические иерархи утверждают, что концентрация метаданных, власти и богатства в руках немногих, «непрозрачность» системы грозит обострением социальных противоречий и может привести к ущемлению демократических прав и свобод европейских сообществ.
Признавая, что на нынешнем этапе своей истории человечество не мыслит себя вне технологии, католические философы и богословы, тем не менее, не готовы доверить разработку этики искусственного интеллекта техническим специалистам. Недоверие служителей церкви служителям науки объясняется, по-видимому, бытующим в обществе представлением о моральной нейтральности науки, разграничении компетенций научной и правовой сфер. Этому
1 Kelly M., Twomey P. I «big data» e le sfide etiche // La Civilta cattolica. 2018.Vol.II. P. 446.
2 Шаповалова Г.М. Искусственный интеллект - технологии будущего человечества: «цифровая культура» в контексте «цифровой этики». Догмат в решении этических проблем // Балтийский гуманитарный журнал. 2019. №№4(29). С. 402-403.
3 Ройзензон Г.В. Указ. соч. С. 251.
4 Там же.
способствует также и различное понимание сути этики искусственного интеллекта: учёные озабочены переводом этических понятий на язык машины, богословы - самой «этичностью» применения ИИ. По мнению церковных иерархов, создание подлинно этического кодекса ИИ возможно только при участии всего гражданского общества и католической церкви, которая руководствуется в этом вопросе нормами христианской морали и принципами Социальной доктрины - принципами общего блага, социальной справедливости, субсидиарности, солидарности, достоинства человеческой личности.
Список литературы
Карпов В.Э, Готовцев П.М., Ройзензон Г.В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. 2018. №2(87). С. 84-105. DOI: 10.30884/jfio/2018.02.07.
Разин А.В. Этика искусственного интеллекта // Философия и общество. 2019. №1. С. 5773. DOI: 10.30884/jfio/2019.01.04.
Ройзензон Г.В. Проблемы формализации понятия этики в искусственном интеллекте // XVI национальная конференция по искусственному интеллекту с международным участием КИИ-2018. М, 2018. С. 245-252.
Шаповалова Г.М. Искусственный интеллект - технологии будущего человечества: «цифровая культура» в контексте «цифровой этики» // Балтийский гуманитарный журнал. 2019. №4(29). С. 402-406. DOI: 10.26140/bgz3-2019-0804-0094.
Ястреб Н.А. Как проблема персональных данных меняет этику искусственного интеллекта? // Философские проблемы информационных технологий и киберпространства. 2020. №1(17). С. 29-44. DOI 10.17726/philIT.2020.1.3.
References
Karpov, V.E., Gotovtsev, P.M., Roysen, G.V. (2018) K voprosu ob etike i sistemakh iskusstven-nogo intellekta [On the question of ethics and artificial intelligence systems]. Filosofia I obsthestvo [Philosophy and society]. 2(87). Р. 84-105. (In Russian). DOI: 10.30884/jfio/2018.02.07.
Kelly, M. Twomey, P. (2018) I «big data» e le sfide etiche [Big data and ethical challenges]. La Civilta cattolica [Catholic Civilization]. Vol.II. Р. 446-459. (In Italian).
Pagliaga, S. Occhio alle macchine, ormai sono biologiche [Watch out for machines, they are now organic]. Avvenire [Future]. April 21, 2020. Available at: https://www.avvenire.it/agora/pagine/ occhio-alle-macchine-ormai-sono-biologiche (accessed 13.10.2020). (In Italian).
Paliaga, S. L'intelligenza artificiale, il volto, il volto del nuovo antiumanesimo? [Artificial intelligence, the face, the face of the new antihumanism?]. Avvenire [Future]. July 6, 2019. Available at: https://www.avvenire.it/agora/pagine/lintelligenza-artificiale-il-nuovo-antiumanesimo (accessed 09.10.2020). (In Italian).
Razin, A.V. (2019) Etika iskusstvennogo intellekta [The ethics of artificial intelligence]. Filosofia i obschestvo [Philosophy and society]. 1. Р. 57-73. (In Russian). DOI: 10.30884/jfio/2019.01.04.
Roisenson, G.V. (2018) Problemy formalisatsii ponyatia etiki v iskusstvennom intellekte [Problems of formalizing the concept of ethics in artificial intelligence]. XVI natsionalnaya konferentsia po iskusstvennomu intellektu s mezhdunarodnim uchastiem KII-2018 [XVI national conference on artificial intelligence with international participation KII-2018]. Moscow. Р. 245-252. (In Russian).
Shapovalova, G.M. (2019) Iskusstvennij intellekt - tekhnologii buduschego chelochestva: «tsif-rovaya kul'tura» v kontekste «tsifrovoj etiki» [Artificial intelligence - technologies of the future of humanity: «digital culture» in the context of «digital ethics»]. Baltijsky gumanitarnij jurnal [Baltic
humanitarian journal]. 4(29). P. 402-406. (In Russian). DOI: 10.26140/bgz3-2019-0804-0094.
Spadaro, A. Twomey, P. (2020) Intelligenza artificiale e giustizia sociale. Una sfida per la Chie-sa [Artificial intelligence and social justice. A challenge for the Church]. La Civilta cattolica [Catholic Civilization]. Vol.I. P. 121-131. Available at: https://www.laciviltacattolica.it/articolo/intelli genza-artificiale-e-giustizia-sociale/ (accessed 13.10.2020). (In Italian).
Spinoglio, G. Intelligenza artificiale, le linee guida europee: pro e contra dell'approccio Ue [Artificial intelligence, the European guidelines: pro e contra of the EU approach]. Agenda Digitale [Digital Agenda]. January 14, 2019. Available at: https://www.agendadigitale.eu/cultura-digitale/in telligen za-artificiale-le-linee-guida-europee-pro-e-contro-dellapproccio-ue/ (accessed 03.10.2020).
Yastreb, N.A. (2020) Kak problema personalnikh dannykh menjaet etiku iskusstvennogo intel-lekta? [How is the problem of personal data changing the ethics of artificial intelligence?] Filo-sofskye problemy innovatsionnykh tekhnologiy i kiberprostranstva [Philosophical problems of IT and Cyberspace]. 1(17). P. 29-44. (In Russian). DOI 10.17726/philIT.2020.1.3.
«Servant» or «Master?»: Catholic Ethics and Artificial Intelligence
Author. Veronika Yazkova, Candidate of Sciences (History), Senior research fellow, Center for the study of problems of religion and society, Department of social and political studies, Institute of Europe, Russian Academy of Sciences. Address: 11-3, Mokhovaya str., Moscow, Russia, 125009. E-mail: [email protected].
Abstract. The article deals with the attitude of the Vatican and Catholic community to various systems of artificial intelligence (AI), ethical standards of its use in context of the common good and social fairness. Catholic hierarchs assert that the situation case when the information offered by BigData, power and also wealth are concentrated in hands of quite, pretty, relatively few powerful people tends to aggravate social contradictions and conflicts. Moreover, it can provoke an infringement of civil rights and democratic freedom in European communities. The «Rome Call» for an AI Ethics, signed in February of the 2020 by the Pontifical Academy of Life and IT industry leaders, has become a landmark policy agreement in the area of AI ethics. This document is a logical continuation of agreements like «EU guidelines on ethics in artificial intelligence» and also «Policy and investment recommendations for trustworthy AI» adopted by the European Commission in the 2019. Church hierarchs and Catholic theologians affirm that formation of AI ethical code could be accomplished only with the participation of the entire civil society and the Catholic Church, inspired by the norms of Christian morality and also by the principles of the its Social Doctrine.
Key words: artificial intelligence (AI), Catholic Church, Vatican, Roman Call, metadata, ethics, concept formalization.
DOI: http://dx.doi.org/10.15211/vestnikieran52020113120.
