CC BY
0
П. А. Сиваев
Тульский государственный педагогический университет
им. Л. Н. Толстого
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И БИОИНЖЕНЕРИЯ: ЭТИЧЕСКИЕ ПРОБЛЕМЫ ВЗАИМОДЕЙСТВИЯ
Целью статьи является этическая интерпретация основных проблем искусственного интеллекта во взаимодействии с биоинженерией. В статье рассматривается новое направление в биоинженерии, применяющей в своих разработках искусственный интеллект. Взаимодействие биоинженерии и ИИ актуализирует проблемы, требующие этической оценки и анализа. Научная новизна заключается в определении этического содержания проблем взаимодействия искусственного интеллекта и биоинженерии. В результате автор определяет основные этические аспекты проблем взаимодействия искусственного интеллекта и биоинженерии.
Ключевые слова: биоинженерная этика, этика искусственного интеллекта, применение биотехнологий, биоэтика, этические аспекты биоинженерии, профессиональная этика ученого, этос науки, этика науки
P. A. Sivaev
Tula State Lev Tolstoy Pedagogical University
(Tula, Russia)
ARTIFICIAL INTELLIGENCE AND BIOENGINEERING: ETHICAL ISSUES OF INTERACTION
The purpose of the article is an ethical interpretation of the main problems of artificial intelligence in interaction with bioengineering. The article examines a new trend in bioengineering that applies artificial intelligence in its developments. The interaction of bioengineering and AI raises issues that require ethical assessment and analysis. The scientific novelty lies in determining the ethical content of the problems of interaction between artificial intelligence and bioengineering. As a result, the author identifies the main ethical aspects of the problems of interaction between artificial intelligence and bioengineering.
Keywords: bioengineering ethics, ethics of artificial intelligence, application of biotechnologies, bioethics, ethical aspects of bioengineering, professional ethics of a scientist, ethos of science, ethics of science.
DOI 10.22405/2304-4772-2024-1 -2-120-129
В современном мире биоинженеры, под влиянием динамичного техногенного развития общества, все чаще включают в технологии системы искусственного интеллекта, что открывает перед учеными новые горизонты для научных исследований и технологических инноваций. Однако вместе с этим возникают и серьёзные этические вопросы, которые требуют тщательного анализа. В данной статье предполагается решить следующие задачи:
• проанализировать проблемы этики искусственного интеллекта в контексте биоинженерных технологий, как часть прикладной этики;
• обозначить этические проблемы биоинженерии с позиций профессиональной этики;
• определить наиболее проблемные этические аспекты взаимодействия искусственного интеллекта и биоинженерии.
Проблемы этики искусственного интеллекта в контексте биоинженерных технологий, как часть прикладной этики
Модели искусственного интеллекта (Далее - ИИ), интегрированные в нашу жизнь, делают ее проще и удобнее, позволяют не затрачивать энергию и время на то, с чем ученому приходилось трудно и продолжительно работать с более низким коэффициентом успешного результата. Системы ИИ порождают более новые биотехнологии. Применяя ИИ, ученые могут с большей четкостью исследовать биологические соединения, материалы, интерпретировать их, предсказывать их реакцию на внешние раздражители. Существует ряд технологий, получивших свое особое развитие при помощи ИИ, которые обуславливают необходимость изучения проблем последнего в биоинженерии как части этики ИИ и робототехники [9]. Таковыми являются несколько типов технологий, как:
- технологии генетической инженерии (Системы редактирования геномов TALENs, MEF2C; CRISPR/Cas9, в 2024 - библиотека белковых кластеров ОрепСКЛ^РК-1), которые направлены на редактирование генов, исправление вредных генетических мутаций в стволовых клетках ее на стадии эмбриона. ИИ в данной системе расширяет возможности модификации организмов, активируя новые функции, ранее недоступные ученым. К примеру, с помощью ИИ ученые создали библиотеку ОрепСКЛ^РЯ-1, в которой имеется в 4,8 раз больше сгенерированных белковых кластеров, чем существует в природе. ОрепСЯ13РК-1 основан на больших языковых моделях, обучаемых работе с биологическим разнообразием. Данная технология демонстрирует успешное и максимально точное редактирование генома человека. Сейчас ОрепСКЛ^РЯ-1 имеется в открытом доступе, а это значит, что данной технологией могут пользоваться научно-исследовательские центры и коммерческие проекты. Этическим риском возможности пользования данными разработками является использование открытых данных в негативных целях (например, для создания нелегального биологического оружия или же проведение дополнительных нелегальных, подпольных и нарушающих моральную сторону экспериментов).
Этическими аспектами технологии генной инженерии являются непредсказуемые последствия их применения (мутация, развитие новых заболеваний, усиление существующих), дискриминация и неравенство (создание «дизайнерских детей» (идеальных), улучшение генов только тех, кто способен оплатить данную операцию), нарушение прав человека (соответствие стандартам или нормам определенного общества, при которых человек под давлением обязан редактировать свои гены, что нарушает его права на неприкосновенность, свободу выбора и самоопределение), религиозные и культурные аспекты (противоречие культурным и религиозным убеждениям),
детский вопрос (насколько этично применять данные технологии к еще не родившемуся ребенку, то есть без его согласия), зависимость [8].
- технологии чипирования (компании Neuralink, Blackrock Neurotech, Precision Neuroscience, Synchron) предполагают вживление в мозг человека чипа, после калибровки, которого человек может управлять компьютерными системами без применения ручных средств (дистанционно, силой мысли). Операции по вживлению проводятся под местной анестезией с применением робота-хирурга (человеческий фактор при операции снижен к нулю). Пациенты, которым успешно вживили чип в мозг, положительно отзываются о новых возможностях взаимодействия с реальным миром. Однако, существует ряд исследований, доказывающий обратный эффект, когда пациенты теряли чувство самоидентичности, уверенности и автономности, регистрировались попытки самоубийства [7]. Изначально предполагалось создание таких технологий для восстановления способностей парализованных пациентов взаимодействовать с внешним миром. Помимо парализованных пациентов к применению технологии хотят прибегнуть более тысячи здоровых человек, которые желают улучшить свои когнитивные способности и память. Компании, в особенности Neuralink, работают над развитием технологии интерфейса «компьютер-мозг» для управления памятью мозга подобно памяти компьютера, обмена мыслями и информацией. Относительно последнего, компании работают над повышением уровня общения мыслями без необходимости говорить или писать. К такому результату компания планирует прибегнуть, создав симбиоз людей и машин при помощи искусственного интеллекта.
Рисками развития подобной технологии являются биологическая опасность, заключающаяся в организации действий вне предписанных правил; аспект защиты данных, которые через электрические сигналы могут уйти в руки злоумышленников (или аспект «взлома мозга»); поломка устройства, которая будет требовать его замены, что чревато дополнительными, не гарантирующими успеха медицинскими вмешательствами; прекращение финансирования или закрытие компании, поддерживающей функционирование чипа, которое будет свидетельствовать об утрате пациентами своих возможностей при имеющемся чипе в мозге (участники исследований, использующие чип, после его удаления погрузились в депрессию); проблема киберпсихоза.
Чипирование затрагивает ряд этических проблем. Среди таковых являются:
- задействование в экспериментах животных, большое число которых получило смертельные травмы во время процедур, бактериальные инфекции из-за вживления инородного тела в мозг, а также токсического влияния на ткани мозга вещества, применяемого при вживлении;
- кризис идентичности, выражающийся в размывании границ между реальным и идеальным;
- увеличение уровня социального неравенства и несправедливости;
- утрата контроля над личными данными;
- нарушение конфиденциальности и личной неприкосновенности;
- технологии дополненной и виртуальной реальности (англ. Л^теШ^геа1^ (ЛЯ) - дополненная реальность, virtualreality (УЯ) -виртуальная реальность) позволяют воссоздать искусственным образом несуществующие элементы в реальном мире через полное погружение в виртуальную реальность (УЯтехнологии) или дополнение действительной реальности элементами виртуальной (ЛЯтехнологии). Активно используются в медицине для более детального изучения болезни, хода лечения, отработки практических навыков при обучении. Применяются в таких направлениях, как:
- реабилитология (создание эффекта плацебо посредством замены реальности, в которой человек с ампутированной рукой видит ее существующей, что позволяет снизить эффект фантомных болей и улучшения психоэмоционального состояния больного);
- психотерапия (воссоздание проблемной ситуации в виртуальной реальности, что позволит пациенту отработать травматическую ситуацию);
- кардиология, нейрохирургия (моделирование патологического процесса с физиологической точки зрения, визуализация предстоящего хода операции);
- диагностика нейродегенеративных и неврологических заболеваний (восстановление забытых моментов, адаптация к сложившейся ситуации, калибровка сенсоров в физической реальности через виртуальную) [5].
Этическими проблемами использования дополненной и виртуальной реальностей являются:
- нестабильность работы оборудования;
- негативное воздействие на здоровье (побочные эффекты из-за высокой чувствительности к визуальным эффектам);
- ограничения для определенных групп пациентов, нарушение конфиденциальности (необходимо обеспечить защиту данных пациентов от несанкционированного доступа);
- этичность использование информации (насколько этично будет использование информации для принятия решений о лечении или других процедур);
- зависимость от технологии;
- искажение восприятия реальности;
- изменение характера взаимодействия между врачом и пациентом (снижение качества медицинской помощи или уровня доверия пациентов к врачам);
- неравенство в доступе;
- снижение качества традиционного медицинского образования.
Резюмируя проанализированные типы технологий, выделим общие
этические для всех них проблемы:
- отсутствие прочной доказательной базы эффективности и безопасности;
- высокий риск причинения вреда здоровью пациента при применении систем искусственного интеллекта по сравнению с обычными медицинскими изделиями;
- повышенный риск сбоя метрик точности систем искусственного интеллекта при их внедрении в реальную клиническую практику;
- ответственность за ошибочные решения, принятые медицинским работником на основе рекомендаций искусственного интеллекта;
- проблема «черного ящика»;
- страхи перед системами искусственного интеллекта;
- конфиденциальность медицинской информации, проблема социального неравенства [3, с. 47].
Этические проблемы биоинженерии с позиций профессиональной этики
Стремительное увеличение количества и улучшение качества технологий расширяет сферы деятельности инженера, каждая их которых имеет свою специфику и широкий спектр моральных проблем, с которыми ученому приходится встречаться каждый день. Это обуславливает появление самостоятельных инженерных этик. Одной из видов выделившейся этики является этика биоинженерии, как вид профессиональной этики, находящейся на стыке этики ученого и этики инженера. Биоинженерия является совокупностью технологических процессов, производимых в целях изменения, проектирования, конструирования живых организмов. Стремительное развитие биотехнологий привело к вопросу об этичности разработки данных технологий и их дальнейшей реализации. Если цели биоинженерии соответствуют целям инженерии, то мы можем дать следующее определение этики биоинженерии -это совокупность моральных принципов и норм, которыми руководствуются инженеры при разработке биотехнологий и дальнейшей работе с ними. Основополагающими принципами этики биоинженерии являются осознание ответственности за результаты своей работы, уважение к жизни и достоинству человека, справедливость и равенство, доступность новых технологий. Помимо этого, при разработке новейших биотехнологий ученый должен учитывать этические аспекты генной инженерии и клонирования, которые подразумевают собой соблюдение границ допустимого вмешательства в генетический код человека и не нарушение его идентичности [6].
Однако, существует ряд проблем, которые придают глобальную значимость этике.
С религиозной точки зрения, вмешательство в процессы функционирования живых организмов уже является нарушением устоявшихся религиозных моральных принципов. Вмешательство в естественный ход вещей, в этом смысле, может рассматриваться как осуществление действий, право на которые есть только у Бога. Писание предостерегает от подобного (например, Библия, Бытие, глава 3, когда человечество восстало против Божьего плана). Помимо этого, стремление к изменению человека мотивировано отвержением Бога.
Необходимо отметить и этико-социальные особенности современной науки. Сегодняшняя специфика этоса науки заключается в сочетании науки и
корпоративной деятельности на рынке знаний и технологий. Несмотря на сохранение в самосознании ученых моральной и методологической значимости классических принципов, сформулированных Робертом Мертоном, в ситуациях, где ученый начинает играть роль бизнесмена, начинают превалировать принципы Иена Митроффа, которые являются прямо противоположными. Среди данных принципов можем выделить такие, как:
- корпоративный эгоизм (знания является собственность корпорации. Они патентуются и могут быт проданы другим представителям научного сообщества);
- партикуляризм (оценка значимости достижений строится на практической полезности для корпорации или исследовательского института, в котором ученый работает);
- заинтересованность (научные исследования мотивированы интересом получения прибыли. Истина - сопутствующий момент в процессе получения экономической пользы);
- организованный догматизм (исследователи обязаны быть критичными к достижениям представителей других научных сообществ, однако к разработкам членом собственной команды они должны быть солидарны) [1, с.2-
3].
Выделенные принципы создают моральную проблему, а точнее конфликт интересов, с которым встречается ученый под влиянием динамично и агрессивно развивающейся техногенной цивилизации. Нарушение размеренного ритма жизни общества разрушает уже устоявшиеся культурные формы. Московский экофилософ, профессор А. Н. Тетиор справедливо заметил, что отмечаемые риски не являются краткосрочной перспективой, они покажут себя через несколько поколений, однако уже будет поздно, ибо негативный фактор научных открытий может выйти из-под контроля [1].
Основные этические аспекты взаимодействия искусственного интеллекта и биоинженерии
Современный мир, ознаменованный большими объемами данных и информации, нуждается в ее структуризации и манипуляции. Однако, адаптация к новым технологиям должна происходить постепенно, не преломляя резко устоявшиеся нормы и традиции общества. Этому могут способствовать постепенные шаги по внедрению информационных систем, которые заключаются в создании правовой и этической основы для них. Проведение экспертных советов, форумов общественников, кампаний, знакомящих людей с политикой работы с новыми системами, научных конференций. Данная рекомендация обусловлена общим принципом ответственного отношения к системам искусственного интеллекта - доверием (к производителю, к данным, к моделям, к продукту). Практическая реализация предложенного принципа позволит создать фундамент по разработке специализированного регулирования взаимодействия человека с искусственным интеллектом и разработанными на его основе современными биотехнологиями.
В этой связи необходимым представляется продолжение работы исследователей и экспертов по таким направлениям, как:
- создание критериев оценки эффективности, полезности и безопасности применения технологий искусственного интеллекта в сфере биоинженерии;
- создание экспертного сообщества, задействованного в сфере оценки данных критериев, и входящего в комитет по этике по разработке биотехнологий с применением систем искусственного интеллекта в соответствующих сферах;
- разработка и реализация дополнительных профессиональных программ по обучению сотрудников, задействованных в работе с искусственным интеллектов и экспертов, занятых в работе этических комитетов по технологиям искусственного интеллекта;
- создание отраслевых этических кодексов с включением в них кейсов (ситуаций), которые требуют нестандартного этического решения и доработка нормативно-правовых актов, регулирующих безопасность применения новейших технологий;
- регулирование вопроса ответственности при возникновении сбоя системы;
- решение и регулирование вопроса применения современных разработок в коммерческих целях;
- контроль несанкционированного доступа к рабочим данным потребителей технологий биоинженерии.
Таким образом, мы проанализировали этические аспекты и определили пути предотвращения возникающих проблем и возможностей применения достижений современной биоинженерии в контексте искусственного интеллекта, что позволяет сделать следующие выводы:
- современный мир характеризуется стремительным увеличением количества информационных технологий, в которых присутствуют алгоритмы искусственного интеллекта (например, технологии генной инженерии, чипирования и дополненной и виртуальной реальности). Искусственный интеллект позволяет оптимизировать работу, находить нестандартные решения, создавать множество новых комбинаций, которые в последующем так же при помощи систем искусственного интеллекта начинают изучаться, интерпретироваться и реализовываться. Сегодня роль человека начинает отходить на второй план, серьезные хирургические вмешательства доверяют роботизированным системам. Это обусловлено их большей четкостью и аккуратностью в производимых действиях. Традиционные религиозные ценности и представление о правах, присущих лишь Богу, трансформируются, формируя новые информационные и технологические ценности, где Богом является уже создатель самой системы. Данный процесс доказывает размывание присущих людям этических и бытийных границ. Это обуславливает создание новых этических стандартов;
- современная инженерия имеет свою специфику и моральные проблемы. Выделяющиеся из инженерии сферы требует создание отдельных отраслевых этик. Так, биоинженерия, имеющая схожие цели с инженерией и
пересекающаяся с разработкой биотехнологий, имеет своим определение совокупность моральных принципов и норм, которыми руководствуются инженеры при разработке биотехнологий и дальнейшей работе с ними;
- одними из главных рисков разработки и применения технологий биоинженерии на основе искусственного интеллекта являются неэкологичность и неэтичность эксперимента, размытие границ реальности у потребителей технологий, киберпсихоз, кража данных и манипулирование ими злоумышленниками;
- при возрастании негэнтропии в одной сфере, возрастает энтропия в другой и наоборот. Таким образом, необходимо постоянно исследовать все аспекты внедряемых технологий, которые помимо положительного, могут иметь и негативный эффект. Данное исследование должно начинаться с момента зарождения программы исследования, заканчивая внедрением ее продукта;
- этическими аспектами ученого являются: раздвоение мира ученого на 2 стороны, где существуют «наука ради науки» и «наука ради прибыли». В случаях, где ученый является наемным научным работником, его моральные установки претерпевают трансформацию в коммерческом направлении, которые вызывают конфликт интересов. Помимо этого, под влиянием динамичного техногенного развития еще одним этическим аспектом ученого является невозможность долгосрочного прогнозирования безопасности и эффективности созданных технологи. Так, становится необходимым создания экспертных сообществ, комитетов по этике, а также критериев оценки применения новейших технологий;
- последовательное, безопасное и эффективное внедрение новейших биотехнологий с применением искусственного интеллекта заключается в формировании у человека доверия к производителю, к данным, к моделям, к продукту. Это позволит реализовать изложенные выше принципы.
Литература
1. Воронцов С. А., Николаева Л. Ю. Морально-этические проблемы развития биотехнологии // Вестник молодежной науки. 2017. № 5 (12). URL: https://cyberleninka.rU/article/n/moralno-eticheskie-problemy-razvitiya-biotehnologii (дата обращения: 07.06.2024).
2. Воронцова З. И. Биоэтика как нравственно-правовой регулятор биотехнологических исследований // Общество: философия, история, культура. 2011. № 1-2. URL: https://cyberleninka.ru/artide/n/bioetika-kak-nravstvenno-pravovoy-regulyator-biotehnologicheskih-issledovaniy (дата обращения: 07.06.2024).
3. Гусев А. В., Шарова Д. Е. Этические проблемы развития технологий искусственного интеллекта в здравоохранении // Общественное здоровье. 2023. Т. 3, № 1. С. 42-50.
4. Денисов Э. И. Роботы, искусственный интеллект, дополненная и виртуальная реальность: этические, правовые и гигиенические проблемы // Гигиена и санитария. 2019. № 1. С. 5-10.
5. Намиот Е. Д. Дополненная реальность в медицине // International Journal of Open Information Technologies. 2019. Т. 7, № 11. С. 94-99.
6. Сычев А. А. Биоинженерная этика // Ведомости прикладной этики. 2015. №47. С. 84-94.
7. Gilbert F. Deep Brain Stimulation for Treatment Resistant Depression: Postoperative Feelings of Self-Estrangement, Suicide Attempt and Impulsive-Aggressive Behaviours // Neuroethics. 2013. Vol. 6. P. 473-481. URL: https://doi.org/10.1007/s12152-013-9178-8.
8. Application of CRISPR/Cas 9 to human-induced pluripotent stem cells: from gene editing to drug discovery / C. De Masi [et al.] // Human Genomics. 2020. Vol. 14. Article number 25. URL: https://doi.org/10.1186/s40246-020-00276-2.
9. M^ler V. C. Ethics of Artificial Intelligence and Robotics // The Stanford Encyclopedia of Philosophy : electronic edition / ed. E. N. Zalta, U. Nodelman. Date of publication: 30.04.2020. URL: https://plato.stanford.edu/archives/fall2023/entries/ethics-ai/.
References
1. Vorontsov S. A., Nikolayeva L. Yu. Moralno-eticheskiye problemy razvitiya biotekhnologii [Moral-ethical problems of development of biotechnology], Vestnik molodezhnoy nauki, 2017, No. 5 (12), URL: https://cyberleninka.ru/article/n/moralno-eticheskie-problemy-razvitiya-biotehnologii (accessed: 07 June 2024). [In Russian]
2. Vorontsova Z. I. Bioetika kak nravstvenno-pravovoy regulyator biotekhnologicheskikh issledovaniy [Bioethics as moral-and-legal regulator of biotechnological researches], Obshchestvo: filosofiya, istoriya, kultura [Society: Philosophy, History, Culture], 2011, No.1-2, URL: https://cyberleninka.ru/article/n7bioetika-kak-nravstvenno-pravovoy-regulyator-biotehnologicheskih-issledovaniy (accessed: 07 June 2024). [In Russian]
3. Gusev A. V., Sharova D. Ye. Eticheskiye problemy razvitiya tekhnolo-giy iskusstvennogo intellekta v zdravookhranenii [Ethical problems in the development of artificial intelligencetechnologies in healthcare], Obshchestvennoye zdorovye [Public Health], 2023, Vol. 3, No.1, Pp. 42-50. [In Russian]
4. Denisov Ye. I. Roboty, iskusstvennyy intellekt, dopolnennaya i virtual'naya real'nost': eticheskiye, pravovyye i gigiyenicheskiye problemy [Robots, artificial intelligence, augmented and virtual reality: ethical, legal and hygienic issues], Gigiyena i sanitariya [Hygiene and Sanitation], 2019, No.1, Pp. 5-10. [In Russian]
5. Namiot Ye.D. Dopolnennaya realnost v meditsine [On augmented reality in medicine], International Journal of Open Information Technologies, 2019, Vol. 7, No.11, Pp. 94-99. [In Russian]
6. Sychev A. A. Bioinzhenernaya etika [Ethics of bioengineering], Vedomosti prikladnoy etiki, 2015, No.47, Pp. 84-94. [In Russian]
7. Gilbert F. Deep Brain Stimulation for Treatment Resistant Depression: Postoperative Feelings of Self-Estrangement, Suicide Attempt and Impulsive-Aggressive Behaviours , Neuroethics, 2013, Vol. 6. Pp. 473-481. URL: https://doi.org/10.1007/s12152-013-9178-8.
8. De Masi, C., Spitalieri, P., Murdocca, M. et al. 8. Application of CRISPR/Cas 9 to human-induced pluripotent stem cells: from gene editing to drug discovery, Human Genomics, 2020, Vol. 14, Article number 25, URL: https://doi.org/10.1186/s40246-020-00276-2.
9. Mbller V. C. Ethics of Artificial Intelligence and Robotics, The Stanford Encyclopedia of Philosophy, ed. E. N. Zalta, U. Nodelman, URL: https://plato.stanford.edu/archives/fall2023/entries/ethics-ai/
Статья поступила в редакцию 08.06.2024 Статья допущена к публикации 24.06.2024
The article was received by the editorial staff08.06.2024 The article is approvedfor publication 24.06.2024
