CC BY
28
АВТОРИТЕТНОЕ МНЕНИЕ
Биоинженерные системы «человек-машина»: возможности, вызовы и угрозы
Аннотация. Рассмотрены примеры современных исследований, проводимых в рамках концепции совершенствования человека с применением технологий искусственного интеллекта, геномики, на-нотехнологий и робототехники для улучшения функциональных характеристик человеческого организма. Показано, что создание биоинженерных систем «человек-машина» может рассматриваться как супертехнология XXI в., которая способна оказать влияние на весь ход истории человечества, биосферу, а процесс ее разработки и применения может стать новой областью противостояния, началом сверхновой гонки вооружений. В связи с изложенным перспективные и прикладные исследования в данной области следует рассматривать в контексте стратегии национальной безопасности. Наряду с работами по моделированию, созданию и применению отдельных биоинженерных систем «человек-машина», следует активизировать разработку правовых, биоэтических и иных норм и правил, обеспечивающих как технологическое развитие (в заданном коридоре возможностей), так и высокий уровень безопасности (по видам) новых технологий, разработок.
Ключевые слова: концепция «совершенствование человека», биоинженерные системы «человек-машина», технологическая независимость, национальная безопасность, правовые, биоэтические и иные нормы и правила.
0.17803/2311-5998.2023.106.6.028-040
Александр Николаевич ЯВОРСКИЙ,
главный научный сотрудник Центра права и биоэтики в сфере геномных исследований и применения генетических технологий Университета имени О.Е. Кутафина (МГЮА), доктор медицинских наук, профессор 200-31-11@mail.ru 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
© Орехов С. Н., Яворский А. Н., 2023
Сергей Николаевич ОРЕХОВ,
доцент кафедры биотехнологии Первого Московского государственного медицинского университета имени И. М. Сеченова, кандидат биологических наук, доцент sorekhov@yandex.ru 119991, Россия, г. Москва, ул. Трубецкая, д. 8
УНИВЕРСИТЕТА Биоинженерные системы «человек-машина»:
имени O.E. Кугафина(МГЮА) возможности, вызовы и угрозы
Sergey N. OREKHOV,
Associate Professor of the Department of biotechnology of the First Moscow State Medical University I. M. Sechenov, Cand. Sa. (Biological Sciences),
Associate Professor sorekhov@yandex.ru 8, ul. Trubetskaya, Moscow, Russia, 119991
Alexandr N. YAVORSKY,
Chief research officer of the Center for law and bioethics in the Field of Genomic research and application of genetic technologies of the Kutafin Moscow State Law
University (MSAL), Sci. (Medicine), Professor 200-31-11@mail.ru 9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993
Bioengineering systems «man-machine»: opportunities, challenges and threats
Abstract. Examples of modern research conducted within the framework of the concept of human improvement with the use of artificial intelligence technologies, genomics, nanotechnology and robotics to improve the functional characteristics of the human body are considered. It is shown that the creation of bioengineering systems «man-machine» can be considered as a supertechnology of the XXI century, which is capable of influencing the entire course of human history, the biosphere, and the process of its development and application may turn out to be a new area of confrontation, the beginning of a «supernova» arms race. In connection with the above, prospective and applied research in this area should be considered in the context of the national security strategy. Along with the work on modeling, creation and application of individual bioengineering systems «man-machine», it is necessary to intensify the development of legal, bioethical and other norms and rules that ensure both technological development (In a given corridor of possibilities) and a high level of safety (by type) of new technologies and developments. Keywords: the concept of «human improvement», bioengineering systems «man-machine», technological independence, national security, legal, bio-ethical and other norms and rules.
Актуальность проблемы
Выдающиеся научно-технологические достижения XXI в. — расшифровка генома человека и разработка систем искусственного интеллекта — позволили перейти к созданию симбиоза человека и машины. Кроме технологии искусственного интеллекта, для создания такого симбиоза было предложено использовать комплекс супертехнологий — GNR-технологии (Genomics, Nanotechnology and Robotics — геномика, нанотехнология и робототехника).
I О m
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Теоретическое обоснование прогноза развития будущего человечества по пути создания симбиоза человека и машины сформулировал футуролог Рэй Курцвейл, который предложил обозначить это явление вероятного будущего термином «технологическая сингулярность». В книге «Сингулярность близко: когда люди выйдут за пределы биологии»1 он сделал попытку рассмотреть перспективы радикального изменения течения биологического эволюционного процесса (смоделировать процесс объединения человека и машины).
Предполагается, что биологические способности осваивать знания и навыки, заложенные природой в мозг человека, в будущем многократно усилятся за счет использования искусственного интеллекта, что обеспечит гораздо большую скорость приобретения и использования знаний для решения различных задач. Симбиоз новых технологий может стать основой для формирования новой цивилизации. Даже называется дата перехода в эпоху технологической сингулярности — 2045 г.
Независимо от отношения того или иного политика, государственного деятеля к озвученным идеям процесс использования GNR-технологий уже начался, в связи с чем к ним должен быть прикован интерес юристов, биоэтиков и др.
Возможности биоинженерных систем «человек-машина» в медицине
Первым направлением практического использования таких технологий стало создание высокотехнологичных медицинских изделий, обеспечивающих поддержание здоровья и компенсацию утраченных функций у инвалидов. Такой приоритет в применении данной передовой технологии логичен, соответствует как международным, так и национальным документам.
Так, статья 25 Конвенции о правах инвалидов от 13 декабря 2006 г.2 закрепляет право инвалидов на наивысший уровень здоровья без дискриминации. В соответствии с Федеральным законом от 21 ноября 2011 г. № 323-ф3 «Об основах охраны здоровья граждан в Российской Федерации»3, организация охраны здоровья осуществляется в том числе и путем обеспечения определенных категорий граждан медицинскими изделиями.
Развитие этого направления идет по пути создания и практического использования различных бионических протезов. Широко известно, что первая в мире бионическая рука была создана в 1993 г в Великобритании4. Искусственная рука позволяла инвалиду вести привычную жизнь.
1 Kurzweil R. The Singularity is Near: When Humans Transcend Biology, 2005. Penguin Books, 2006. 672 p.
2 Конвенция о правах инвалидов (принята Резолюцией Генеральной Ассамблеи ООН от 13.12.2006 № 61/106). Российская Федерация подписала Конвенцию 24.09.2008 (см.: Федеральный закон от 03.05.2012 № 46-ФЗ «О ратификации Конвенции о правах инвалидов» // СЗ РФ. 2012. № 19. Ст. 2280).
3 СЗ РФ. 2011. № 48. Ст. 6724.
4 Gow D. J., Douglas W., Geggie C., Monteith E., Stewart D. The development of the Edinburgh modular arm system // Proc Inst Mech Eng H. 2001. Vol. 215. № 3. P. 291—298.
УНИВЕРСИТЕТА Биоинженерные системы «человек-машина»: 3 1
имени O.E. Кутафина(МГЮА) возможности, вызовы и угрозы
Более совершенная бионическая рука была создана в 2013 г. в США. Управление осуществлялось микрочипом, имплантированным в моторную кору головного мозга. За счет новой технологии обеспечивалось преобразование мыслей, команд головного мозга в движение бионической руки, что обеспечивало пациенту способность осуществлять движения протезом как собственной рукой5.
Следует заметить, что данная биоинженерная разработка была проведена при финансировании Агентства передовых оборонных исследований при Минобороны США (DARPA). Ближайший интерес при этих исследованиях заключался в получении технологии, позволяющей успешно реабилитировать раненых военнослужащих, отдаленный — в создании биороботов и иных специальных систем военного или двойного назначения.
К настоящему времени различные модели бионических протезов созданы и российскими разработчиками6.
Исследования по созданию совершенных бионических протезов на основе перспективных интерфейсов «мозг — компьютер» продолжаются7.
Кроме задачи управления бионическими протезами, технология имплантации микрочипов в головной мозг рассматривается как перспективный подход к улучшению качества жизни пациентов с тяжелыми заболеваниями нервной системы. Активные исследования с перспективой имплантации нейробиологиче-ских интерфейсов (микрочипов) в структуры головного мозга людей для лечения пациентов, страдающих болезнью Альцгеймера, Паркинсона и т.д. проводит в США компания Neuralink8. Разрабатываются прототипы имплантируемых мысле-управляемых устройств памяти, открывающие перспективу обеспечения помощи людям, страдающим нарушениями памяти9.
Эти примеры настоящего времени и ожидаемые в ближайшем будущем достижения в разработке GNR -технологий дают основания прогнозировать ускоренное развитие биомедицинских исследований по созданию новых вариантов симбиоза «человек-машина» и их активное внедрение в широкую медицинскую практику.
Однако нельзя не обращать внимания, что наряду с позитивными тенденциями медико-социальной направленности современных и перспективных симбио-тических систем «человек-машина» имеются вызовы и угрозы.
5 Collinger J. L., Wodlinger B., Downey J. E, Wang W, Tyler-Kabara E. C., WeberD. J., et al. High-performance neuroprosthetic control by an individual with tetraplegia // Lancet. 2013. № 381. Р. 557—564. URL: https://doi.org/10.1016/S0140-6736(12)61816-9.
6 Современные протезы рук для максимально высокого качества жизни // URL: https:// motorica.org/prosthetics/upper-limb/manifesto-hand.
7 Chandrasekaran S., Fifer M., Bickel S. [et al.] Historical perspectives, challenges, and future directions of implantable brain-computer interfaces for sensorimotor applications // Bioelectron Med. 2021. Vol. 7:14. DOI: 10.1186/s42234-021-00076-6.
8 Компания Neuralink почти готова имплантировать чипы в мозги людей // URL: https://hi-news.ru/technology/kompaniya-neuralink-pochti-gotova-implantirovat-chipy-v-mozgi-lyudej. html.
9 Lee Ben-Ami, Ido Bachelet. A Thought-Operated Digital Random-Access Memory // Computational Intelligence and Neuroscience. 2019. DOI: 10.1155/2019/9684140.
I
□
m
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Концепция совершенствования человека (Human Augmentation)
В настоящее время развиваются и активно финансируются исследования, направленные на применение искусственного интеллекта и GNR-технологий для увеличения отдельных способностей и общего потенциала не столько людей, которым они показаны в силу их состояния здоровья, сколько здоровых людей, не имеющих медицинских показаний для применения сложных технических систем.
«Немедицинское» применение такого рода систем стало обосновываться концепцией совершенствования и улучшения возможностей человека с помощью науки и технологий (совершенствование человека — Human Augmentation).
Практическая реализация концепции предполагает создание биокибернетического организма (биоробота), в котором человеческое сознание объединяется с искусственным интеллектом. Ее адепты полагаются на значительное расширение человеческих возможностей (с выходом за пределы «среднего человека», его врожденных физиологических способностей, имеющегося когнитивного и физического уровня развития, обычно достигаемого в современных условиях).
В максимально упрощенной трактовке концепция совершенствования человека предполагает создание из живых людей киборгов, правдоподобное описание которых широко представлено в произведениях научной фантастики.
Термин «киборг» был впервые использован в исследовании НАСА 1960 г. о долгосрочных космических путешествиях, автором которого стали Манфред Кляйнс и Натан Клайн10.
Это название представляет собой сочетание слов «кибернетический организм», который можно определить как организм, оптимизированный за счет динамических взаимодействий органических (плоть) и биомехатронных (машинных) частей.
Высказывается мнение, что при помощи современных технологий фактически уже созданы популяции людей, которые технически являются киборгами, например пациенты с имплантируемыми кардиостимуляторами или кардиовертер-де-фибрилляторами, используемыми для поддержания жизни человека. Как известно, эти устройства измеряют потенциалы напряжения в органах, выполняют их обработку и, используя синтетические механизмы обратной связи, производят необходимую коррекцию электрических стимулов11.
Исследовательская группа Совета Министерства обороны США по биотехнологиям для улучшения здоровья и работоспособности человека (Biotechnologies for Health and Human Performance Council — BHPC) провела исследование под названием «Киборг — солдат 2050: слияние человека и машины»12. Главной задачей этой работы явилось определение потенциала «машин», которые планируется
10 Clynes M. E., Kline N. S. Cyborgs and Space // Astronautics. 1960. P. 26—76.
11 Haraway D. A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century. In Simians, Cyborgs and Women: The Reinvention of Nature. Routledge, New York, 1991. P. 149—181.
12 Cyborg Soldier 2050: Human/Machine Fusion and the Implications for the Future of the DOD. 2019 // URL: https://community.apan.org/wg/tradoc-g2/mad-scientist/rn/artides-of-interest/300458.
УНИВЕРСИТЕТА Биоинженерные системы «человек-машина»: имени O.E. Кутафина(МГЮА) возможности, вызовы и угрозы
физически интегрировать в человеческий мозг и/или тело с целью увеличения и значительного улучшения психофизических возможностей людей в течение следующих 30 лет.
Не менее важны прогноз технологического прогресса и военного потенциала вплоть до 2050 г., а также определение соответствующих этических, правовых и социальных последствий (ELSI).
Киборг-технологии, рассмотренные в этом исследовании, выходят за рамки медицины, восстанавливающей функции организма после травмы или болезни, и предназначены для приобретения сверхспособностей, ранее не свойственных человеку (за счет ряда радикальных функциональных и структурных модификаций, выходящих за рамки нормального базового уровня для людей13).
Также предполагается, что некоторые аспекты возможностей киборгов будут реализованы в дальнейшем за счет использования генной инженерии, синтетической биологии, нанотехнологий и искусственного интеллекта.
Рассмотрим некоторые направления проводимых и перспективных исследований по «совершенствованию человека» путем создания киборг-технологий.
Улучшение глазных визуальных возможностей: изображения, зрения и ситуационной осведомленности
Предполагается улучшение индивидуального зрения до такой степени, чтобы сенсорное восприятие выходило за пределы нормального видимого спектра. «Усовершенствованные» таким образом люди также будут иметь способность анализировать изображения при различной длине волн, что позволит военнослужащим различать и идентифицировать цели при ведении боевых действий в сложных географических условиях и в крупных населенных пунктах (мегаполисах).
В настоящее время солдат вынужден использовать дорогостоящую технику, склонную ломаться, теряться и проч. «Усовершенствованный» солдат, обладая уникальным сенсорным анализатором, будет в режиме реального времени собирать разведывательные данные и обмениваться ими с другими военнослужащими в составе воинского подразделения.
В качестве технологии улучшения зрения рассматриваются два варианта. В первом варианте система улучшения зрения будет воспроизводиться на тканях глаза с использованием сетчатки подобно методам, применяемым в медицинских исследованиях для лечения взрослых с прогрессирующим пигментным ретинитом14. Потоки данных будут накладываться на сетчатку и передаваться через зрительный нерв в мозг для их интерпретации. В этом случае ткань сетчатки будет изменена таким образом, чтобы воспринимать другие диапазоны волн, включая инфракрасные области.
13 Shook J. R., Giordano J. Neuroethics Beyond Normal: Performance Enablement and Self-Transformative Technologies // Camb Q Health Care Ethics. 2016. № 25. P. 121—140.
14 URL: https://www.asrs.org/publications/retina-times/details/131/fda-approves-world-first-artificial-retina (дата обращения: 30.09.2018).
I
□
m
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Во втором, более сложном варианте, который, как ожидается, будет разработан и внедрен к 2050 г., глаз будет полностью заменен искусственным прибором, способным воспринимать сенсорные данные всего спектра и вводить их через зрительный нерв непосредственно в мозг для интерпретации. Для этого необходима разработка высокоскоростных имплантируемых интерфейсов, которые будут способны передавать данные непосредственно из неорганической сенсорной системы в отдельные нейроны внутри пучка зрительного нерва.
Эти технологии улучшения зрения будут также использованы в медицине в ситуациях, когда ткань глаза была повреждена или разрушена в результате травмы или болезни.
Перспективными также являются исследования, позволяющие использовать возможности зрения некоторых животных (дальность, видение в темноте и др.). Здесь не обойдется без внедрения, замены одних генов на другие.
Улучшение слуха для общения и защиты
Потеря слуха, связанная с боевыми действиями, из-за острого или длительного воздействия звуков высокой интенсивности, таких как выстрелы, взрывы или звуки, издаваемые военной техникой, является одной из наиболее распространенных причин инвалидности военнослужащих15.
Для усиления слуховых способностей уже разработаны некоторые технологии прямой замены или модификации костного аппарата среднего уха и улитки. Внешний приемник преобразует звук в цифровой сигнал, который проходит к имплантату во внутреннем ухе, который передает электрический сигнал непосредственно к слуховым нервам. Дальнейшее совершенствование технологии может расширить диапазон сенсорного восприятия до инфразвуковых и ультразвуковых уровней, достижения способности усиливать и идентифицировать звуки низкой интенсивности.
Эта технология также способна обеспечить защиту от шумов высокой интенсивности.
Дальнейшее совершенствование улучшения слуха будет нацелено на внедрение имплантатов, которые значительно менее инвазивны и легко взаимозаменяемы. Также можно развить способности к общению с помощью воображаемой или скрытой речи.
По прогнозу ВНРС при Министерстве обороны США, до 2050 г. появится технология модификации нейронных путей, которая обеспечит не только улучшение слуха человека, но и преобразование и передачу соответствующих сигналов другим людям на большие расстояния16.
15 Yong J. S.-e., Wang D.-Y. Impact of Noise on Hearing in the Military // Mil. Med. Res. 2015. № 2. P. 1—6.
16 Nguyen C. H., Karavas G. K., Artemiadis P. Inferring Imagined Speech Using EEG Signals: A New Approach Using Riemannian Manifold Features // J. Neural. Eng. 2018. № 15 (1). DOI: 10.1088/1741-2552/aa8235.
УНИВЕРСИТЕТА Биоинженерные системы «человек-машина»: ^Э^Э
имени O.E. Кутафина(МГЮА) возможности, вызовы и угрозы
Данное усовершенствование приведет к применению технологии скрытой речи в различных областях (в разведке, в полиции и др.). Сразу же появятся попытки завладения данными технологиями представителями преступного мира (в первую очередь организованной преступностью).
Прямое нейронное усиление человеческого мозга для удаленной двусторонней передачи данных
Использование дистанционно управляемых систем вооружения и беспилотных транспортных средств на современном поле боя быстро расширяется, что позволяет проводить разведку и целеуказание для эффективного поражения инфраструктуры, техники и личного состава противника. При этом операторы обеспечивают эффективное управление полем боя на расстоянии, находясь в относительной безопасности. Однако сложность пользовательского интерфейса и ограничения в двухсторонней передаче информации затрудняют их работу.
Нейронное усиление за счет имплантации модуляторных микроэлектродов в мозг позволит осуществлять быстрое взаимодействие между машиной и оператором с помощью механизма чтения/записи17, а также быстрое и интегрированное управление передачи данных в группе операторов, решающих одну боевую задачу.
Такие «улучшенные» операторы могут включаться в команды для сил специального назначения, летчиков, операторов беспилотных летательных аппаратов (БПЛА) или беспилотных надводных аппаратов (USV), а также разведывательного персонала18.
Ожидается, что использующий нейронные имплантаты воинский контингент будет востребован в условиях сетецентрических боевых действий. На первых этапах использование «улучшенных» людей с нейрокомпьютерным интерфейсом будет ограничено масштабами небольших специализированных групп, посредством которых один или несколько таких военных будут осуществлять поддержку всего отряда, обеспечивая его взаимодействие с активами поля боя (системами вооружения, разведывательными и ударными дронами и др.).
Предполагается, что уже к 2050 г. могут быть достигнуты значительные улучшения в технологии нейронных имплантатов, в том числе снижение уровня их инвазивности. Это может быть достигнуто за счет сборки электродов в конкретном локусе мозга с использованием биосовместимых наночастиц (например, легированного оксида железа или наночастиц, которые можно позиционировать с помощью направленных магнитных полей), а также с помощью улучшения возможностей сбора сигналов с внешних электродов и процессоров.
17 An Integrated Brain-Machine Interface Platform with Thousands of Channels // URL: http:// dx.doi.org/10.1101/703801 (дата обращения: 30.09.2018).
18 Wurzman R., Giordano J. NEURINT and Neuroweapons: Neurotechnology in National Intelligence and Defense // In Neurotechnology in National Security and Defense: Practical Considerations, Neuroethical Concerns; Giordano J., ed. CRC Press : Boca Raton, FL, 2015. P. 79—114.
I
□
m
в Я УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Примеры исследований, проводимых в рамках концепции «совершенствование человека», относятся к применению GNR-технологий для улучшения функциональных характеристик отдельных органов, сформировавшихся в организме человека в процессе его биологической эволюции.
Концепция природоподобных технологий: возможности и социогуманитарные вызовы
Таким образом, спектр направлений целенаправленной трансформации организма человека с применением GNR-технологий очень широк. В более общем плане GNR-технологии могут рассматриваться в качестве элемента глобальной концепции природоподобных технологий, разработка и реализация которой осуществляется отечественными учеными19.
Под природоподобными технологиями предлагается понимать воспроизводящие системы и процессы живой природы в виде технических систем и технологических процессов, интегрированных в естественный природный ресурсооборот. Отечественные ученые, занимающиеся природоподобными технологиями, не только обращают внимание на их возможности, неизбежность развития некоторых из них, но и на принципиально новые глобальные угрозы и вызовы20.
Анализ представленных данных позволяет сделать вывод о формировании нескольких направлений технологического развития.
Гуманистическое направление развития характеризуется разработкой биоинженерных технологий для компенсации утраченных функций. Пограничное положение занимает направление радикального повышения творческих и физических способностей человека с целью повышения производительности труда и (или) качества жизни. Как правило, такие вмешательства не имеют медицинских или иных специальных показаний, осуществляются самостоятельно, на свой риск. Крайним проявлением здесь выступает движение «биохакеров», пытающихся дополнить свои возможности за счет различных биоинженерных устройств, созданных на основе GNR-технологий21.
В качестве оборотной стороны дальнейшего развития этого направления в создании симбиоза «человек-машина» просматривается новый виток реализации
19 Ковальчук М. В., Нарайкин О. С., Яцишина Е. Б. Природоподобные технологии: новые возможности и новые вызовы // Вестник Российской академии наук. 2019. Т. 89. № 5. С. 455—465.
20 См., например: проект указа Президента РФ «О Стратегии развития природоподобных (конвергентных) технологий» (подготовлен Минобрнауки России 14.06.2022).
21 См. подробнее: How biohackers are trying to upgrade their brains, their bodies — and human nature. By Sigal Samuel // URL: https://www.vox.eom/future-perfect/2019/6/25/18682583/ biohacking-transhumanism-human-augmentation-genetic-engineering-crispr ; Mokhov A. A., Svirin Yu. A., Gureev V. A., Sangadzhiev B. V., Shestov S. N. Diy Biology and Biohacking: Socio-Legal Aspect // Journal of Advanced Research in Dynamical and Control Systems. Vol. 12. № 04-Special Issue. Mar., 2020. P. 1620—1626.
УНИВЕРСИТЕТА Биоинженерные системы «человек-машина»: имени O.E. Кутафина(МГЮА) возможности, вызовы и угрозы
учения о евгенике с пессимистичной перспективой формирования будущего общества, разделенного на «идеальную расу» сверхлюдей и остальных.
Кроме того, вместо сохранения биоразнообразия, хотя и затухающих, но пока длящихся эволюционных процессов, мы можем перейти на путь сокращения биоразнообразия, начав непрогнозируемые вмешательства в сложные биологические и биосоциальные процессы.
В этой связи социогуманитарная оценка технологий, оценка их безопасности (не только технологической, экологической, но также демографической, ментальной и т.д.) в ближайшей перспективе должна стать обязательной.
Неслучайно философские и социогуманитарные аспекты создания симбиоза «человек-машина» уже являются предметом научных исследований22. Возможные сценарии взаимодействия людей и биороботов также описаны в произведениях литературы23.
Биоинженерные системы «человек-машина»: военно-технический аспект
Другим прикладным направлением развития является использование биоинженерных технологий в целях повышения обороноспособности государства. Результативность использования вооруженных сил в значительной степени зависит от человеческого фактора, который определяется способностью военнослужащих справляться с высокими физическими, умственными, психоэмоциональными нагрузками.
Успеха в боевом противостоянии могут добиться воины, которые не только сильнее, мотивированнее, но также умнее и быстрее своего противника. Именно эти характеристики закладываются военными ведомствами в технические задания по созданию прототипов биоинженерных систем «человек-машина» для боевого применения (боевые киборги).
Примером научных представлений о перспективах развития этого направления исследований стал документ, подготовленный Министерством обороны США24, а также акт, разработанный на основе двустороннего сотрудничества между Центром разработки, концепций и доктрины Министерства обороны Великобритании и Управлением оборонного планирования Бундесвера в Германии25.
22 Попова О. В. Тело как территория технологий. От социальной инженерии к этике биотехнологического конструирования. М. : Канон-Плюс, 2020. 352 с. ; Тищенко А. Д., Юдин Б. Г Социогу-манитарное сопровождение инновационных проектов в биомедицине // Знание. Понимание. Умение. 2016. № 2. С. 73—86 ; Фукуяма Ф. Наше постчеловеческое будущее: последствия биотехнологической революции / пер. с англ. М. Б. Левина. М. : ACT ; Люкс, 2004. 349 с.
23 См.: Азимов А. Я, робот. М. : Эксмо, 2019. 320 с.
24 Cyborg Soldier 2050: Human/Machine Fusion and the Implications for the Future of the DOD. 2019 // URL: https://community.apan.org/wg/tradoc-g2/mad-scientist/m/articles-of-interest/300458.
25 Human Augmentation — The Dawn of a New Paradigm A strategic implications project. dated December 2020 // URL: https://assets.publishing.service.gov.uk/government/uploads/system/ uploads/attachment_data/file/986301/Human_Augmentation_SIP_access2.pdf.
I
□
m
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
Биотехнологическое конструирование «солдата будущего» фактически становится новым вектором инновационной деятельности26, что не может не учитываться учеными, политиками, законодателем.
Оценивая перспективы развития этого направления, следует исходить из общих закономерностей процесса научного познания. Основываясь на знаниях о природе человека, сформированной миллионами лет борьбы за существование, об особенностях социального поведения человека, сформированного тысячелетиями жизни в полном конфликтов обществе, и, принимая во внимание исторический опыт человечества, логично предположить, что применение любых инновационных технологий с высокой степенью вероятности не будет ограничено исключительно гуманистическими мирными целями (в первую очередь медицинским и подобным применением).
Признанным примером научного открытия, оказавшего влияние на весь ход истории человечества, стали технологии управления и использования ядерной энергии. Следует особо отметить, что именно обладание этой супертехнологией обеспечило СССР мирное существование в XX в. С целью обеспечения нераспространения этих потенциально опасных технологий во второй половине XX в. были созданы механизмы контроля за ними на национальном и международном уровнях27.
Можно выдвинуть тезис о том, что технологии создания биоинженерных систем «человек-машина» могут рассматриваться как зарождающиеся супертехнологии XXI в.
В связи с изложенным развитие биоинженерных систем «человек-машина» должно рассматриваться двояко: как направление опережающего развития, по крайней мере, в части технологий военного применения либо двойного применения (использования отдельных разработок для медицины, здравоохранения); как комплекс технологий, обеспечивающих некоторые виды безопасности (военную, биологическую и др.).
По существу, об этом говорит и Указ Президента РФ от 02.07.2021 № 400 «О Стратегии национальной безопасности Российской Федерации»28, в п. 72 которого обращается внимание на создание образцов вооружения, военной и специальной техники, систем обеспечения безопасности, обладающих ранее недостижимыми характеристиками.
Выводы и предложения
Высокорисковый характер новых технологий создания биоинженерных систем «человек-машина» требует активизации научных исследований в области не только естественных и технических, но и социальных и гуманитарных наук.
26 Стрельников Д. О. Биотехнологическое конструирование «солдата будущего»: трансгуманистический вектор военной деятельности // Философская мысль. 2022. № 1. С. 85—95.
27 См., например: Договор о нераспространении ядерного оружия (Женева, 1 июля 1968 г.) // Ведомости Верховного Совета СССР 1968. № 14. Ст. 118.
28 СЗ РФ. 2021. № 27 (ч. II). Ст. 5351.
УНИВЕРСИТЕТА Биоинженерные системы «человек-машина»: имени O.E. Кутафина(МГЮА) возможности, вызовы и угрозы
Необходима выработка научно обоснованных рекомендаций по определению коридора возможного применения такого рода технологий, обеспечению мер по контролю (на национальном и наднациональном уровне) за ними, их нераспространением. Р. Курцвейл предлагал использовать защитные процедуры в виде системы надзора и контроля за искусственным интеллектом и новыми GNR-тех-нологиями. Полагаем, что допустимыми пока представляются исключительно медицинские показания к применению рассматриваемых технологий.
Отдельные элементы будущей системы обеспечения технологической безопасности в смежных сферах у нас имеются либо находятся на этапе формирования. В основном они касаются информационных технологий, в том числе систем искусственного интеллекта, генетических технологий. Большой опыт накоплен в области обеспечения радиационной безопасности, действия режима нераспространения ядерного оружия.
Предпринимаются попытки выработки этических норм в областях генно-инженерной деятельности, искусственного интеллекта и др.
На наш взгляд, в основу подготовки проведения этической экспертизы биоинженерных систем «человек-машина» могут быть положены универсальный подход к этике высоких технологий29, применение принципов, разработанных и апробированных для производства этической экспертизы биомедицинских исследований30. Социогуманитарная экспертиза биоинженерных систем «человек-машина» может проводиться на основе принципов, предложенных специалистами для оценки имеющихся достижений геномной медицины31.
Кроме того, необходимо ускоренное внедрение и развитие саморегулирования, самоуправления в науке, инновационной деятельности в контексте обеспечения отдельных видов безопасности (биологической, информационной и др.)32.
Успех в этом направлении науки и инновационной практики предполагает наличие четкого целеполагания, стратегического планирования, понятных сообществу долгосрочных и среднесрочных задач; оптимальной системы правового регулирования (включая дозволения, ограничения, запреты); этического обеспечения отдельных групп отношений, не подпадающих под нормативное правовое регулирование.
29 См.: Мохов А. А., Яворский А. Н. Этика высоких технологий: проблемы формирования и перспективы развития // Юрист. 2020. № 12. С. 2—8.
30 Этическая экспертиза биомедицинских исследований: руководство для комитетов по этике / под общ. ред. А. Л. Хохлова. М., 2021. С. 792.
31 Социогуманитарные контуры геномной медицины / Е. Г. Гребенщикова, М. В. Воронцова, Е. В. Брызгалина [и др.]. М. : ИНИОН РАН, 2021. 232 с.
32 Мохов А. А. Потенциал саморегулирования в области обеспечения биологической безопасности // Гражданское право. 2022. № 1. С. 41—44.
I О m
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
БИБЛИОГРАФИЯ
1. Азимов А. Я, робот. — М. : Эксмо, 2019. — 320 с.
2. Ковальчук М. В., Нарайкин О. С., Яцишина Е. Б. Природоподобные технологии: новые возможности и новые вызовы // Вестник Российской академии наук. — 2019. — Т. 89. — № 5. — С. 455—465.
3. Компания Neuralink почти готова имплантировать чипы в мозги людей // URL: https://hi-news.ru/technology/kompaniya-neuralink-pochti-gotova-implantirovat-chipy-v-mozgi-lyudej.html.
4. Мохов А. А. Потенциал саморегулирования в области обеспечения биологической безопасности // Гражданское право. — 2022. — № 1. — С. 41—44.
5. Мохов А. А., Яворский А. Н. Этика высоких технологий: проблемы формирования и перспективы развития // Юрист. — 2020. — № 12. — С. 2—8.
6. Попова О. В. Тело как территория технологий. От социальной инженерии к этике биотехнологического конструирования. — М. : Канон-Плюс. — 2020. — 352 с.
7. Социогуманитарные контуры геномной медицины / Е. Г. Гребенщикова, М. В. Воронцова, Е. В. Брызгалина [и др.]. — М. : ИНИОН РАН, 2021. — 232 с.
8. Стрельников Д. О. Биотехнологическое конструирование «солдата будущего»: трансгуманистический вектор военной деятельности // Философская мысль. — 2022. — № 1. — С. 85—95.
9. Тищенко А. Д., Юдин Б. Г. Социогуманитарное сопровождение инновационных проектов в биомедицине // Знание. Понимание. Умение. — 2016. — № 2. — С. 73—86.
10. Фукуяма Ф. Наше постчеловеческое будущее: последствия биотехнологической революции / пер. с англ. М. Б. Левина. — М. : ACT ; Люкс, 2004. — 349 с.
11. Этическая экспертиза биомедицинских исследований: руководство для комитетов по этике / под общ. ред. А. Л. Хохлова. — М., 2021. — 792 с.
12. Chandrasekaran S., Fifer M., Bickel S. [et al.]. Historical perspectives, challenges, and future directions of implantable brain-computer interfaces for sensorimotor applications // Bioelectron Med. — 2021. — Vol. 7:14. — DOI: 10.1186/s42234-021-00076-6.
13. Clynes M. E, Kline N. S. Cyborgs and Space // Astronautics. — 1960. — P. 26—76.
14. Collinger J. L., Wodlinger B., Downey J. E., Wang W., Tyler-Kabara E. C, Weber D. J. [et al.]. High-performance neuroprosthetic control by an individual with tetraplegia // Lancet. — 2013. — № 381. — Р. 557—564.
15. Gow D. J., Douglas W., Geggie C., Monteith E., Stewart D. The development of the Edinburgh modular arm system // Proc Inst Mech Eng H. -2001. — Vol. 215. — № 3. — P. 291—298.
16. Haraway D. A. Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century // In Simians, Cyborgs and Women: The Reinvention of Nature; Routledge. — New York, 1991. — P. 149—181.
17. Kurzweil Ray. The Singularity is Near: When Humans Transcend Biology. — 2005. — Penguin Books, 2006. — 672 p.
18. Lee Ben-Ami, Ido Bachelet. A Thought-Operated Digital Random-Access Memory // Computational Intelligence and Neuroscience. — 2019. — DOI: 10.1155/2019/9684140.
