Медицинские нанороботы в фокусе права Текст научной статьи по специальности «Право»

Научная статья

УДК 34:620.3:004

EDN: https://elibrary.ru/wnraoe

DOI: https://doí.org/10.21202/jdtl.2023.4

з

%

Check for updates

Медицинские нанороботы в фокусе права

Полина Сергеевна Гуляева

Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации г. Москва, Российская Федерация

Ключевые слова

Айзек Азимов,

здравоохранение,

медицина,

медицинский робот,

наноробот,

право,

регулирование, робототехника, цифровые технологии, этика, in vivo

Аннотация

Цели: формирование доктринальных основ и механики правового регулирования применения медицинских нанороботов, концептуализация идеи наноробототехнического права в границах его базовых дефиниций, норм безопасности, рисков, типологии устройств, юридических параметров технологических терминов. Методы: познавательный инструментарий представлен в виде интеграции общенаучных и современных специальных юридических методов (в том числе методов сравнительного правоведения, правового моделирования и юридического прогнозирования, NBICS-конвергенции), в совокупности позволяющих выделить в объекте изучения не только собственно правовые, но и антропологические, биомедицинские, информационные, механистические исследовательские проекции. Результаты: сформулировано авторское определение понятия медицинского наноробота; исследовано правовое содержание и квазиправовые аспекты дефиниции, имеющие значение для теоретического и прикладного развития терминологии; выявлены признаки смежных понятий (биомедицинский робот, наноробототехническая система, медицинская наноробототехническая система), и установлены логические связи между ними; проведена классификация основных видов рисков, связанных с практическим применением медицинских нанороботов; выявлен перечень теоретико-правовых противоречий, которые потенциально способны негативно повлиять на будущее развитие регулятор-ной практики; рассмотрен отечественный и зарубежный опыт правовой регламентации и доктринального осмысления проблем медицинской наноробототехники (на примере США, Японии, Европы, Китая). Научная новизна: в условиях междисциплинарного научно-исследовательского вакуума предпринята попытка комплексного рассмотрения понятия медицинского наноробота в технологическом, юридическом и коммуникативном ключе («робот-человек» в нано-масштабе) на базе передовых научных изысканий, определяющих основы будущего наноробототехнического права. Синергетическое

© Гуляева П. С., 2023

Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (CC BY 4.0) (https://creativecommons.org/licenses/by/4.0/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

развитие биомедицинских и смежных технологий, отраженное в моделях робоправа и робоэтики, рекомендовано дополнить относительно самостоятельными концептами наноробоправа и наноробоэтики. Практическая значимость: на основе анализа действующей в России и за рубежом системы правового регулирования определены механизмы совершенствования отечественного законодательства, в том числе с учетом достижений правового краудсорсинга. В рамках социо-гуманитарной проблематики формируется вклад в развитие правовой, социологической, психологической науки. Подготовлена научно-методологическая база для дальнейших юридических исследований и правотворческой деятельности в сфере медицинской наноробототехники.

Для цитирования

Гуляева, П. С. (2023). Медицинские нанороботы в фокусе права. Journal ofDigital

Technologies and Law, 7(1), 89-122. https://doi.Org/10.21202/jdtl.2023.4

Содержание

Введение

1. Медицинские роботы в макро-, микро- и наномасштабе: краткий обзор

технологических решений

2. Типы нанороботов: коммуникации человека и робота в формате in vivo

2.1. Нанороботы

2.1.1. Молекулярные устройства

2.1.2. Нанодвигатели

2.1.3. ДНК-нанороботы

2.2. Наноманипуляторы

2.2.1. Наноманипуляторы с оптическими, магнитными или акустическими пинцетами

2.2.2. Наноманипуляторы, основанные на атомной микроскопии

2.2.3. Наноманипуляторы, основанные на электронной микроскопии

2.3. Правовой конструкт в коммуникации человека и робота на уровне клетки

3. Три закона наноробототехники

3.1. Первый закон наноробототехники

3.2. Второй закон наноробототехники

3.3. Третий закон наноробототехники

4. Медицинская наноробототехника: регуляторные подходы

5. Концепт медицинского наноробототехнического права: доктринальное

осмысление

5.1. Робоправо: зарубежный и отечественный опыт

5.2. Три фундаментальные правовые проблемы будущего развития

регуляторики

5.2.1. Проблема определения правовой природы нанороботов

5.2.2. Терминологическая проблема

5.2.3. Деликтная проблема

Выводы

Введение

В результате эволюции социально-экономической сферы было сформировано пять технологических укладов: первая промышленная революция, затем эпохи пара, стали, нефти и телекоммуникаций. В 2000-х гг. ученые подтвердили, что человечество стоит на пороге следующего, шестого нанотехнологического уклада. Футурологи прогнозируют становление эры метакогнитивных технологий к середине XXI в., основой для которых станут качественно новые подходы к восприятию информации (Yuan et al., 2020; Xue, 2022). Шестой нанотехнологический уклад характеризуется конвергенцией сложных самоорганизующихся нано-, био-, инфотехнологических комплексов, порождающих усиление взаимодействия антропологической и технологической среды (Асеева, 2017; Пашенцев и др., 2021). Нанороботы, применяемые в медицине, являются особой сферой для социогуманитарного и правового исследования. Технологии, которые не подчиняются в полной мере законам макромира (законы классической физики) и применяются внутри человеческого организма, представляют интерес для ученых, в том числе в части этических аспектов и юридических рисков1.

В рамках исследования разработаны базовые концепты и общие подходы к пониманию медицинского наноробототехнического права, включая исследование теоретико-правовых проблем и классификацию рисков. В научной работе сформулированы рекомендации по внесению изменений в российское законодательство.

В статье проведен сравнительно-правовой анализ регуляторных и общетеоретических моделей; в частности, исследован опыт России, Китая, США, Японии и Евросоюза. Российские и зарубежные разработки положены в основу рекомендаций по развитию отечественной теории и практики правового регулирования.

Правовой фокус исследования раскрывает технологическую сущность феномена медицинской наноробототехники. В частности, предложены комплексные междисциплинарные подходы к содержанию понятия медицинского наноробота на основе трех законов Айзека Азимова: приоритета жизни и здоровья человека перед интересами машины, обязанности устройства заботиться о самосохранении и подчинении людям (при условии соблюдения первого и второго правил).

В результате исследования проблем понятийно-категориального аппарата проведены различия и определены дефиниции биомедицинского робота, наноробото-технической системы и медицинского наноробота.

В статье определены фундаментальные проблемы, препятствующие развитию основ регулирования медицинской наноробототехники: вопрос об определении правовой природы нанороботов, терминологическая и деликтная проблемы.

Проведена классификация правовых и неправовых рисков, связанных с будущим регулированием применения медицинских нанороботов в клинической практике. Помимо правовой неопределенности, выделены коммуникативно-этические и коммуникативно-методологические риски, а также риски в области информационной и технологической безопасности.

Автором исследования подготовлены предложения по внесению изменений и дополнений в положения п. 3 ст. 34 Федерального закона от 21 ноября 2011 г. № 323-ф3

1 Fosch-Villaronga, E., & Drukarch, Y. (2021, May). On healthcare robots. eLaw Center for Law and Digital Technologies. Leiden University, the Netherlands. https://arxiv.org/ftp/arxiv/papers/2106/2106.03468.pdf

«Об основах охраны здоровья граждан в Российской Федерации», в ст. 2 Порядка организации оказания высокотехнологичной медицинской помощи с применением единой государственной информационной системы в сфере здравоохранения, утвержденного приказом Министерства здравоохранения РФ от 2 октября 2019 г. № 824н «Об утверждении порядка оказания высокотехнологичной медицинской помощи с применением единой государственной информационной системы здравоохранения», в ст. 3 Положения об организации оказания специализированной, в том числе высокотехнологичной, медицинской помощи, утвержденного приказом Министерства здравоохранения РФ от 2 декабря 2014 г. № 796н «Об утверждении положения об организации оказания специализированной, в том числе высокотехнологичной, медицинской помощи», дополнить пунктом 6.1 Номенклатурную классификацию медицинских изделий по видам, утвержденную приказом Министерства здравоохранения РФ от 6 июня 2012 г. № 4н «Об утверждении номенклатурной классификации медицинских изделий».

Подготовлены методологические рекомендации по развитию законодательства в соответствии с иерархией нормативных правовых актов.

С точки зрения эволюции права так называемый технологический императив (Хабриева, Черногор, 2020) становится катализатором трансформации базовых концептов в юриспруденции, включая методологические подходы. Новейшие разработки интегрируют естественно-научные, технические, информационные, философские, правовые аспекты. В условиях прогрессирующей междисциплинарно-сти особую актуальность приобретают надотраслевые методы NBICS (нано-, био-, инфо- и когнитивные науки, а также социогуманитарные направления) (Жолобова, Счастливцева, 2020; Jamali et al., 2018; Sweeney, 2020).

Эмпирическую основу статьи составляют зарубежные научные работы, посвященные исследованиям в области наноробототехники, робототехники, нанотехно-логий. Список литературы также включает материалы, затрагивающие проблематику классической физики, биофизики, медицины, оптики, микрофлюидики, микробиологии. Такой подбор источников обусловлен необходимостью восполнить пробелы в терминологии как юридической, так и общенаучной. Дефиниция наноробота и медицинского наноробота является инновационной, особенно для гуманитарной и юридической сферы отечественного научного знания. Комплексный подход позволил рассмотреть технологическую природу наноробототехнических систем в правовом измерении. Междисциплинарный характер объекта исследования обусловил выбор конвергентных технологий в качестве методологической основы.

1. Медицинские роботы в макро-, микро- и наномасштабе: краткий обзор технологических решений

Медицинские роботы в последние десятилетия стали основой прорывных достижений в сфере клинической медицины (Fukuda et al., 2010). Новые технологии позволяют сопоставлять информацию о пациентах (результаты лабораторных тестов, диагностических исследований, включающих изображения, визуализацию) (Fortunato et al., 2010) и обобщенную информацию (анатомические атласы, статистика). В круг медицинских задач таких устройств входят хирургические вмешательства, реабилитация или помощь людям с ограниченными возможностями в повседневной жизни (Wenyan et al., 2022). Подобные манипуляции способна осуществлять макромасштабная медицинская робототехника, например, образцы известной фирмы

Da Vinci (Min Sun et al., 2022; Rong Liu et al., 2022). Роботы используются и непосредственно при осуществлении хирургических операций, повышают точность, ловкость, снижают фактор дрожания рук хирургов и обеспечивают возможность манипуляций с труднодоступными участками (Jamali, 2018; Norasi, 2022). Роботы значительно снижают травматизм при проведении операции, сохраняют ресурсы регенерации пациента и улучшают прогноз восстановления. В целях реабилитации послеоперационных больных или пострадавших в результате обширных нарушений были разработаны роботизированные устройства для восстановления функциональности пациентов с проблемами опорно-двигательного аппарата. Перспективным направлением в медицине стала «мягкая» робототехника, которая связана с биосовместимыми материалами и способностью механизмов к биомимикрии. Речь идет об устройствах, созданных из материалов, подобных тканям живых организмов и безопасных для работы непосредственно в контакте с человеком (Suulker et al., 2022; Bartkowski et al., 2022).

Перечисленные достижения в области разработки макромасштабной медицинской аппаратуры показывают влияние робототехники на клиническую медицину и здравоохранение. В таких условиях предполагается, что уменьшение размеров медицинских роботов позволит достигать качественно новых результатов и обеспечит открытия как в сфере клинической практики, так и в области биомедицины.

Для иллюстрации достижений мировой науки предлагается рассмотреть несколько проектов в сфере медицинской наноробототехники.

Наноробот Cyberplasm, разработанный командой медиков, биологов и инженеров, сконструирован по образцу морской миноги и, циркулируя в крови, выполняет диагностические задачи. Устройство обеспечивает свою деятельность благодаря энергии глюкозы в кровотоке2.

Проект Bacteriorobot способен автономно определять злокачественные образования, а также способствует эффективной борьбе с ними. Специалисты генетически видоизменили бактерии сальмонеллы, притягивающиеся к раковым клеткам за счет вещества, которое они выделяют. Микроскопические роботы, расположенные в бактерии, автоматически впрыскивают лекарство. Препарат поставляется непосредственно в опухоль, избегая здоровых клеток3.

Также исследователями были разработаны (Marks & Cyr, 2018):

- механический тромбоцит для образования сгустков крови у пациентов с нарушениями свертываемости;

- наноробот для обнаружения тромбов;

- нанонож для проведения хирургических вмешательств на отдельных нейронах;

- транспортный наноробот, изготовленный на основе дезоксирибонуклеиновой кислоты4 и способный доставить полезную нагрузку к клеткам-мишеням.

Поезжаева, Е. В. (2020). Искусственный интеллект в теории механизмов машин и робототехнике: учебное пособие. В 3 ч. Ч. I. Пермь: Изд-во Пермского национального исследовательского политехнического университета.

Kriorus. https://kriorus.ru/news/Yuzhnokoreyskim-uchenym-udalos-ispolzovat-nanoroboty-v-medicine

Дезоксирибонуклеиновая кислота (ДНК) - макромолекула, обеспечивающая хранение и передачу информации из поколения в поколение и реализацию генетической программы развития и функционирования живых организмов. Молекула ДНК хранит биологическую информацию в виде генетического кода, состоящего из последовательности нуклеотидов.

2

3

4

Одним из главных вызовов при разработке нанороботов до недавнего времени оставалась проблема создания нанодвигателей, а именно энергоэффективного источника питания для устройства. В 2020 г. ученые приблизились к предельным минимальным размерам, создав нанодвигатель, имеющий диаметр примерно в 100 тысяч раз меньше человеческого волоса, который состоит всего из 16 атомов и является на сегодняшний день самым миниатюрным в мире. Двигатель способен вращаться в заданном направлении. Изобретение позволяет собирать энергию на атомном уровне, например, рассеянное тепло, чтобы затем преобразовывать ее в механическое движение, которое возможно использовать в различных целях, в том числе медицинских5.

Важно отметить, что сфера медицинской наноробототехники, хотя и является инновационной, но давно вышла за пределы форсайт-дискуссии: прототипы и серийные устройства тестируются пациентами по всему миру. Несмотря на наличие некоторого отставания в развитии технологий в нашей стране, вероятно, в скором будущем подобные проекты появятся и в России, кроме того, возможно применение образцов иностранного производства.

2. Типы нанороботов: коммуникации человека и робота в формате in vivo

Научные термины «in vivo» и «ex vivo» буквально переводятся с латыни как «внутри живого организма» и «вне живого организма». Высокотехнологичная медицина предусматривает все больше атравматичных in vivo методик направленного действия, исключающих повреждение здоровых органов, тканей и даже клеток.

Согласно Федеральному закону от 21 ноября 2011 г. № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» 6, высокотехнологичная помощь представлена в виде клеточных технологий, генной инженерии, инструментов с применением роботизированной техники (ст. 34, п. 3).

Медики подтверждают, что функционал микро- и нанороботов применим для различных биомедицинских и медицинских устройств, в том числе в целях клеточных манипуляций и имитации биосигналов, адресной доставки лекарств, минимально-инвазивной хирургии, медицинской диагностики, детоксикации (J. Li et al., 2017). Микророботы применяются в масштабе от отдельных молекул до систем и органов человеческого тела. Устройства способны зондировать ионы и небольшие молекулы, в том числе белки. Наноманипуляторы на основе пинцета пригодны для обработки биологических образцов размером от нескольких нанометров (например, белки) до десятков микрометров (например, клетки). После введения нанороботов в кровеносный сосуд такие устройства, несущие молекулы вещества, перемещаются в пораженные участки в организме, а затем высвобождают лекарство. Нанодвигатели могут не только зондировать отдельные клетки, но и проходить через биожидкости в желудочно-кишечном тракте в целях выполнения задач точечной хирургии (M. Li et al., 2021).

5 Создан нанодвигатель, состоящий всего из 16 атомов и работающий на границе между классической физикой и квантовой механикой. https://www.atomic-energy.ru/news/2020/06/30/104950

6 Об основах охраны здоровья граждан в Российской Федерации. № 323-ФЗ. (2011). Собрание законодательства Российской Федерации, 48, ст. 6724.

Исследователи предполагают, что до настоящего времени не существует стандартного определения терминов «микроробот» и «наноробот», но существует точка зрения, согласно которой более общий термин «микроробот» включает все смежные понятия и характеризует устройства размером от 1 нанометра (диаметр среднестатистического атома составляет примерно 0,1 нанометра) (Diller & Sitti, 2013).

В современной литературе принято понимать под наноробототехническими системами группы устройств, обозначенные как нанороботы и наноманипуляторы (Хабриева, Черногор, 2020).

2.1. Нанороботы

Группа нанороботов включает следующие типы устройств:

- молекулярные устройства размером 1-20 нанометров, способные совершать механические движения под воздействием внешних раздражителей;

- нанодвигатели размером от 10 нанометров до 10 мюметров, которые обладают способностью использовать световую, химическую, магнитную, ультразвуковую, электрическую и иную энергию окружающей среды;

- нанороботы, сконструированные по технологии так называемого ДНК-оригами, длиной 5-100 нанометров, пригодные для транспортировки лекарств с возможностью молекулярного распознавания.

2.1.1. Молекулярные устройства

Молекулярные устройства могут функционировать за счет взаимодействия отдельных молекул размером чуть более или менее нанометра. Естественным прототипом молекулярных устройств является, например, молекула АТФ (аденозинтрифосфат)7. Ученые признают, что искусственные молекулы не заменяют естественных, но помогают осуществлять с ними желаемые манипуляции. Молекулярные устройства пригодны для работы в липидных слоях в целях переноса ионов и способны исследовать внутриклеточное пространство, проходя сквозь клеточные мембраны. Наноробот удерживается на расстоянии от поверхности при помощи своих химических свойств и способен осуществлять автономное движение, а запуск осуществляется благодаря использованию энергии окислительно-восстановительных процессов, света и тепла (Erbas-Cakmak et al., 2015; Chen et al., 2018).

2.1.2. Нанодвигатели

Нанодвигатели представляют собой наноразмерные устройства, предназначенные для выполнения отдельных механических движений (например, вращение, раскачивание, перемещение, доставка, сжатие) в ответ на определенные стимулы (Guix et al., 2014). Различные типы таких устройств широко применяются для имитации биосигналов, доставки лекарств, диагностики, изоляции раковых клеток (Wang & Pumera, 2015). Основной классификацией нанодвигателей является разделение на топливные и бестопливные механизмы. В 2015 г. был разработан

7 Аденозинтрифосфат, или аденозинтрифосфорная кислота, - универсальный источник энергии для всех биохимических процессов, протекающих в живых организмах.

магнитно-акустический гибридный бестопливный нанодвигатель8, который состоит из магнитной нанопружины и наноустройства и способен использовать энергию магнита или ультразвука. Разработка механизмов, способных работать в бестопливном режиме, является перспективной сферой научных исследований, в частности, растет интерес к использованию внешних полей, таких как магнитные, электрические, акустические или световые, для приведения в движение нано- или микроустройств (Villa & Pumera, 2019). Значительные усилия были направлены на создание двигателей с химическим приводом, основанных на поверхностном каталитическом разложении топлива, содержащегося в растворе перекиси водорода. Особое внимание было уделено каталитическим нанопроволочным и микротрубчатым двигателям. Такие устройства основаны на движущей силе пузырьков кислорода и обладают сравнительно высокой мощностью, необходимой для выполнения различных биомедицинских задач (Wang & Wei, 2012).

2.1.3. ДНК-нанороботы

ДНК-нанороботов часто относят к подгруппе нанодвигателей, которые функционируют «на базе принципов ДНК». На самом деле методика так называемого ДНК-оригами была создана в 2006 г. и представляет собой технологию, сконструированную на базе природного прототипа дезоксирибонуклеиновой кислоты. Такое устройство использует запрограммированные комбинации сотен коротких комплементарных олигонуклеотидов9. Фрагменты складываются посредством точных 2D- и 3D-форм в большую одиночную нить «каркасной» ДНК, стабилизированную тысячами пар оснований. ДНК-оригами позволяет осуществлять самосборку дискретных объектов снизу вверх с субнанометрическими точными характеристиками (размерами от нанометра до микрометра и массой молекул до гигадалтонного масштаба). С использованием ДНК-оригами был сконструирован широкий спектр функциональных статических наноструктур и динамических наноустройств (Rothemund, 2006).

2.2. Наноманипуляторы

Наноманипуляторы отличаются большими размерами по сравнению с группой нанороботов и представлены в виде:

- наноманипуляторов, оборудованных оптическим, магнитным или акустическим пинцетом, подобным концевому эффектору10, которые осуществляют бесконтактную обработку биологических образцов в наномасштабе;

- наноманипуляторов, оснащенных функционалом атомной микроскопии, которые манипулируют биологическими образцами в воздушной, жидкой и иных средах, имитируя концевой эффектор при помощи наноразмерного наконечника;

- наноманипуляторов, усиленных электронной микроскопией, которые осуществляют свою деятельность на основе электронной визуализации.

8

9

10

Разработан бестопливный наномотор. (2015, 30 июня). https://www.the-submarine.ru/news/1653

Олигонуклеотид - короткий фрагмент ДНК или РНК (рибонуклеиновая кислота), получаемый путем химического синтеза или расщеплением более длинных полинуклеотидов.

В молекулярной биологии и биохимии под термином «эффектор», или «эффекторная молекула», обычно понимается малая небелковая молекула, которая селективно связывается с теми или иными белками и регулирует их биологическую активность.

2.2.1. Наноманипуляторы с оптическими, магнитными или акустическими пинцетами

Наноманипуляторы с оптическими, магнитными или акустическими пинцетами позволяют проводить точные действия с биологическими образцами. Например, оптические пинцеты - это инструменты, основанные на плотно сфокусированном лазерном луче, который способен улавливать и манипулировать широким спектром частиц в своем фокусном пятне. С момента изобретения в 1970 г. оптические пинцеты широко применялись в таких научных областях, как атомная физика, оптика и биологические науки. Используя сильно сфокусированный луч света, оптические пинцеты могут функционировать как специальные конечные эффекторы роботов для захвата и бесконтактного перемещения объектов размером от десятков нанометров до десятков микрометров. Недавние исследования продемонстрировали возможности роботизированной системы оптического пинцета для манипуляций in vivo отдельными клетками в среде кровотока (X. Li et al., 2017).

Помимо клеток, оптические пинцеты способны манипулировать отдельными молекулами, такими как белки и нуклеиновые кислоты11, что позволяет добиться значительных успехов в исследовании структурной динамики и информации о молекулах. Молекула крепится к оптически захваченному шарику, в то время как свободный конец молекулы прикреплен к другому шарику, который удерживается в независимой оптической ловушке. Перемещение оптически захваченного шарика приводит к растяжению или расслаблению молекулы. Такие исследования дают новое представление о различных молекулярных и клеточных изменениях: например, о связывании гормона и активации рецептора, молекулярных механизмах и двигателях, напряжении плазматических мембран12 в клетках (Gardini et al., 2018).

Наноманипуляторы с магнитными и акустическими пинцетами являются объектом научных исследований в области классической физики, биофизики, оптики, ми-крофлюидики, микробиологии (Wang et al., 2022; Kuijpers et al., 2022; Jingui et al., 2020). Магнитные пинцеты в молекулярной биологии рассматриваются как аналог оптических пинцетов и представляют собой устройство, способное на манипуляции с условно тяжелыми образцами, если находятся в непосредственной близости от магнита (Neuman & Nagy, 2008). В современных условиях магнитные пинцеты используются для биологического обнаружения и адресной доставки благодаря своим уникальным характеристикам движения, способности без вреда для организма проникать через биологические ткани и возможности беспроводного дистанционного управления (Deng et al., 2023). При помощи акустического пинцета возможна трехмерная акустическая манипуляция с образцами в масштабе от миллиметра до нанометра. Акустические пинцеты представляют собой инновационную технологию, основанную на применении силы акустического излучения, создаваемого ультразвуковыми волнами (Qi et al., 2021).

11 Нуклеиновая кислота - высокомолекулярное органическое соединение, биополимер, образованный остатками нуклеотидов. Нуклеиновые кислоты ДНК и РНК присутствуют в клетках всех живых организмов и выполняют важнейшие функции по хранению, передаче и реализации наследственной информации.

12 Плазматическая мембрана (клеточная мембрана, цитолемма, плазмалемма) - эластическая молекулярная структура, состоящая из белков и липидов.

2.2.2. Наноманипуляторы, основанные на атомной микроскопии

Наноманипуляторы, основанные на атомной микроскопии, обеспечивают новый способ обработки биологических образцов, исследуемых в физиологических условиях (например, в жидкостях). Достижения последнего десятилетия показали, что такой наноманипулятор способен исследовать поведение отдельных клеток и молекул в клинических условиях. Интеграция атомной микроскопии с робототехникой позволяет создать наноробототехнический манипулятор, который может обрабатывать нанообъекты, открывая новые возможности для биомедицинского применения. На основе такой микроскопии с использованием дополненной реальности и методов тактильной и визуальной обратной связи оператор может управлять нано-зондом. Роботизированный конечный эффектор позволяет осуществлять операции с нанообъектами с помощью джойстика, точно определяя положение наконечника зонда. Устройства могут выполнять механические манипуляции: толкание, резку, деформацию, прикосновение (М. Li et al., 2019).

В сочетании с микрофлюидикой13 такая процедура позволяет зонду доставлять лекарства в отдельные клетки и манипулировать ими с помощью микроканальных кантилеверов с наноразмерными отверстиями (Guillaume-Gentil et al., 2014), а также производить электрические измерения и анализ ионов и биомолекул (Aramesh et al., 2019). Для зондирования клетки с использованием наноманипулятора, основанного на атомной микроскопии, необходимо провести иммобилизацию клеток.

2.2.3. Наноманипуляторы, основанные на электронной микроскопии

Наноманипуляторы, основанные на электронной микроскопии, открывают новые возможности для роботизированных наноманипуляций. Система электронного микроскопа включает манипулятор как устройство, несколько микроскопий («глаза»), различные конечные эффекторы, в том числе консоли и пинцет («пальцы»), и различные типы датчиков.

Для обычного электронного микроскопа характерна низкая скорость обработки изображений и небольшая область сканирования, пропускная способность при этом ограниченна (Shi et al., 2016). Кроме того, динамические процессы между наконечником и нанообъектами не могут быть непосредственно визуализированы. Сочетание робототехники с электронным микроскопом дает новый тип наноманипулятора, который визуально обеспечивает точную и быструю визуализацию и наноманипу-ляцию. Такие системы включают сканирующий электронный микроскопический наноматериал, просвечивающий электронный микроскопический наноматериал и сканирующую электронную микроскопию окружающей среды. Наноманипулятор позволяет воздействовать на отдельные биологические клетки и способен работать в газовой среде, дает возможность проводить морфологическую визуализацию биологических образцов, содержащих влагу (Muscariello et al., 2005).

13 Микрофлюидика - междисциплинарная наука, описывающая поведение малых объемов и потоков жидкостей.

2.3. Правовой конструкт в коммуникации человека и робота на уровне клетки

В научных исследованиях технологический контекст в понимании природы нанороботов нередко преобладает над правовыми и гуманитарными аспектами; по этой причине представляется особенно важным выявить юридические аспекты в содержании инновационного объекта. Правовая сущность медицинской наноробототехники раскрывается через изучение специфики общественных отношений, возникающих в результате практики применения устройств. Данные общественные отношения определяются следующими факторами:

- назначение устройств (терапевтический, диагностический, хирургический);

- субъектный состав участников разработки, обслуживания и применения устройства (медицинский персонал и специалисты с техническими компетенциями, сотрудники медицинских учреждений или организаций, занятых в производстве и обслуживании технологичных устройств);

- функционал медицинских нанороботов (прохождение сквозь среды, в том числе сквозь барьеры, транспортировка и высвобождение лекарств, таргетирование, имитация или, наоборот, удаление фрагментов, например, тромбоцитов, манипуляция биологическими образцами, детоксикация, интернализация и др.);

- качество автономности устройства (управляется непосредственно медицинским персоналом при помощи джойстика или внешнего излучения, работает на основе заложенной программы либо руководствуясь индивидуальными физиологическими показателями пациента).

Разнообразие возможностей и особые условия применения медицинских нанороботов обуславливают комплексный характер общественных отношений. Речь идет о взаимодействии робота и человека в условиях in vivo. Вопросы коммуникации наноробота и пациента, наноробота и врача, наноробота и технического специалиста, а также распределение ответственности между ними являются важнейшей сферой регулирования. Значимыми являются проблемы, связанные с применением наноустройств без волеизъявления человека, а также в условиях возможных религиозных и этических ограничений пациента или родственников.

3. Три закона наноробототехники

Для современной научной литературы, посвященной изучению роли и места цифровых инноваций в социальной реальности, характерно сочетание гуманитарных и технологических подходов. Так, в китайском исследовании отражена методология комплексного восприятия феномена микроскопических биомедицинских устройств на основе трех законов робототехники Айзека Азимова (T. Li et al., 2022). Предлагается исследовать данную модель в контексте наноробототехники.

3.1. Первый закон наноробототехники

Первый закон робототехники гласит: «Робот не может причинить вред человеку» (Azimov, 1942). В масштабе наноустройств, функционирующих в условиях in vivo, это указывает на необходимость обеспечения биосовместимости материалов, которую можно разделить на биологическую реакцию и реакцию материала. Биологическая реакция включает реакцию крови, иммунитета и тканей, возникающую в процессе

взаимодействия робота со средой. Реакция материала относится к изменениям физических и химических свойств устройства после попадания в организм человека. Согласно исследованиям, биосовместимый материал представляет собой соответствующие органические молекулы и полимеры с модулями и структурой, близкими к реальным биологическим клеткам и тканям. Биосовместимость материалов учитывает такие характеристики, как иммуногенность, токсичность используемых для изготовления веществ и отходов функционирования устройства, влияние излучений наноустройства на клетки и ткани. На современном этапе отмечается значительное количество исследований по тематике биосовместимости, а применение подобных материалов в биомедицине при разработке in vivo методик является инновационной областью научного знания (Naidoo, 2021).

В контексте обеспечения безопасности человека от угроз жизни или здоровью, а также правовых рисков, связанных с нарушением его прав, значимым является вопрос о репликации микроустройств, находящихся внутри организма пациента.

3.2. Второй закон наноробототехники

Второй закон робототехники, сформулированный для нанобиомедицины, подразумевает, что «наноробот должен поддерживать собственное существование, пока его самозащита не противоречит первому закону» (Azimov, 1942), что указывает на необходимость уклоняться от всего, что приведет к потере активности, до момента выполнения медицинской задачи.

В качестве примера можно привести китайское исследование противоопухолевого наноробота, который в обычных условиях должен пройти четыре стадии, чтобы проникнуть в опухолевые клетки (внутривенная инъекция в кровоток, накопление в месте опухоли за счет инфильтрации, эффекта удерживания или нацеливания, проникновение в опухолевую ткань, интернализация14) (Xu et al., 2017). Ученые отмечают, что на первом этапе нанороботы, вводимые внутривенно, должны обладать хорошей дисперсностью, чтобы сохранять способность циркулировать в крови в течение длительного времени. Однако, когда устройства попадают в кровь, их поверхность быстро покрывается молекулами белка, образуя «белковую корону» (Wan et al., 2021). Очевидно, что белковая корона изменит размер, стабильность и свойства поверхности нанороботов и таким образом повлияет на их способность нацеливаться, клеточное поглощение, внутриклеточный транспорт, фармакокинетику15, биологическое распределение и токсичность. Нанороботы также могут быть захвачены иммунными клетками в кровеносной системе, в тканях и органах. Препятствиями являются в том числе биологические барьеры, такие как гематоэнцефалический барьер16, осложняющий доставку некоторых видов нанороботов.

14 Интернализация (в контексте медицины) - погружение молекул внутрь клетки.

15 Фармакокинетика - раздел фармакологии, изучающий кинетические закономерности химических и биологических процессов, происходящих с лекарственным средством в организме животного или человека.

16 Гематоэнцефалический барьер участвует в поддержании систем саморегуляции мозга, защищает нервную ткань от циркулирующих в крови микроорганизмов, токсинов, различных факторов иммунной системы, которые воспринимают ткань мозга как чужеродную. Гематоэнцефалический барьер выполняет функцию высокоселективного фильтра, через который из артериального русла в мозг поступают питательные, биоактивные вещества и выводятся продукты жизнедеятельности нервной ткани.

3.3. Третий закон наноробототехники

Третий закон Айзека Азимова в измерении наноустройств заключается в том, что «наноробот должен подчиняться приказам, отдаваемым людьми, или посредством действий не допускать причинения вреда человеку, за исключением случаев, когда такие приказы или действия противоречат первому или второму закону» (Azimov, 1942). Это означает, что управляемость нанороботов включает в себя не только направление и траекторию автономного движения устройства, но также количество загружаемых лекарств и режим замедленного высвобождения вещества.

Разработано довольно большое количество способов таргетирования устройства, например, векторное поле может быть создано в физиологической среде с помощью внешнего сигнала. Тогда робот будет получать направленную движущую силу извне, чтобы управляемо перемещаться. При этом нанороботы остаются уязвимыми для вмешательства случайного броуновского движения (You et al., 2018).

В некоторых исследованиях разработаны хемотаксические17 устройства, способные «нацеливаться» в зависимости от градиента концентрации глюкозы, активных форм кислорода и факторов воспаления в физиологических поражениях (Ji et al., 2019).

Несмотря на огромный выбор способов таргетирования, невозможно предусмотреть все индивидуальные реакции организма человека при проведении медицинских процедур, например, отмечаются очевидные различия в стратегиях химического распознавания, т. е. уровни экспрессии рецепторов на поверхности пораженных клеток варьируются от индивидуума к индивидууму в зависимости от типа заболевания и патологического состояния (Taherkhani et al., 2014).

4. Медицинская наноробототехника: регуляторные подходы

Проблематика применения медицинских нанороботов является актуальной и дискуссионной темой, которая характеризуется высокими темпами обновления технологических решений. В целях предотвращения правового и административного вакуума предлагается сформулировать общие характеристики современных систем регулирования данной сферы:

- отсутствие специализированного федерального органа исполнительной власти, осуществляющего функции по выработке и реализации государственной политики, нормативно-правовому регулированию, контролю и надзору в сфере оборота и применения медицинских нанороботов;

- межведомственный характер инициатив и предложений рабочих групп, отвечающих за выработку концептуальных решений в рассматриваемой области;

- регулирование посредством подзаконных либо мягкоправовых актов;

- применение общих норм федерального законодательства о здравоохранении, например, норм о медицинских изделиях;

- проблемы юридической техники, например, отсутствие полноценного понятийно-категориального аппарата в сфере медицинской наноробототехники.

17 Хемотаксис - двигательная реакция микроорганизмов на химический раздражитель.

Международная повестка на начальном этапе была представлена деятельностью институтов Организации Объединенных Наций (далее - ООН) и отражена в докладе UNESCO 2008 г. «Нанотехнологии и этика: политика и направления деятельности»18; в документе сформулированы роль и значение нанотехнологий для мира и ООН, представлены этические, правовые и политические аспекты развития и применения инноваций, перспективы и риски для общества, науки и окружающей среды19.

В качестве примера зарубежной регуляторной практики и технологической политики предлагается рассмотреть успешный опыт Соединенных Штатов Америки (далее - США). Так, в 2000 г. была запущена Национальная нанотехнологическая инициатива20, которая стала координатором более 20 правительственных департаментов и агентств, работающих над различными проектами в данной сфере. При этом регулирование не осуществляется специальным органом, а в основном двумя ведомствами: Управлением по контролю за продуктами питания и лекарствами США (далее - FDA), которое утверждает перечень медицинских изделий, и Управлением по патентам и товарным знакам США. Под эгидой FDA в 2006 г. была создана Целевая группа по нанотехнологиям, которая инициировала разработку механизма регулирования нанороботов и связанных с ними технологий. В декабре 2017 г. соответствующий проект руководства был выпущен Центром оценки и исследований лекарственных средств FDA и Центром оценки и исследований биологических препаратов, которые предположительно применимы для регулирования нанороботов. Проект включает нормы, касающиеся лекарственных средств и биологических продуктов, содержащих наноматериалы. В документе отмечается неопределенность относительно того, применимы ли указанные нормы к нанороботам и в какой степени. В проекте отражено, в частности, как с наноматериалами можно обращаться при разработке новых лекарственных средств. При этом в документах FDA нет установленных определений терминов «нанороботы», «нанотехнология», «наноматериал» (Norasi et al., 2022).

Европейская модель регулирования робототехники, получившая известность в мире благодаря емкому концепту RoboLaw21, содержит нормы о роботах, помогающих пожилым и больным людям в реабилитации и улучшении качества жизни, а также об устройствах, направленных на восстановление и компенсацию работы органов и тканей человека, в том числе «носимые на теле и имплантируемые»22.

В Китайской Народной Республике модель регулирования робототехники представлена в таких документах, как Глобальная государственная программа развития

18 Нанотехнологии и этика: политика и направления деятельности. (2008). https://unesdoc.unesco.org/ ark:/48223/pf0000152146_rus

19 UNESCO. The ethics and politics of nanotechnologies. (2006). https://kelty.org/or/papers/Kelty_UNESCO_ Ethics_PoliticsofNano_2006.pdf

20 National Nanotechnology Initiative. (2000). https://www.nano.gov

21 RoboLaw. Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics. https:// www.robolaw.eu/projectdetails.htm

22 Civil Law Rules on Robotics European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). Resolution 2015/2103 (INL) of the European Parliament of 16 February 2017. https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.pdf

«Made in China 2025»23 и План развития робототехнической отрасли. При этом в Китае отсутствует полноценный закон о роботах или иной концептуальный документ (Незнамов, Наумов, 2017).

Первой попыткой выработки норм о нанотехнологиях в России можно считать Постановление Правительства Российской Федерации от 23 апреля 2010 г. № 282 «О национальной нанотехнологической сети»24. В документе, в частности, содержатся определения понятий «наноиндустрия», «наносистема», «нанотехнологии», «продукция наноиндустрии», «национальная нанотехнологическая сеть».

В части разработки концептуальных подходов интересным экспериментом стала Модельная конвенция о робототехнике и искусственном интеллекте 2017 г.25 Рамочный документ определяет основные термины, нормы безопасности и этики в сфере робототехники, а также общие вопросы учета и оборота устройств. В числе прочего авторами ставится вопрос о правосубъектности роботов: указано, что в гражданском обороте робот может выступать субъектом права и являться собственником другого робота.

В части регулирования робототехники, применяемой в медицине, важным является Федеральный закон от 21 ноября 2011 г. № 323-ф3 «Об основах охраны здоровья граждан в Российской Федерации»26, который, в частности, определяет в ч. 3 ст. 34 содержание понятия высокотехнологичной медицинской помощи, включающего «клеточные технологии» и применение «роботизированной техники». Отраслевые подзаконные акты полностью дублируют текст указанной нормы федерального закона27, 28.

Перечень конкретных медицинских устройств, представленный в Номенклатурной классификации медицинских изделий по видам, утвержденной приказом Министерства здравоохранения РФ от 6 июня 2012 г. № 4н «Об утверждении номенклатурной классификации медицинских изделий»29, в частности, указывает в п. 6 на «медицинские изделия для манипуляций/восстановления тканей/органов человека»30, разновидностью которых, согласно п. 6.3, являются «материалы для реконструкции тканей»31. Некоторые типы медицинских нанороботов могут быть

23 Made in China 2025: The Plan to Dominate Manufacturing and High-Tech Industrie. (2022, June 22). https:// www.fdichina.com/blog/made-in-china-2025-plan-to-dominate-manufacturing/

24 Постановление Правительства Российской Федерации № 282 от 23.04.2010. (2010). Собрание законодательства Российской Федерации, 18, ст. 2250.

25 Модельная конвенция о робототехнике и искусственном интеллекте. https://robopravo.ru/uploads/s/ z/6/g/z6gj0wkwhv1o/file/6dbrNqgu.pdf

26 Об основах охраны здоровья граждан в Российской Федерации № 323-ф3 от 21.11.2011. Собрание законодательства Российской Федерации, 48, ст. 6724.

27 Приказ Министерства здравоохранения Российской Федерации № 824н от 02.10.2019. (2019, 25 ноября). https://normativ.kontur.ru/document?moduleId=1&documentId=348761

28 Приказ Министерства здравоохранения Российской Федерации № 796н от 02.12.2014 (2015, 4 февраля). https://base.garant.ru/70859232/

29 Приказ Министерства здравоохранения Российской Федерации от 6 июня 2012 г. № 4н. (2012). Российская газета, 245.

30 Там же.

31 Там же.

отнесены к указанным наименованиям, однако для устройств, адресно доставляющих токсичные лекарства или осуществляющих хирургические задачи, такая формулировка представляется недостаточно точной и полной.

Среди проектов правовых актов можно отметить предложенный законодателю федеральный закон «Об обороте роботов, их составных частей (модулей)» (Бегишев, 2021). В документе представлен, в частности, понятийный аппарат, включающий дефиниции «робот», «робототехника», определены различные типы устройств, такие как «служебный робот» и «гражданский робот», сформулированы классификация роботов и требования к безопасности устройств, в том числе информационной. В проекте также отражены аспекты регулирования оборота военных и иных роботов специального назначения.

Вопросы регламентации применения медицинских нанороботов представляют собой комплексную область правовой регламентации, которая в достаточной степени не реализована ни на международном, ни на национальном уровне. В таком случае представляется важным подготовить научно-методологическую базу будущих законотворческих инициатив в сфере регулирования наноробототехники.

5. Концепт медицинского наноробототехнического права: доктринальное осмысление

В отечественной и зарубежной правовой доктрине не представлено достаточное количество академических статей и монографий, связанных с осмыслением роли наноробототехники, особенно медицинской. При этом существует множество работ, посвященных изучению основ регулирования робототехники и искусственного интеллекта, которые возможно экстраполировать на исследуемую область. Весь спектр подходов предлагается классифицировать следующим образом:

1. Научные работы в области отраслевого регулирования посвящены вопросам применения технологических решений и сфокусированы на гражданско-правовых и уголовно-правовых аспектах, включают вопросы ответственности, прикладной терминологии и регламентации применения устройств (Бегишев, Хисамова, 2018; Кибальник, Волосюк, 2018; Морхат, 2018a; Vale et al., 2022).

2. Научные статьи, касающиеся концептуальных подходов, в таких областях, как правовой статус автономных устройств, проблемы их гипотетической правосубъектности, прогнозирование и форсайт; данные материалы содержат положения о предлагаемых документах, фундаментальные исследования правовой природы технологий, теоретические подходы к пониманию дефиниций (Пашенцев, 2019; Khisamova & Begishev, 2019; Малько, 2019; Понкин, Редькина, 2019; Морхат, 2018b; Gellers, 2021; Mulgan, 2019).

5.1. Робоправо: зарубежный и отечественный опыт

В качестве примера зарубежных изысканий можно привести статью японского правоведа, которая пользуется особой популярностью среди ученых. В работе рассматриваются нормы законодательства и аспекты государственной политики Японии о роботах. Причиной разработок в данной сфере названа необходимость компенсировать снижение количества рабочей силы вследствие повышения среднего возраста населения. В исследовании представлен обзор правовых актов, содержащих актуальные

нормы: Закон о дорожном движении, Закон о радио, Закон о строительных стандартах, Закон об иностранной валюте и внешней торговле. Также рассмотрены вопросы правового статуса роботов, стандартизации, юридической ответственности, возникающей при использовании робототехники. В качестве медицинских устройств, значимых для японского общества и экономики, отмечены роботы-сиделки и роботы-помощники для сестринского ухода за больными или пожилыми людьми. По данной теме в работе отражены вопросы регулирования макроразмерных медицинских устройств без учета проблематики наноробототехники (Nambu, 2016).

В Японии, как и во всем мире, распространена методология так называемого робоправа, т. е. правового и этического регулирования сферы робототехники. Японская адаптация концепции к вопросам медицинских нанороботов включает меры гражданского, административного и уголовного воздействия; в частности, предложено разработать правовой механизм, сочетающий инструменты мягкого и жесткого права. В качестве нормативно-правовой базы предлагается создание единого Основополагающего закона о нанотехнологиях и робототехнике, а в части инструментов гражданского общества предложено сформировать кодекс так называемой наноэтики, или робоэтики (Katsunori, 2012).

Европейская модель робоправа исследует необходимость создания «особого случая» для робототехники из-за способности устройств к самостоятельным действиям (Palmerini et al., 2016). В зарубежной научной литературе отмечается, что наличие у программ и устройств значительной степени автономности позволяет говорить о признаках субъекта права (Mulgan, 2019; Frana & Klein, 2021).

В правовой дискуссии стран СНГ сохраняются опасения в отношении наделения автономных устройств качествами правосубъектности. В научной литературе отмечается, что автономные программы и устройства, несмотря на их инновационный характер, не следует «очеловечивать», поскольку технологии не обладают индивидуальностью, душой, сознанием, чувствами, морально и материально значимыми интересами (Понкин, Редькина, 2018). В фокусе медицинской наноробототехники вопрос об автономности видится иначе, в частности, в контексте вышеупомянутой модели, основанной на законах функционирования роботов Айзека Азимова. Критерий подчинения робота человеку и выполнения им своей функции в полном соответствии с программой или будучи управляемым можно считать важнейшим в данной сфере. В таком контексте представляется значимым вопрос о мерах безопасности и ограничениях, связанных с оборотом и применением медицинских нанороботов. Например, запрет или ограничения для так называемых репликаторов (роботов, способных к созданию собственных копий), поскольку в процессе такой деятельности возможно наступление непредвиденных и неблагоприятных последствий для здоровья или жизни пациента.

Критика робоправа основана на положении о снижении роли права и академической юридической науки в условиях цифровой трансформации. Сторонники такой точки зрения отмечают, что кодированное право вытеснит юристов и заменит их техническими специалистами. Вследствие тенденций к технологической сингулярности32 автоматизированное право займет место традиционных норм и судебных решений (Astromskis, 2018).

32 Технологическая сингулярность - гипотетический момент в будущем, когда научно-технический прогресс приведет к радикальным изменениям в функционировании человеческой цивилизации.

5.2. Три фундаментальные правовые проблемы будущего развития регуляторной среды

Актуальными инструментами развития законодательства на современном этапе являются методы правового моделирования, юридического прогнозирования и прогнозного правотворчества. В целях реализации принципов современной юридической методологии предлагается рассмотреть теоретико-правовые противоречия, которые могут негативно повлиять на развитие регуляторики в области медицинской наноробототехники.

5.2.1. Проблема определения правовой природы медицинских нанороботов

Вопросы правового статуса инновационных технологических разработок уходят корнями в дискуссию о гипотетической правосубъектности макророботов и искусственного интеллекта (Гуляева, 2022). В измерении проблематики медицинских на-ноустройств отмечаются следующие противоречия:

- проблема правового статуса медицинского наноробота с учетом степени автономности и самообучаемости устройства;

- гетерогенность правовых статусов устройств с различными техническими и функциональными характеристиками;

- вопросы разграничения содержания понятия наноробота как физического устройства либо как комплексного объекта, включающего программное обеспечение;

- сложности доктринального характера, связанные с отнесением медицинского наноустройства к категориям объекта либо субъекта права;

- применимость к нанороботу категории квазисубъекта права, а также решение вопроса о гипотетической правосубъектности устройства.

5.2.2. Терминологическая проблема

Другое значимое теоретико-правовое противоречие касается проблем, обозначенных в рамках исследования вопросов унификации понятийного аппарата информационного права (Бачило, 2015, 2017). В контексте тематики статьи речь идет о следующих вопросах:

- отсутствие структурированного понятийно-категориального аппарата и понимания разницы между смежными понятиями и категориями разного уровня, например, «биомедицинский робот», «наноробототехническая система», «медицинский наноробот»;

- двойственность, связанная с правовой идентификацией сущности наноробота и его программного обеспечения;

- большое количество технологических терминов, не относящихся к терминологии юриспруденции и смежных гуманитарных наук.

5.2.3. Деликтная проблема

Вопрос о распределении ответственности за неблагоприятные последствия деятельности медицинского наноробота раскрывает следующие теоретико-правовые аспекты:

- разграничение ответственности за последствия деятельности самого устройства и его программного обеспечения;

- разграничение ответственности за последствия применения наноробота между медицинским персоналом, техническими специалистами, разработчиками.

Выводы

Медицинские нанороботы как объект исследования представляют собой сложный комплексный феномен, включающий различные технологические, этические, юридические аспекты. Междисциплинарный характер общественных отношений, формируемых новейшими биомедицинскими технологиями, распространяется далеко за пределы смежных гуманитарных и правовых наук. Предполагается, что трансформация юридической практики в будущем потребует от юристов специальных компетенций в сфере биомедицины. Вопросы коммуникации робота и человека представляются по-новому, когда наноустройства применяются буквально внутри человеческого тела (клетки) без прямого контроля со стороны медицинских работников, а только на основе опосредованного управления устройством или заранее установленной программы.

1. Модель понятийно-категориального аппарата

В целях совершенствования юридической техники и правотворческой практики рекомендуется использовать современный юридический инструментарий, в частности, правовой краудсорсинг. Большинство проектов нормативных правовых актов содержат перечень терминов, используемых в конкретном документе; при этом дефиниции нередко дублируются, противоречат друг другу и общей логике. Представляется полезным в рамках каждой законотворческой или нормотворческой инициативы формировать перечень дефиниций и публиковать его в едином открытом документе, обновляемом на регулярной основе.

В целях подготовки проекта Тезауруса по тематике медицинской наноробототехники (далее - Тезаурус) предлагаются следующие организационно-правовые меры:

- определить субъектов (далее - оператор Тезауруса), которые направляют термины для публикации (далее - проект) и порядок регистрации личного кабинета оператора Тезауруса, включающий ссылку на проект и его статус: принято/ отклонено/в обработке;

- определить орган или структуру, которая занимается рассмотрением проектов, обобщением и публикацией терминов (далее - администратор Тезауруса);

- закрепить полномочия администратора Тезауруса в профильном нормативном правовом акте, содержащем правила о регулировании общественных отношений в сфере медицинской наноробототехники;

- в случае если администратором Тезауруса будет назначена организация, не относящаяся к органам государственной власти, назначить курирующее ведомство или должностное лицо;

- подготовить требования к проектам, вносимым в Тезаурус: название и реквизиты нормативного правового акта, перечень терминов с определениями;

- сформировать тематический рубрикатор разделов и подразделов Тезауруса;

- закрепить форматы поисковой выдачи терминов: в алфавитном порядке (по каждому документу) согласно тематике разделов и подразделов;

- указать порядок внесения изменений в опубликованные термины Тезауруса;

- рассмотреть вопрос о возможности рекомендовать или обязать субъектов право- и нормотворчества в области медицинской наноробототехники приводить терминологию разрабатываемых документов в соответствие с Тезаурусом;

- рекомендуется формировать Тезаурус с применением инструментария Legal Design.

В целях унификации понятийного аппарата предлагается проанализировать признаки медицинского наноробота и его место среди дефиниций данной категории и сформулировать предложения по внесению в Тезаурус базовых понятий медицинского наноробототехнического права: биомедицинский робот, наноробото-техническая система, медицинская наноробототехническая система (медицинский наноробот).

Биомедицинский робот:

- микро-, макро- или наноразмерное устройство;

- владеет функциями движения, перемещения, захвата и манипуляции объектом;

- способен взаимодействовать с пациентом in vivo или ex vivo в зависимости от модели и назначения;

- пригоден для терапевтических и хирургических манипуляций непосредственно под контролем медицинского персонала либо автономно в соответствии с программой.

Наноробототехническая система (медицинский наноробот):

- величина сравнима с размером молекулы (самые миниатюрные образцы состоят из нескольких десятков атомов);

- способен двигаться, обрабатывать и передавать информацию, исполнять программы;

- реализован на базе механического устройства либо живого организма;

- включает подгруппы нанороботов и наноманипуляторов (нанороботы: молекулярные устройства, нанодвигатели и ДНК-нанороботы; наноманипуляторы, оснащенные соответственно различными технологиями, например, оптическими, акустическими, магнитными пинцетами либо атомной или электронной микроскопией);

- состоит из нескольких модулей: технологических, механических, на основе живого организма, программных.

Медицинская наноробототехническая система (медицинский наноробот):

- относится к наноробототехническим системам, включающим группы нанороботов и наноманипуляторов;

- двигается, перемещается, осуществляет манипуляции в кровеносной системе человека, биожидкостях, внутри тканей и органов;

- автономность функции строго ограничена программой;

- взаимодействует с объектами в масштабе молекулы, иона, способен осуществлять манипуляции, имитировать биосигналы, доставлять лекарства конкретным клеткам, исходя из их функционального или органического состояния, осуществлять хирургические задачи, диагностику, детоксикацию;

- обеспечивает свою деятельность посредством энергии глюкозы в крови, света, тепла;

- методологически относится к группе микроустройств и может включать технологические, механические, программные модули, а также основанные на живых организмах.

Таким образом, в Тезаурус предлагается внести следующие термины:

- биомедицинский робот - это устройство, способное выполнять терапевтические, хирургические, диагностические или вспомогательные медицинские задачи как автономно, так и в качестве робота-помощника;

- наноробототехническая система - это наноразмерное устройство, включающее технологические, механические, программные модули и/или модули на основе живых организмов, и осуществляющее манипуляции в масштабе молекулы;

- медицинская наноробототехническая система (медицинский наноробот) -это наноразмерное устройство, функционирующее в условиях in vivo в достаточной степени автономно, способное получать энергию от среды (глюкоза в крови, свет, тепло, ультразвук) и осуществляющее функции движения, обработки и передачи информации, исполнения программ с целью проведения медицинских исследований или лечебных процедур, в том числе изучения биологических образцов в наномас-штабах, зондирования небольших молекул (включая белки), прохождение через биожидкости для точечной хирургии.

В условиях технологического развития актуальным является дальнейшее исследование вопроса о роли и месте медицинского наноробота в ряду робототехнических устройств. С одной стороны, макророботы, как наиболее массовая технология, образовывают нормативную основу, частично применимую к нанороботам; с другой -условия коммуникации с человеком в формате ex vivo у таких систем отличаются от устройств, функционирующих in vivo. Микророботы с регуляторной и методологической точки зрения схожи с нанороботами, но фактически имеют иной диапазон применения.

В условиях синергетического развития биомедицинских технологий и смежных инноваций предлагается дополнить концепт робоправа и робоэтики концептами на-норобоправа и наноробоэтики, с тем чтобы сформулировать ценностное содержание медицинского наноробототехнического права и объединить ученых вокруг общей идеи.

2. Риски и безопасность

Учитывая масштабы и скорость технологического развития, представляется значимым обозначить общие подходы к классификации рисков в исследуемой сфере:

- коммуникативно-этические риски (вопросы коммуникации робота и человека в условиях in vivo, а также взаимодействия пациента и медицинских работников);

- риски в области информационной и технологической безопасности (связанные с несанкционированным доступом к программному обеспечению или иным способом воздействующие на процесс функционирования устройства);

- коммуникативно-методологические риски неправового характера (измерение и толкование результатов в сравнении с консервативными методами, а также степень влияния разработчиков устройства и программного обеспечения, технической поддержки);

- правовые риски (проблемы правового статуса медицинских устройств, вопросы разграничения ответственности за неблагоприятные последствия).

К важнейшим характеристикам безопасности медицинского наноробота можно отнести биосовместимость и специфическую автономность. Биосовместимость означает не только безопасность для человека, но и для самого робота, по крайней

мере, до момента выполнения медицинской процедуры. Автономность устройства отличается от общепринятого понимания данного качества робототехники. Медицинский наноробот должен быть способен обеспечить собственную энергетическую автономность, возможность проходить через различные среды и барьеры в организме, а также избегать иммунной провокации. При этом устройство полностью подчиняется медику, чтобы оставаться безопасным для пациента.

В контексте приоритета жизни и здоровья человека актуальным является вопрос об организационно-правовом контроле за возможной репликацией33 наноро-бототехнических систем, находящихся внутри организма пациента.

3. Совершенствование законодательства

В части подходов к методологии разработки мер правового регулирования общественных отношений в сфере медицинской наноробототехники предполагается несколько принципов:

- концептуальный и опережающий характер правотворческой деятельности;

- учет трендов цифровизации правотворчества и нормотворчества при разработке подходов (Пашенцев и др., 2019);

- теоретико-правовое обоснование проектов нормативных актов;

- подготовка прогнозных моделей и правовой мониторинг на каждом этапе подготовки и реализации правовых норм;

- применение современных юридических технологий в право- и нормотворчестве (правовой эксперимент, юридическое прогнозирование, регуляторные песочницы, правовой краудсорсинг) (Залоило, Пашенцев, 2020);

- межотраслевой и междисциплинарный характер общественных отношений, связанных с применением медицинских нанороботов, позволяет предположить, что методология правотворческой деятельности в данной сфере потребует применения надотраслевых инструментов.

Предполагается, что при разработке правовых норм полезно выработать систему закрепления норм в российском законодательстве в соответствии с иерархией нормативных правовых актов:

- в федеральном законодательстве сформулировать базовые принципы регулирования (понятийный аппарат, классификацию устройств, меры безопасности, разграничение полномочий государственных органов);

- в законодательстве субъектов отразить нормы, призванные обеспечить интеграцию с локальной правовой практикой и с учетом местных особенностей, в том числе религиозных, национальных, этических;

- в подзаконных актах федеральных и региональных ведомств формулировать вариативные характеристики (например, критерии выдачи лицензии на осуществление определенных видов деятельности, связанных с применением медицинских нанороботов);

- сформировать профессиональные и этические стандарты (в сотрудничестве с профессиональными сообществами и институтами гражданского общества);

33 Репликация (в вирусологии) - это процесс самовоспроизведения нуклеиновых кислот, генов, хромосом.

- в контексте регулирования наноробототехники и особенно ее медицинского применения рекомендуется сформировать словарь технологических терминов, закрепив его в ведомственном нормативном акте.

В сфере прикладных результатов исследования предлагается ряд правовых новаций и методологических рекомендаций. В частности, рекомендуется внести изменения в ст. 34 п. 3 Федерального закона от 21 ноября 2011 года № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации», а именно дополнить перечень видов высокотехнологичной медицинской помощи формулировкой «включая медицинские наноробототехнические системы» после слов «роботизированной техники». Рассмотренные в научной работе ст. 2 Порядка организации оказания высокотехнологичной медицинской помощи с применением единой государственной информационной системы в сфере здравоохранения, утвержденного приказом Министерства здравоохранения РФ от 2 октября 2019 г. № 824н «Об утверждении порядка оказания высокотехнологичной медицинской помощи с применением единой государственной информационной системы здравоохранения», а также ст. 3 Положения об организации оказания специализированной, в том числе высокотехнологичной, медицинской помощи, утвержденного приказом Министерства здравоохранения РФ от 2 декабря 2014 г. № 796н «Об утверждении положения об организации оказания специализированной, в том числе высокотехнологичной, медицинской помощи», содержат идентичные нормы, полностью повторяющие текст вышеуказанного закона. По этой причине предлагается также внести в данные акты дополнения о наноробототехнических системах.

В целях совершенствования подзаконных актов предлагается дополнить приложение № 1, а именно Номенклатурную классификацию медицинских изделий по видам, утвержденную приказом Министерства здравоохранения РФ от 6 июня 2012 г. № 4н «Об утверждении номенклатурной классификации медицинских изделий», пунктом 6.1 «Медицинские наноробототехнические системы». Рассмотренное выше понятие наноробототехнических систем (вне контекста медицинского применения) может стать частью понятийно-категориального аппарата и номенклатурных перечней, касающихся нанотехнологий.

Предполагается, что дальнейшие меры по подготовке прикладных механизмов правового регулирования включают разработку стандартов оказания высокотехнологичной медицинской помощи в виде применения наноробототехнических систем. Рекомендуется сформулировать данные правила на основе системы стандартов, принятых в других областях медицины и зафиксированных в форме приказов Министерства здравоохранения34.

Обязательство использовать биосовместимые материалы для изготовления медицинских нанороботов и ограничение репликации устройств предлагается закрепить на уровне норм федерального закона.

Сфера наноробототехники относится к новейшему, шестому технологическому укладу, меняющему рельеф правовой реальности. Вопросы коммуникации наноробота и человека в формате in vivo становятся принципиально новой областью общественных отношений, которые формируют запрос на нормативы нового типа.

34 См., например: Приказ Минздрава России № 1468н от 24.12.2012. (2013, 10 июня). Российская газета, спецвыпуск, 123/1.

Этические правила и стандарты профессиональной деятельности выходят на первый план, не уступая в значимости гражданско-правовым и уголовно-правовым аспектам. В правовой доктрине под воздействием масштабной технологической модернизации происходит трансформация базовых концептов. Междисциплинарная методология необратимо меняет классический академический инструментарий ученого-исследователя. Образовательный процесс в юриспруденции раскрывает перспективы развития в условиях необходимости подготовки юристов, способных к правовой практике в сфере инновационной биомедицины.

Список литературы

Асеева, И. А. (2017). Аксиологические приоритеты VI технологического уклада. Эпистемология и философия науки, 51(1), 124-137. EDN: https://elibrary.ru/yqyrun. DOI: https://doi.org/10.5840/ ерэ201751114

Бачило, И. Л. (2017). Понятийный аппарат в информационном праве: сборник научных работ (с. 12-28). Москва: Канон-Плюс.

Бачило, И. Л. (2015). Понятийный аппарат информационного права: сборник научных работ (с. 8-17). Москва: Канон-Плюс.

Бегишев, И. Р., Хисамова, З. И. (2018). Криминологические риски применения искусственного интеллекта. Всероссийский криминологический журнал, 12(6), 767-775. ЕЭ^ https://elibrary.ru/ ууэ^. Э01: Ь«р8:/^окогд/10.17150/2500-4255.2018.12(6).767-775 Бегишев, И. Р. (2021). Проект федерального закона «Об обороте роботов, их составных частей (модулей)». Актуальные проблемы экономики и права, 15(2), 379-391. https://elibrary.ru/nxzfpk. Э01: https://doi.Org/10.21202/1993-047X.15.2021.2.379-391 Гуляева, П. С. (2022). Квазиправосубъектность искусственного интеллекта: теоретико-правовые аспекты. Вестник Московского государственного педагогического университета. Серия: Юридические науки, 2(46), 58-69. https://elibrary.ru/qbdkre. Э01: https://doi.Org/10.25688/2076-9113.2022.46.2.06 Жолобова, Ю. В., Счастливцева, Е. А. (2020). НБИКС-технологии и проблема антропологической эволюции.

Вестник Вятского государственного университета, 3(137), 7-19. Залоило, М. В., Пашенцев, Д. А. (ред.). (2020). Современные юридические технологии в правотворчестве:

научно-практическое пособие. Москва: ИЗиСП: Норма: ИНФРА-М. https://elibrary.ru/vtejsu Кибальник, А. Г, Волосюк, П. В. (2018). Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов. Юридическая наука и практика: Вестник Нижегородской академии МВД России, 4(44), 173-178. https://elibrary.ru/yszmpj. Э01: https://doi.org/10.24411/2078-5356-2018-10428 Малько, А. В. (2019). Проект концепции российской правовой политики в сфере искусственного интеллекта как доктринальный документ. Балтийский гуманитарный журнал, 8(29), 348-352. https://elibrary.ru/sjqbob. Э01: https://doi.org/10.26140/bgz3-2019-0804-0081 Морхат, П. М. (2018a). Правосубъектность юнитов искусственного интеллекта. Гражданско-правовое

исследование: монография. Москва: ЮНИТИ-ДАНА. Морхат, П. М. (2018Ь). Юнит искусственного интеллекта как электронное лицо. Вестник Московского государственного областного университета. Серия: Юриспруденция, 2, 61-73. https://doi. org/10.18384/2310-6794-2018-2-61-73 Незнамов, А. В., Наумов, В. Б. (2017). Вопросы развития законодательства о робототехнике в России и в мире. Юридические исследования, 8, 14-25. ЕЭ^ https://elibrary.ru/zcssfv. Э01: https://doi. org/10.25136/2409-7136.2017.8.23292 Пашенцев, Д. А. (2019). Лексико-семантические особенности языка правотворчества в условиях цифровизации. В сб. Д. А. Пашенцев, М. В. Залоило (ред.). Язык правотворчества в условиях цифровизации общественных отношений: сборник научных трудов (с. 143-148). Москва: Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации: ИНФРА-М.

Пашенцев, Д. А., Залоило, М. В., Дорская, А. А. (2021). Смена технологических укладов и правовое развитие

России. Москва: ИЗиСП: Норма: ИНФРА-М. Пашенцев, Д. А., Залоило, М. В., Иванюк, О. А., Головина, А. А. (2019). Цифровизация правотворчества: поиск новых решений: монография. Москва: Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации: ИНФРА-М, 2019. https://elibrary.ru/qrnijy

Понкин, И. В., Редькина, А. И. (2019). Цифровая формализация права. International Journal of Open

Information Technologies, 7(1), 39-48. Понкин, И. В., Редькина, А. И. (2018). Искусственный интеллект с точки зрения права. Вестник Российского университета дружбы народов. Серия: Юридические науки, 22(1), 91-109. EDN: https://elibrary.ru/ yvxkva. DOI: https://doi.org/10.22363/2313-2337-2018-22-1-91-109 Хабриева, Т. Я., Черногор, Н. Н. (2020). Будущее права. Наследие академика В. С. Степина и юридическая наука. Москва: Российская академия наук; Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации; ИНФРА-М. https://doi.org/10.12737/1112960 Asimov, I. (1942). Runaround. In Astounding Science Fiction. New York.

Aramesh, M., Forró, C., Dorwling-Carter, L., Lüchtefeld, I., Schlotter, T., Ihle, S. J., Shorubalko, I., Hosseini, V., Momotenko, D., Zambelli, T., Klotzsch, E., & Vörös, J. (2019). Localized detection of ions and biomolecules with a force-controlled scanning nanopore microscope. Nature nanotechnology, 14(8), 791-798. https://doi.org/10.1038/s41565-019-0493-z Astromskis, P (2018). In Critique of RoboLaw: The Model of SmartLaw. In V. Müller (Ed.). Philosophy and Theory of Artificial Intelligence 2017. PT-AI2017. Series Studies in Applied Philosophy, Epistemology and Rational Ethics, 44. Springer, Cham.

Bartkowski, P., Gawinski, F., & Pawliszak, L. (2022). E-Morph as a New Adaptive Actuator for Soft Robotics. IEEE

Robotics and Automation Letter, 7(4), 8831-8836. https://doi.org/10.1109/LRA.2022.3189169 Chen, S., Wang, Y., Nie, T., Bao, C., Wang, C., Xu, T., Lin, Q., Qu, D. H., Gong, X., Yang, Y., Zhu, L., & Tian, H. (2018). An Artificial Molecular Shuttle Operates in Lipid Bilayers for Ion Transport. Journal of the American Chemical Society, 140(51), 17992-17998. https://doi.org/10.1021/jacs.8b09580 Deng, X. et al. (2023). Magnetic Micro/nanorobots for biological detection and targeted delivery. Biosensors

and Bioelectronics, 222, 114960. https://doi.org/10.1016/j.bios.2022.114960 Diller, E., & Sitti, М. (2013). Micro-Scale Mobile Robotics. Foundations and Trends® in Robotics, 2(3), 143-259.

http://dx.doi.org/10.1561/2300000023 Erbas-Cakmak, S., Leigh, D. A., McTernan, C. T., & Nussbaumer, A. L. (2015). Artificial Molecular Machines. Chemical

Reviews, 115(18), 10081-10206. https://doi.org/10.1021/acs.chemrev.5b00146 Fortunato, Gabriele Maria, Batoni, Elisa, Bonatti, Amedeo Franco, Giovanni, Vozzi, & Carmelo, De Maria. (2022). Surface reconstruction and tissue recognition for robotic-based in situ bioprinting. Bioprinting, 26, e00195. https://doi.org/10.1016/j.bprint.2022.e00195 Frana, P. L., & Klein, M. J. (2021). Encyclopedia of Artificial Intelligence: The Past, Present, and Future of AI.

Santa-Barbara, California. ABC-Clio. Fukuda, Toshio, Nakajima, Masahiro, & Kojima, Masaru. (2010). Micro-Nano Robotics and Automation System.

IFAC Proceedings Volumes, 43(8), 20-25. https://doi.org/10.3182/20100712-3-FR-2020.00005 Gardini, L., Heissler, S. M., Arbore, C., Yang, Y., Sellers, J. R., Pavone, F. S., & Capitanio, M. (2018). Dissecting myosin-5B mechanosensitivity and calcium regulation at the single molecule level. Nature communications, 9(1), 2844. https://doi.org/10.1038/s41467-018-05251-z Gellers, Joshua C. (2021). Rights for Robots Artificial Intelligence, Animal and Environmental Law. NY: Routledge. Guillaume-Gentil, O., Potthoff, E., Ossola, D., Franz, C. M., Zambelli, T., & Vorholt, J. A. (2014). Force-controlled manipulation of single cells: from AFM to FluidFM. Trends in biotechnology, 32(7), 381-388. https://doi.org/10.1016/j.tibtech.2014.04.008 Guix, M., Mayorga-Martinez, C. C., & Merkogi, A. (2014). Nano/micromotors in (bio)chemical science

applications. Chemical reviews, 114(12), 6285-6322. https://doi.org/10.1021/cr400273r Jamali, Hamid R., Azadi-Ahmadabadi, Ghasem, & Asadi, Saeid. (2018). Interdisciplinary relations of converging

technologies: Nano-Bio-Info-Cogno (NBIC). Scientometrics, 116(11), 1055-1073. Ji, Y., Lin, X., Wu, Z., Wu, Y., Gao, W., & He, Q. (2019). Macroscale Chemotaxis from a Swarm of Bacteria-Mimicking Nanoswimmers. Angewandte Chemie International edition, 58(35), 12200-12205. https://doi.org/10.1002/ anie.201907733

Jingui, Qian, Jifeng, Ren, Yi, Liu, Raymond, H. W. Lam, & Joshua E.-Y., Lee. (2020). Reusable acoustic tweezers enable 2D patterning of microparticles in microchamber on a disposable silicon chip superstrate. IEEE SENSORS (pp. 1-4). https://doi.org/10.1109/sensors47125.2020.9278717 Katsunori, K. (2012). Nanotechnology and Medical Robotics; Legal and Ethical Responsibility. Waseda Bulletin

of Comparative Law, 30, 1-6. Khisamova, Z. I., & Begishev, I. R. (2019). On Methods to Legal Regulation of Artificial Intelligence in the World. International Journal of Innovative Technology and Exploring Engineering, 9(1), 515-520. EDN: https://elibrary.ru/pqjfko. DOI: https://doi.org/10.35940/ijitee.A9220.119119 Kuijpers, Louis, van Laar, Theo, Janissen, Richard, & Dekker, Nynke H. (2022). Characterizing single-molecule

dynamics of viral RNA-dependent RNA polymerases with multiplexed magnetic tweezers. STAR Protocols, 3(3), 101606, 1-19. https://doi.Org/10.1016/j.xpro.2022.101606 Li, J., Esteban-Fernández de Ávila, B., Gao, W., Zhang, L., & Wang, J. (2017). Micro/Nanorobots for Biomedicine: Delivery, Surgery, Sensing, and Detoxification. Science Robotics, 2(4), eaam6431. https://doi.org/10.1126/ scirobotics.aam6431

Li, M., Xi, N., Wang, Y. et al. (2019). Advances in atomic force microscopy for single-cell analysis. Nano Research, 12,

703-718. https://doi.org/10.1007/s12274-018-2260-0 Li, M., Xi, N., Wang, Y., & Liu, L. (2021). Progress in Nanorobotics for Advancing Biomedicine. IEEE transactions

on bio-medical engineering, 68(1), 130-147. https://doi.org/10.1109/TBME.2020.2990380 Li, T., Mao, C., Shen, J., & Zhou, M. (2022). Three laws of design for biomedical micro/nanorobots. Nano Today,

45, 101560. https://doi.org/10.1016Zj.nantod.2022.101560 Li, X., Liu, C., Chen, S., Wang, Y., Cheng, S. H., & Sun, D. (2017). In Vivo Manipulation of Single Biological Cells With an Optical Tweezers-Based Manipulator and a Disturbance Compensation Controller, IEEE Transactions on Robotics, 33(5), 1200-1212. https://doi.org/10.1109/TR0.2017.2718554 Marks, J. L. A., & Cyr, S. K. (2018). Government Regulation of Nanorobots in Medicine: How the FDA and PTO

Handle These New Technologies. The Journal of Robotics, Artificial Intelligence & Law, 7(4), 217-230 Min, Sun, Weisi, Lia, Cheng, Zhang, Shuangxi, Lia, Fayong, Zhou, Yuntao, Zhu, & Xiaoyang, Zhou. (2022). Da Vinci Xi™ robot-assisted liver resection. Intelligent Surgery, 7, 16-20. https://doi.org/10.1016/j.isurg.2021.10.001 Mulgan, T. (2019). Corporate Agency and Possible Futures. Journal of Business Ethics, 154(4), 901-916.

https://doi.org/10.1007/s10551-018-3887-1 Muscariello, L., Rosso, F., Marino, G., Giordano, A., Barbarisi, M., Cafiero, G., & Barbarisi, A. (2005). A critical overview of ESEM applications in the biological field. Journal of cellular physiology, 205(3), 328-334. https://doi.org/10.1002/jcp.20444 Naidoo, S. (2021). Biocompatibility Testing of Medical Devices. Burlington: Arcler Press. Nambu, T. (2016). Legal regulations and public policies for next-generation robots in Japan. AI & SOCIETY, 31,

483-500. https://doi.org/10.1007/s00146-015-0628-1 Neuman, Keir C., Nagy, Attila. (2008). Single-molecule force spectroscopy: optical tweezers, magnetic tweezers

and atomic force microscopy. Nature Methods, 5(6), 491-506. Norasi, Hamid, Tetteh, Emmanuel, Law, Katherine E., Sid, Ponnal, Hallbeck, Susan, & Tollefson, Matthew. (2022). Intraoperative workload during robotic radical prostatectomy: Comparison between multi-port da Vinci Xi and single port da Vinci SP robots. Applied Ergonomics, 104, 103826. https://doi.org/10.1016/j. apergo.2022.103826

Palmerini, E., Bertolini, A., Battaglia, F., Koops, B.-J., Carnevale, A., & Salvini, P. (2016). RoboLaw: Towards a European framework for robotics regulation. Robotics and Autonomous Systems, 86, 78-85. https:// doi.org/10.1016/j.robot.2016.08.026 Qi, Hu, Teng, Ma, Qi, Zhang, Jimin, Wang, Ye, Yang, Feiyan, Cai, & Hairong, Zheng. (2021). 3-D Acoustic Tweezers Using a 2-D Matrix Array With Time-Multiplexed Traps. IEEE Transactions on ultrasonics, ferroelectronics, and frequency control, 68(12), 3646-3653. https://doi.org/10.1109/TUFFC.2021.3098191 Rong, Liu, Guo-Dong, Zhao, Wen-Bo, Zou, Xiu-Ping, Zhang, Shuai, Xu, Yang, Wang, Yan-Zhe, Liu, Yuan-Xing, Gao, Zhi-Peng, & Zhoua, Yu-Yao Song. (2022). Single-port robot-assisted hepatic left lateral sectionectomy using the da Vinci SP® system: A case report. Intelligent Surgery, 2, 6-9. https://doi.org/10.1016/j.isurg.2022.02.002 Rothemund, P. W. (2006). Folding DNA to create nanoscale shapes and patterns. Nature, 440(7082), 297-302.

https://doi.org/10.1038/nature04586 Shi, C., Luu, D. K., Yang, Q., Liu, J., Chen, J., Ru, C., Xie, S., Luo, J., Ge, J., & Sun, Y. (2016). Recent advances in nanorobotic manipulation inside scanning electron microscopes. Microsystems & nanoengineering, 2, 16024. https://doi.org/10.1038/micronano.2016.24 Suulker, C., Skach, S., & Althoefer, K. (2022). Soft Robotic Fabric Actuator With Elastic Bands for High Force and Bending Performance in Hand Exoskeletons. IEEE Robotics and Automation Letter, 7(4), 10621-10627. https://doi.org/10.1109/LRA.2022.3194883 Sweeney, Aldrin. (2020). Incorporating NBIC social/ethical issues into STEM teacher education programmes. Canada-Caribbean Institute Journal, 7(1): Proceedings of the Canada-Caribbean Research Symposium. Canada-Caribbean Institute. Brock University Open Journal System. 2020. https://journals.library.brocku. ca/index.php/cancarib/article/view/2369# Taherkhani, S., Mohammadi, M., Daoud, J., Martel, S., & Tabrizian, M. (2014). Covalent binding of nanoliposomes to the surface of magnetotactic bacteria for the synthesis of self-propelled therapeutic agents. ACS Nano, 8(5), 5049-5060. https://doi.org/10.1021/nn5011304

Vale, Daniel, El-Sharif, Ali, & Muhammed, Ali. (2022). Explainable artifcial intelligence (XAI) post-hoc explainability methods: risks and limitations in non-discrimination law. AI and Ethics, 2, 815-826. https://doi.org/10.1007/s43681-022-00142-y Villa, K., & Pumera, M. (2019). Fuel-free light-driven micro/nanomachines: artificial active matter mimicking

nature. Chemical Society Reviews, 48(19), 4966-4978. https://doi.org/10.1039/C9CS00090A Wan, M., Liu, Z., Li, T., Chen, H., Wang, Q., Chen, T., Tao, Y., & Mao, C. (2021). Zwitterion-Based Hydrogen Sulfide Nanomotors Induce Multiple Acidosis in Tumor Cells by Destroying Tumor Metabolic Symbiosis. Angewandte Chemie International Edition, 60(29), 16139-16148. https://doi.org/10.1002/anie.202104304 Wang, H., & Pumera, M. (2015). Fabrication of Micro/Nanoscale Motors. Chemical Reviews, 7 75(16), 8704-8735.

https://doi.org/10.1021/acs.chemrev.5b00047 Wang, Joseph, & Wei, Gao. (2012). Nano/Microscale Motors: Biomedical Opportunities and Challenges. ACS Nano, 6(7), 5745-5751.

Wang, Qing, Shuhan, Chen, Jia, Zhou, & Antoine, Riaud. (2022). Laser-guided acoustic tweezers. National Natural Science Foundation of China, State Key Lab of ASIC and System, Fudan University (pp. 1-18). https://arxiv.org/abs/2203.14497 Wenyan, Qiao, Linglin, Zhou, Zhihao, Zhao, Di, Liua, Shaoxin, Lia, Jie, Ana, Xinyuan, Lia, Yikui, Gao, Peiyuan, Yang, Jiaqi Liu, Zhong, Lin, Wang, & Jie, Wang. (2022). A self-powered vector motion sensor for smart robotics and personalized medical rehabilitation. Nano Energy, 704, 1-10. https://doi.org/10.1016Zj.nanoen.2022.107936 Xu, X., Saw, P. E., Tao, W., Li, Y., Ji, X., Bhasin, S., Liu, Y., Ayyash, D., Rasmussen, J., Huo, M., Shi, J., & Farokhzad, O. C. (2017). ROS-Responsive Polyprodrug Nanoparticles for Triggered Drug Delivery and Effective Cancer Therapy. Advanced materials (Deerfield Beach, Fla.), 29(33), https://doi.org/10.1002/adma.201700141 Xue, S. (2022). The Application of Virtual Metacognitive Network Model in Preschool Guiding Art Network Teaching, 6th International Conference on Intelligent Computing and Control Systems (ICICCS) (pp. 672-675). https://doi.org/10.1109/ICICCS53718.2022.9788219 You, M., Chen, C., Xu, L., Mou, F., & Guan, J. (2018). Intelligent Micro/nanomotors with Taxis. Accounts of Chemical

Research, 57(12), 3006-3014. https://doi.org/10.1021/acs.accounts.8b00291 Yuan, K., Aftoni, A., & Qobanoglu, 0. (2020). The Effect of Problem-Based Learning Model and Blended Learning Model to Metacognitive Awareness as a Reflection Towards a New Normal Era. Jurnal Pendidikan Teknologi dan Kejuruan, 26(2), 183-188. https://doi.org/10.21831/jptk.v26i2.32783

Сведения об авторе

Гуляева Полина Сергеевна - аспирант, Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации Адрес: 117218, Российская Федерация, г. Москва, ул. Б. Черемушкинская, 34 E-mail: [email protected] ORCID ID: https://orcid.org/0000-0002-4108-6379 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/HKV-7341-2023 Google Scholar ID: https://scholar.google.com/citations?hl=en&user=gPHDfmAAAAAJ РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=1002457

t

Конфликт интересов

Автор заявляет об отсутствии конфликта интересов.

Финансирование

Исследование не имело спонсорской поддержки.

История статьи

Дата поступления - 8 сентября 2022 г. Дата одобрения после рецензирования - 17 января 2023 г. Дата принятия к опубликованию - 6 марта 2023 г. Дата онлайн-размещения - 10 марта 2023 г.

Research article

DOI: https://doi.org/10.21202/jdtl.2023.4

3

%

Check for updates

Medical Nanorobots in the Focus of Law

Polina S. Gulyaeva ©

Institute of Legislation and Comparative Law under the Government of the Russian Federation Moscow, Russian Federation

Keywords

Digital technologies, ethics, healthcare, in vivo,

Isaac Azimov, law,

medical robot,

medicine,

nanorobot,

regulation,

robotics

Abstract

Objective: to form doctrinal bases and mechanics of legal regulation of using medical nanorobots; to conceptualize the idea of nanorobotics law within the frameworks of its basic definitions, safety norms, risks, typology of devices, and legal parameters of technological terminology. Methods: thecognition tools are representedin the form of integration between general scientific and modern special legal methods (including the methods of comparative legal studies, legal modeling and juridical forecasting, NBICS-convergence), which, taken as a whole, allow distinguishing in the study object not only juridical proper, but also anthropological, biomedical, informational, and mechanistic research projections. Results: the author's definition of the medical nanorobot concept was formulated; the legal content and quasi-legal aspects of the definition that are important for the theoretical and applied development of terminology were investigated; the signs of related concepts (biomedical robot, nanorobotic system, medical nanorobotic system) were identified and logical connections between them were established; the classification of the main types of risks associated with the practical use of medical nanorobots was carried out; the list of theoretical and legal contradictions that are potentially capable of negatively affecting the future development of regulatory practice was revealed; the Russian and foreign experience of legal regulation and doctrinal understanding of the problems of medical nanorobotics (by the examples of the USA, Japan, Europe, China) was considered. Scientific novelty: under the lack of interdisciplinary research, an attempt was made to comprehensively consider the concept of a medical nanorobot in a technological, legal and communicative way ("human robot" on a nanoscale) based on the advanced scientific research that defines the foundations of the future nanorobotic law. It is recommended to supplement the synergetic development of biomedical and related technologies, reflected in the models of robot law and robot ethics, with relatively independent concepts of nanorobot law and nanorobot ethics.

© Gulyaeva P. S., 2023

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.Org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

Practical significance: based on the analysis of the legal regulation system in force in Russia and abroad, mechanisms for improving domestic legislation were identified, including taking into account the achievements of juridical crowdsourcing. Within the framework of socio-humanitarian issues, a contribution to the development of legal, sociological, and psychological science is formed. A scientific and methodological basis was prepared for further legal research and law-making activities in the field of medical nanorobotics.

For citation

Gulyaeva, P. S. (2023). Medical nanorobots in the focus of law. Journal ofDigital Technologies and Law, 7(1), 89-122. https://doi.org/10.21202/jdtl.2023.4

References

Aramesh, M., Forró, C., Dorwling-Carter, L., Lüchtefeld, I., Schlotter, T., Ihle, S. J., Shorubalko, I., Hosseini, V., Momotenko, D., Zambelli, T., Klotzsch, E., & Vörös, J. (2019). Localized detection of ions and biomole-cules with a force-controlled scanning nanopore microscope. Nature nanotechnology, 74(8), 791-798. https://doi.org/10.1038/s41565-019-0493-z Aseeva, I. A. (2017). Axiological priorities of the VI technological mode Epistemology & Philosophy of Science,

57(1), 124-137. (In Russ.). https://doi.org/10.5840/eps201751114 Asimov, I. (1942). Runaround. In Astounding Science Fiction. New York.

Astromskis, P. (2018). In Critique of RoboLaw: The Model of SmartLaw. In V. Müller (Ed.). Philosophy and Theory of Artificial Intelligence 2077. PT-AI2077. SeriesStudies in Applied Philosophy, Epistemology and Rational Ethics, 44. Springer, Cham.

Bachilo, I. L. (2015). Conceptual framework of informational law: collection of research works (pp. 8-17).

Moscow: Kanon-Plyus. (In Russ.). Bachilo, I. L. (2017). Conceptual framework of informational law: collection of research works (pp. 12-28).

Moscow: Kanon-Plyus. (In Russ.). Bartkowski, P., Gawinski, F., & Pawliszak, L. (2022). E-Morph as a New Adaptive Actuator for Soft Robotics. IEEE

Robotics and Automation Letter, 7(4), 8831-8836. https://doi.org/10.1109/LRA.2022.3189169 Begishev, I. R. (2021). Draft of a Federal Law "On circulation of robots and their components (modules)". Actual Problems of Economics and Law, 75(2), 379-391. (In Russ.). https://doi.org/10.21202/1993-047X.15.2021.2.379-391

Begishev, I. R., Khisamova, Z. I. (2018). Criminological Risks of Using Artificial Intelligence. Vseros-siiskii kriminologicheskii zhurnal = Russian Journal of Criminology, 72(6), 767-775. (In Russ.). https://doi.org/10.17150/2500-4255.2018.12(6).767-775 Chen, S., Wang, Y., Nie, T., Bao, C., Wang, C., Xu, T., Lin, Q., Qu, D. H., Gong, X., Yang, Y., Zhu, L., & Tian, H. (2018). An Artificial Molecular Shuttle Operates in Lipid Bilayers for Ion Transport. Journal of the American Chemical Society, 740(51), 17992-17998. https://doi.org/10.1021/jacs.8b09580 Deng, X. et al. (2023). Magnetic Micro/nanorobots for biological detection and targeted delivery. Biosensors

and Bioelectronics, 222, 114960. https://doi.org/10.1016/j.bios.2022.114960 Diller, E., & Sitti, M. (2013). Micro-Scale Mobile Robotics. Foundations and Trends® in Robotics, 2(3), 143-259.

http://dx.doi.org/10.1561/2300000023 Erbas-Cakmak, S., Leigh, D. A., McTernan, C. T., & Nussbaumer, A. L. (2015). Artificial Molecular Machines. Chemical

Reviews, 7 75(18), 10081-10206. https://doi.org/10.1021/acs.chemrev.5b00146 Fortunato, Gabriele Maria, Batoni, Elisa, Bonatti, Amedeo Franco, Giovanni, Vozzi, & Carmelo, De Maria. (2022). Surface reconstruction and tissue recognition for robotic-based in situ bioprinting. Bioprinting, 26, e00195. https://doi.org/10.1016/j.bprint.2022.e00195 Frana, P. L., & Klein, M. J. (2021). Encyclopedia of Artificial Intelligence: The Past, Present, and Future of AI. Santa-Barbara, California. ABC-Clio.

Fukuda, Toshio, Nakajima, Masahiro, & Kojima, Masaru. (2010). Micro-Nano Robotics and Automation System.

IFAC Proceedings Volumes, 43(8), 20-25. https://doi.org/10.3182/20100712-3-FR-2020.00005 Gardini, L., Heissler, S. M., Arbore, C., Yang, Y., Sellers, J. R., Pavone, F. S., & Capitanio, M. (2018). Dissecting myosin-5B mechanosensitivity and calcium regulation at the single molecule level. Nature communications, 9(1), 2844. https://doi.org/10.1038/s41467-018-05251-z Gellers, Joshua C. (2021). Rights for Robots Artificial Intelligence, Animal and Environmental Law. NY: Routledge. Guillaume-Gentil, O., Potthoff, E., Ossola, D., Franz, C. M., Zambelli, T., & Vorholt, J. A. (2014). Force-controlled manipulation of single cells: from AFM to FluidFM. Trends in biotechnology, 32(7), 381-388. https://doi.org/10.1016/j.tibtech.2014.04.008 Guix, M., Mayorga-Martinez, C. C., & Merkogi, A. (2014). Nano/micromotors in (bio)chemical science

applications. Chemical reviews, 7 74(12), 6285-6322. https://doi.org/10.1021/cr400273r Gulyaeva, P. S. (2022). Quasi-legal personality of artificial intelligence: theoretical and legal aspects. Bulletin of the Moscow City Pedagogical University. "Pedagogy and Psychology" Series, 2(46), 58-69. (In Russ.). https://doi.org/10.25688/2076-9113.2022.46.2.06 Jamali, Hamid R., Azadi-Ahmadabadi, Ghasem, & Asadi, Saeid. (2018). Interdisciplinary relations of converging

technologies: Nano-Bio-Info-Cogno (NBIC). Scientometrics, 7 76(11), 1055-1073. Ji, Y., Lin, X., Wu, Z., Wu, Y., Gao, W., & He, Q. (2019). Macroscale Chemotaxis from a Swarm of Bacteria-Mimicking Nanoswimmers. Angewandte Chemie International edition, 58(35), 12200-12205. https://doi.org/10.1002/ anie.201907733

Jingui, Qian, Jifeng, Ren, Yi, Liu, Raymond H. W., Lam, & Joshua E.-Y., Lee. (2020). Reusable acoustic tweezers enable 2D patterning of microparticles in microchamber on a disposable silicon chip superstrate. IEEE SENSORS (pp. 1-4).Vittps://doi.org/10.1109/sensors47125.2020.9278717 Katsunori, K. (2012). Nanotechnology and Medical Robotics; Legal and Ethical Responsibility. Waseda Bulletin

of Comparative Law, 30, 1-6. Khabriyeva, T., Chernogor, N. (2020). The future of law: the legacy of academician V. S. Stepin and legal science. Moscow: Rossiiskaya akademiya nauk; Institut zakonodatel'stva i sravnitel'nogo pravovedeniya pri Pravitel'stve Rossiiskoi Federatsii; INFRA-M. (In Russ.). https://doi.org/10.12737/1112960 Khisamova, Z. I., & Begishev, I. R. (2019). On Methods to Legal Regulation of Artificial Intelligence in the World. International Journal of Innovative Technology and Exploring Engineering, 9(1), 515520. https://doi.org/10.35940/ijitee.A9220.119119 Kibalnik, A. G., Volosyuk, P. V. (2018). Artificial intelligence: doctrinal criminal law questions awaiting answers. Legal Science and Practice: Journal of Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia, 4(44), 173-178. (In Russ.). https://doi.org/10.24411/2078-5356-2018-10428 Kuijpers, Louis, van Laar, Theo, Janissen, Richard, & Dekker, Nynke H. (2022). Characterizing single-molecule dynamics of viral RNA-dependent RNA polymerases with multiplexed magnetic tweezers. STAR Protocols, 3(3), 101606, 1-19. https://doi.org/10.1016/j.xpro.2022.101606 Li, J., Esteban-Fernández de Ávila, B., Gao, W., Zhang, L., & Wang, J. (2017). Micro/Nanorobots for Biomedicine: Delivery, Surgery, Sensing, and Detoxification. Science Robotics, 2(4), eaam6431. https://doi.org/10.1126/ scirobotics.aam6431

Li, M., Xi, N., Wang, Y. et al. (2019). Advances in atomic force microscopy for single-cell analysis. Nano Research, 72,

703-718. https://doi.org/10.1007/s12274-018-2260-0 Li, M., Xi, N., Wang, Y., & Liu, L. (2021). Progress in Nanorobotics for Advancing Biomedicine. IEEE transactions

on bio-medical engineering, 68(1), 130-147. https://doi.org/10.1109/TBME.2020.2990380 Li, T., Mao, C., Shen, J., & Zhou, M. (2022). Three laws of design for biomedical micro/nanorobots. Nano Today,

45, 101560, https://doi.org/10.1016/j.nantod.2022.101560 Li, X., Liu, C., Chen, S., Wang, Y., Cheng, S. H., & Sun, D. (2017). In Vivo Manipulation of Single Biological Cells With an Optical Tweezers-Based Manipulator and a Disturbance Compensation Controller, IEEE Transactions on Robotics, 33(5), 1200-1212. https://doi.org/10.1109/TRO.2017.2718554 Malko, A. V. (2019). The draft concept of the Russian legal policy in the field of artificial intelligence as a doctrinal document. Baltic Humanitarian Journal, 8(29), 348-352. (In Russ.). https://doi.org/10.26140/bgz3-2019-0804-0081

Marks, J. L. A., & Cyr, S. K. (2018). Government Regulation of Nanorobots in Medicine: How the FDA and PTO

Handle These New Technologies. The Journal of Robotics, Artificial Intelligence & Law, 7(4), 217-230. Min, Sun, Weisi, Lia, Cheng, Zhang, Shuangxi, Lia, Fayong, Zhou, Yuntao, Zhu, & Xiaoyang, Zhou. (2022). Da Vinci Xi™ robot-assisted liver resection. Intelligent Surgery, 7, 16-20. https://doi.org/10.1016/j.isurg.2021.10.001

Morkhat, P. M. (2018a). Artificial intelligence unit as electronic personality. Bulletin MSRU. Series: Jurisprudence,

2, 61-73. (In Russ.). https://doi.org/10.18384/2310-6794-2018-2-61-73 Morkhat, P. M. (2018b). Legal personality of a unit of artificial intelligence. Civil-legal research. Moscow: Yuniti-Dana. (In Russ.).

Mulgan, T. (2019). Corporate Agency and Possible Futures. Journal of Business Ethics, 154(4), 901-916.

https://doi.org/10.1007/s10551-018-3887-1 Muscariello, L., Rosso, F., Marino, G., Giordano, A., Barbarisi, M., Cafiero, G., & Barbarisi, A. (2005). A critical overview of ESEM applications in the biological field. Journal of cellular physiology, 205(3), 328-334. https://doi.org/10.1002/jcp.20444 Naidoo, S. (2021). Biocompatibility Testing of Medical Devices. Burlington: Arcler Press. Nambu, T. (2016). Legal regulations and public policies for next-generation robots in Japan. AI & SOCIETY, 31,

483-500. https://doi.org/10.1007/s00146-015-0628-1 Neuman, Keir C., Nagy, Attila. (2008). Single-molecule force spectroscopy: optical tweezers, magnetic tweezers

and atomic force microscopy. Nature Methods, 5(6), 491-506. Neznamov, A., Naumov, V. (2017). On the regulation of robotics in Russia and in the world. Legal Studies, 8,

14-25. (In Russ.). https://doi.org/10.25136/2409-7136.2017.8.23292 Norasi, Hamid, Tetteh, Emmanuel, Law, Katherine E., Sid, Ponnal, Hallbeck, Susan, & Tollefson, Matthew. (2022). Intraoperative workload during robotic radical prostatectomy: Comparison between multi-port da Vinci Xi and single port da Vinci SP robots. Applied Ergonomics, 104, 103826. https://doi.org/10.1016/j. apergo.2022.103826

Palmerini, E., Bertolini, A., Battaglia, F., Koops, B.-J., Carnevale, A., & Salvini, P. (2016). RoboLaw: Towards a European framework for robotics regulation. Robotics and Autonomous Systems, 86, 78-85. https://doi.org/10.1016Zj.robot.2016.08.026 Pashentsev, D. A. (2019). Lexical and semantic features of the law-making language in the conditions of digitalization. In D. A. Pashentsev, M. V. Zaloilo (Eds.). Law-making language within the context of digitalization of social relations. Collection of scientific articles (pp. 143-148). Moscow: The Institute of Legislation and Comparative Law under the Government of the Russian Federation: INFRA-M. (In Russ.). Pashentsev, D. A., Zaloilo, M. V., Dorskaya, A. A. (2021). Changing of Technological Orders and Legal Development

of Russia. Moscow: IZISP: Norma: INFRA-M. (In Russ.). Pashentsev, D. A., Zaloilo, M. V., Ivanyuk, O. A., Golovina, A. A. (2019). The digitalization of law-making: the search for new solutions. Moscow: Institut zakonodatel'stva i sravnitel'nogo pravovedeniya pri Pravitel'stve Rossiiskoi Federatsii: INFRA-M. (In Russ.). Ponkin, I. V., Redkina, A. I. (2018). Artificial Intelligence from the Point of View of Law. RUDN Journal of Law,

22(1), 91-109. (In Russ.). https://doi.org/10.22363/2313-2337-2018-22-1-91-109 Ponkin, I., Redkina, A. (2019). Digital formalization of law. International Journal of Open Information Technologies, 7(1), 39-48. (In Russ.).

Qi, Hu, Teng, Ma, Qi, Zhang, Jimin, Wang, Ye, Yang, Feiyan, Cai, & Hairong, Zheng. (2021). 3-D Acoustic Tweezers Using a 2-D Matrix Array With Time-Multiplexed Traps. IEEE Transactions on Ultrasonics, Ferroelectronics, and Frequency Control, 68(12), 3646-3653. https://doi.org/10.1109/TUFFC.2021.3098191 Qing, Wang, Shuhan, Chen, Jia, Zhou, & Antoine, Riaud. (2022) Laser-guided acoustic tweezers. National Natural Science Foundation of China, State Key Lab of ASIC and System, Fudan University (pp. 1-18). https://arxiv.org/abs/2203.14497 Rong, Liu, Guo-Dong, Zhao, Wen-Bo, Zou, Xiu-Ping, Zhang, Shuai, Xu, Yang, Wang, Yan-Zhe, Liu, Yuan-Xing, Gao, Zhi-Peng, & Zhoua, Yu-Yao Song. (2022). Single-port robot-assisted hepatic left lateral sectionectomy using the da Vinci SP® system: A case report. Intelligent Surgery, 2, 6-9. https://doi.org/10.1016/j.isurg.2022.02.002 Rothemund, P. W. (2006). Folding DNA to create nanoscale shapes and patterns. Nature, 440(7082), 297-302.

https://doi.org/10.1038/nature04586 Shi, C., Luu, D. K., Yang, Q., Liu, J., Chen, J., Ru, C., Xie, S., Luo, J., Ge, J., & Sun, Y. (2016). Recent advances in nanorobotic manipulation inside scanning electron microscopes. Microsystems & nanoengineering, 2, 16024. https://doi.org/10.1038/micronano.2016.24 Suulker, C., Skach, S., & Althoefer, K. (2022). Soft Robotic Fabric Actuator With Elastic Bands for High Force and Bending Performance in Hand Exoskeletons. IEEE Robotics and Automation Letter, 7(4), 10621-10627. https://doi.org/10.1109/LRA.2022.3194883 Sweeney, Aldrin. (2020). Incorporating NBIC social/ethical issues into STEM teacher education programmes. Canada-Caribbean Institute Journal, 7(1): Proceedings of the Canada-Caribbean Research Symposium. Canada-Caribbean Institute. Brock University Open Journal System. 2020. https://journals.library.brocku. ca/index.php/cancarib/article/view/2369#

Taherkhani, S., Mohammadi, M., Daoud, J., Martel, S., & Tabrizian, M. (2014). Covalent binding of nanoliposomes to the surface of magnetotactic bacteria for the synthesis of self-propelled therapeutic agents. ACS Nano, 8(5), 5049-5060. https://doi.org/10.1021/nn5011304 Vale, Daniel, El-Sharif, Ali, & Muhammed, Ali. (2022). Explainable artifcial intelligence (XAI) post-hoc explainability methods: risks and limitations in non-discrimination law. AI and Ethics, 2, 815-826. https://doi.org/10.1007/s43681-022-00142-y Villa, K., & Pumera, M. (2019). Fuel-free light-driven micro/nanomachines: artificial active matter mimicking

nature. Chemical Society Reviews, 48(19), 4966-4978. https://doi.org/10.1039/C9CS00090A Wan, M., Liu, Z., Li, T., Chen, H., Wang, Q., Chen, T., Tao, Y., & Mao, C. (2021). Zwitterion-Based Hydrogen Sulfide Nanomotors Induce Multiple Acidosis in Tumor Cells by Destroying Tumor Metabolic Symbiosis. Angewandte Chemie International Edition, 60(29), 16139-16148. https://doi.org/10.1002/anie.202104304 Wang, H., & Pumera, M. (2015). Fabrication of Micro/Nanoscale Motors. Chemical Reviews, 7 75(16), 8704-8735.

https://doi.org/10.1021/acs.chemrev.5b00047 Wang, Joseph, & Wei, Gao. (2012). Nano/Microscale Motors: Biomedical Opportunities and Challenges. ACS Nano, 6(7), 5745-5751.

Wenyan, Qiao, Linglin, Zhou, Zhihao, Zhao, Di, Liua, Shaoxin, Lia, Jie, Ana, Xinyuan, Lia, Yikui, Gao, Peiyuan, Yang, Jiaqi Liu, Zhong, Lin, Wang, & Jie, Wang. (2022). A self-powered vector motion sensor for smart robotics and personalized medical rehabilitation. Nano Energy, 704, 1-10. https://doi.org/10.1016/j.nanoen.2022.107936 Xu, X., Saw, P. E., Tao, W., Li, Y., Ji, X., Bhasin, S., Liu, Y., Ayyash, D., Rasmussen, J., Huo, M., Shi, J., & Farokhzad, O. C. (2017). ROS-Responsive Polyprodrug Nanoparticles for Triggered Drug Delivery and Effective Cancer Therapy. Advanced materials (Deerfield Beach, Fla.), 29(33), https://doi.org/10.1002/adma.201700141 Xue, S. (2022). The Application of Virtual Metacognitive Network Model in Preschool Guiding Art Network Teaching, 6th International Conference on Intelligent Computing and Control Systems (ICICCS) (pp. 672-675). https://doi.org/10.1109/ICICCS53718.2022.9788219 You, M., Chen, C., Xu, L., Mou, F., & Guan, J. (2018). Intelligent Micro/nanomotors with Taxis. Accounts of Chemical

Research, 57(12), 3006-3014. https://doi.org/10.1021/acs.accounts.8b00291 Yuan, K., Aftoni, A., & Qobanoglu, 0. (2020). The Effect of Problem-Based Learning Model and Blended Learning Model to Metacognitive Awareness as a Reflection Towards a New Normal Era. Jurnal Pendidikan Teknologi dan Kejuruan, 26(2), 183-188. https://doi.org/10.21831/jptk.v26i2.32783 Zaloilo, M. V., Pashentsev, D. A. (Ed.). (2020). Modern legal technologies in law-making. Moscow: IZISP: Norma: INFRA-M. (In Russ.).

Zholobova, Yu. V., Schastlivceva, E. A. (2020). NBICS-technologies and the problem of anthropological evolution. Herald of Vyatka State University, 3(137), 7-19. (In Russ.).

Author information

Polina S. Gulyaeva - Post-graduate student of the Institute of Legislation and Comparative Law under the Government of the Russian Federation Address: 34 Bolshaya Cheremushkinskaya Str., 117218 Moscow, Russian Federation E-mail: [email protected] ORCID iD: https://orcid.org/0000-0002-4108-6379 Web of Science Researcher ID:

https://www.webofscience.com/wos/author/record/HKV-7341-2023 Google Scholar ID: https://scholar.google.com/citations?hl=en&user=gPHDfmAAAAAJ RSCI Author lD: https://www.elibrary.ru/author_items.asp?authorid=1002457

Conflict of interest

The author declares no conflict of interest.

Financial disclosure

The research had no sponsorship.

Article history

Date of receipt - September 8, 2022 Date of approval - January 17, 2022 Date of acceptance - March 6, 2023 Date of online placement - March 10, 2023