CC BY
42
Формирование категории «нейроправа»: обобщение российского и международного опыта
Бондаренко Александр Александрович,
магистр Московского государственного университета E-mail: [email protected]
В статье рассматривается современная тенденция выделения новой категории прав человека - нейроправ, анализируются ранее предложенные попытки систематизации и классификации нейроправ, высказываются авторские суждения о целесообразности выделения данной категории, предлагаются собственные подходы к классификации нейроправ и пониманию их сущности. Поскольку распространение нейротехнологий постоянно ускоряется, постольку возрастает опасность злоупотреблений. Эти злоупотребления могут выражаться в незначительном изменении привычек человека, а могут полностью изменить его личность. Чтобы оградить общество от возможных злоупотреблений, одной из важных целей исследования автор видит вопрос о выработке системы гарантий и прав, предоставляемых индивидам с целью защитить их автономию, свободу воли и человеческую сущность, предлагает авторские решения. Другой целью автор ставит вопрос о интенсификации и унификации правового регулирования в сфере нейроправ, как единственного способа наиболее полно защитить права и свободы человека в условиях внедрения новых технологий в социальную жизнь. Для решения поставленных в исследовании задач применяется широкий спектр методов, включая сравнительный метод и кейс-метод, анализируются законодательства иностранных государств и научная доктрина.
Ключевые слова: нейроправа; нейротехнологии; классификация нейроправ; научно-техническая революция.
сч со
Для начала автор статьи хотел бы кратко осветить историю вопроса и основную терминологию. Так, под научно-технической революцией понимают качественное преобразование производительных сил, изменение в их динамике и структуре. На данный момент считается, что мир прошёл 3 основных научно-технических революции (аграрную, индустриальную, информационную) и находится на пороге четвёртой. Моментом начала четвёртой научно-технической революции общепринято считать 2011 год. Данный подход связан с Инициативой-2011, выдвинутой немецкими интеллектуалами. В инициативе предполагается, что введение киберфизических систем (то есть информационно-технологических систем, подразумевающие внедрение киберэлемента в физические сущности любого вида) в производственные процессы, а также биологические и социальные объекты, повысит конкурентоспособность экономики и качество жизни людей, а граница между биологическим и компьютерными мирами будет стёрта. Одним из основных направлений Иници-ативы-2011 является использований нейротехнологий, то есть применение высокочувствительных технологий, позволяющих воздействовать на процессы, происходящие в головном мозге, с целью их исправления или модификации (апгрейдинга). Однако Инициатива-2011 порождает множество правовых, этических и даже эстетических проблем. Многие государства с настороженностью относятся к данной инициативе.
Можно выделить 3 основных подхода к данной инициативе:
1) Полная легализация кибер-физических систем и нейротехнологий и разработка соответствующей нормативно-правовой базы.
2) Гибкое или смешанное регулирование, допускающее использование нейротехнологий, за исключением тех, что сопряжены с неоправданно высокими рисками.
3) Полный запрет использования соответствующих технологий и применение санкций за нарушение запрета.
Переходя к российскому опыту, следует с сожалением констатировать, что Россия не разработала достаточную правовую базу регулирования. Важнейшими актами, регулирующими соответствующие отношения, являются 490-ый указ Президента «О развитии искусственного интеллекта в Российской Федерации» от 2019 года и «Концепция регулирования технологий искусственного интеллекта и робототехники до 2024 года». Лишь в одном субъекте - городе Москве - федеральным
законом введено особое экспериментальное регулирование использования нейротехнологий. В основном же регулирование происходит за счёт подзаконных актов, что не соответствует степени важности регулируемых отношений. Представляется, что российский законодатель может взять за образец французский опыт. Ключевую роль в появлении и развитии французского регулирования нейроправ сыграл аналитический доклад «Мозг и право: анализ возникновения нейроправ», подготовленный центром при Правительстве Франции. В дальнейшем во Франции будет разработан флагманский закон «О цифровой Республике» и дополнительно принята Хартия искусственного интеллекта и алгоритмов; более того, готовятся соответствующие изменения в тексте французской конституции. Правовое регулирование в данной ситуации не является чем-то выдуманным или ненужным, но оно является единственным способом защитить права и свободы человека в условиях интенсификации внедрения новых технологий в социальную жизнь.
Внедрение нейротехнологий является большим прорывом, который, тем не менее, таит в себе множество опасностей как для общества, так и для индивидов. Необходимо гарантировать, во-первых, что властные субъекты не станут произвольно вмешиваться в высшую психическую деятельность людей. Во-вторых, вмешательство в психические процессы человека возможно и на более низком уровне: нейротехнологии могут манипулировать привычками, решениями и поведением людей для покупки определённых товаров или для пользования определёнными услугами. Одним из важнейших инструментов для превенции подобных злоупотреблений является введение категории ней-роправ как системы гарантий и прав, предоставляемых индивидам с целью защитить их автономию, свободу воли и саму человеческую сущность (в литературе существует и другое определение нейроправ - создание фундаментальных основ для защиты и сохранения свободного человеческого разума). Первую логически выверенную классификацию нейроправ предложили профессор факультета права Цурихского Университета Роберто Ан-дорно и его соавтор Марсело Иенко. [1]
Важнейшим правом в данной классификации является право человека на когнитивную свободу. Данное право имеет как позитивный, так и негативный аспект. Позитивный - это право на использование нейроинструментов, негативный - право отказаться от принудительного внедрения нейротехнологий. При этом возможность отказаться от принудительного внедрения нейротехнологий, как представляется автору исследования, может вытекать из уже закрепленного в Конституции права на охрану частной жизни.
От когнитивной свободы отличают право на психическую неприкосновенность. В чём состоит различие? Представляется, что право на психическую неприкосновенность является производным от права на когнитивную свободу, главная идея
данного права состоит в том, что никто не должен вторгаться в психику человека без санкции самого человека. Некоторые исследователи трактуют данное право ещё шире, и включают в него право на защиту от несанкционированного сбора данных о внутренних психических процессах человека. С правом на психическую неприкосновенность тесно связано другое право - право на психическую целостность: никто не должен злонамеренно изменять или удалять воспоминания человека, а также использовать процесс нейростимуляции в своекорыстных целях. Очень интересным правом является право на преемственность личности - предполагается, что человек имеет право воспринимать себя так же, как это было до применения в отношении него нейротехнологий. Сознание человека, его свойства и поведение не должны изменяться настолько, чтобы можно было говорить об исчезновении предыдущей личности. Автору исследования представляется, что это право стоит толковать расширительно, и право на преемственность личности должно защищать человека от любых значимых изменений в его предпочтениях или поведении.
Общепринятая тетралогическая модель нейроправ, предложенная Андорно и Иенко, на этом заканчивается. Однако в последнее время всё чаще звучат голоса в пользу закрепления новых нейроправ. Так, в статье, выпущенной в соавторстве Алтуг Озгун-Бурку Севен предлагается закрепить право на защиту от предвзятости нейротехнологий. [2] Уже сейчас некоторые алгоритмы предлагают женщинам вакансии с более низкой зарплатой, отдают предпочтение людям в зависимости от их цвета кожи или принадлежности к определённой нации. Следует согласиться с авторами, что пресечь подобное поведение алгоритмов на этапе проектирования проще, чем потом разбираться с последствиями. Представляется интересной идея авторов проводить для нейроалгоритмов «тест на беспристрастность» перед их выпуском в общий доступ. Наконец, нельзя не отметить право на равный доступ к нейротехнологиям - иное было бы дискриминацией, умаляло бы равенство граждан и возможность их свободного развития.
В литературе существует мнение, согласно которому не следует выделять отдельно категорию нейроправ, а все права, причисляемые к нейро-правам, на самом деле охватываются свободой мысли (согласно другим авторам - свободой воли или слова). [3] Роберто Андорно убедительно опровергает данный довод, демонстрируя, что психические процессы должны защищаться ещё до их объективации и проявления вовне посредством речи, письма или поведения. Тем не менее, вопрос о природе нейроправ, об их принципиальной новизне или их производном характере от уже существующих прав, является дискуссионным и до настоящего момента. Хотя бесспорно, что нейроправа защищают социально значимые ценности, по ним отсутствует международный консенсус, и они не являются в достаточной мере определёнными. [4, с.607-621]
5 -о
сз ж
■с
Если говорить о гарантиях, то наиболее важным аспектом здесь является защита от дискриминации, то есть предвзятого отношения на основе тех или иных признаков. Очевидно, что работники, использовавшие нейротехнологии, будут действовать эффективнее, чем другие работники. Потенциально подобная ситуация может привести к отказу работодателей принимать на работу сотрудников без нейромодификаций. Этот вопрос для права очень чувствителен и сложен, здесь нет и не может быть однозначного ответа. Так, если установить систему квотирования мест, дискриминации могут подвергнуться использовавшие нейротехнологии соискатели. Законодателю необходимо найти тонкий конституционно-правовой баланс между правами соискателей, использовавших нейротехнологии, и правами граждан, отказавшихся от их использования. Необходимо также гарантировать возмещение вреда, причинённого использованием нейротехнологий. Представляется, что нейротехнологии могут причинять вред сами или опосредованно, через изменение поведения человека. Степень вины будет разной, [5, c.623-641] и ответственность человека, применившего нейротехнологии, тоже должна быть разной, а в случае ошибки нейротехнологии представляется, что ответственность должен нести её разработчик и/или разработчик совместно с человеком, использовавшим данную технологию, в зависимости от ситуации. В этой связи уместно вспомнить недавний инцидент, произошедший с электромобилем «Тесла»: нейротехнология ошибочно реализовала функцию автопилота и спровоцировала аварию. В данном случае какой-либо вины эксплу-атанта машины не усматривается.
Поскольку нейроправа, как и сами нейротехно-логии, появились сравнительно недавно, судебная практика по данному вопросу довольно небогата. В основном она касается доступа граждан к нейро-технологиям, особенно нейровизуализации. В деле Бянковский против Банфилда, 2011, суд отказал заявителю в удовлетворении ходатайства о применении нейротехнологии QEEG (машинном анализе данных ЭЭГ и связанных поведенческих коррелятов), мотивировав это тем, что QEEG не отвечает порогу надежности и всё ещё является новой наукой. Автор исследования хотел бы возразить судье Брэкену, рассматривавшему это дело: представляется, что судьёй Брэкеном, во-первых, было нарушено право на когнитивную свободу подсудимого, господина Бялковского, потому что сторона процесса, в том числе согласно современному американскому правовому регулированию, имеет право на использование и доступ к использованию нейроинструментов, одним из которых и является QEEG. Аргумент судьи о молодом возрасте науки также не выдерживает критики, поскольку от воз— раста научной отрасли никак не умаляется её прак-S2 тическая ценность.
Я Среди прочей интересной казуистики можно от° метить исследование Оуэна «Обнаружение созна-SB ния в вегетативном состоянии».[6] Оуэн описывает
случай, как 23-летней женщине, находящейся в вегетативном состоянии, в течение полугода смеряли показатели мозговой активности. В частности, были запротоколированы процессы в средней и верхней височных извилинах, циклы сна и бодрствования. Сторонники концепции нейроправ расценили бы подобное как недопустимое нарушение когнитивной свободы, поскольку согласие пациентки на обработку её нейроданных не было получено. Представляется, что здесь встаёт вопрос о поиске баланса ценностей нейроправ и прав на охрану здоровья и получение медицинской помощи.
Подводя итоги работы, следует отметить, что человечество стоит на пороге новой научно-технической революции. Распространение нейро-технологий постоянно ускоряется, что, несмотря на известный положительный эффект, таит в себе опасность злоупотреблений нейротехнологиями. Это злоупотребление может выражаться в незначительном изменении привычек человека, а может полностью изменить его личность. Барьером от подобного рода злоупотреблений может стать категория нейроправ - системы гарантий и прав, предоставляемых индивидам с целью защитить их автономию, свободу воли и саму человеческую сущность. Однако, несмотря на серьезные доктри-нальные исследования, пока не удалось выработать международный консенсус по поводу создания единого перечня нейроправ и понимания их правовой природы. Более того, в ряде стран соответствующее нормативное регулирование либо отсутствует, либо находится в зачаточном состоянии. Другим острым правовым вопросом является поиск конституционного-правового баланса между правами нейромодифицированных людей и людей, отказавшихся от использования данных технологий (в частности, в трудовой сфере). Поскольку количество используемых нейротехноло-гий растёт, эти вопросы надо начинать решать уже сейчас.
Литература
1. Alston P. (1984). Conjuring up new human rights: A proposal for quality control. American Journal of International Law. 1984. P. 607-621.
2. Burbon Diego, Burbon Luisa. A Critical Perspective on NeuroRights: Comments Regarding Ethics and Law. 2021. Available Online at https://www.fron-tiersin.org/articles/10.3389/fnhum.2021.703121/ full (дата обращения: 19.08.2024).
3. Gaudet L.M., Marchant G.E. Under the Radar: Neuroimaging Evidence in the Criminal Courtroom // Drake Law Review. 2016. P. 623-641.
4. lenca, M., and Andorno, R. A New Category of Human Rights: Neurorights. Research in Progress [Online]. 2017a. Available online at http://blogs. biomedcentral.com/bmcblog/2017/04/26/new-category-human-rights-neurorights (дата обращения: 21.08.2024).
5. Ozgun Altug, Burku Seven. A new kind of Human Rights: Are We Aware of "Neurorights"?,
2021. Available Online at https://iclg.com/ briefing/17076-a-new-kind-of-human-rights-are-we-aware-of-neurorights-turkey (дата обращения: 21.08.2024).
6. Owen; et al. (2006-09-08). "Detecting Awareness in the Vegetative State". Science. 313 (5792): 1402. CiteSeerX 10.1.1.1022.2193. doi:10.1126/sci-ence.1130197. PMID16959998. S2CID54524352.
7. Bialkowski v. Banfield, BCCA 130, Vancouver CA039231, 2011.
FORMATION OF THE CATEGORY "NEUROLAW": GENERALIZATION OF RUSSIAN AND INTERNATIONAL EXPERIENCE
Bondarenko A.A.
Moscow State University
The article discusses the current trend of identifying a new category of human rights - neuro-rights, analyzes the previously proposed attempts to systematize and classify neuro-rights, expresses the author's judgments on the advisability of distinguishing this category, and proposes their own approaches to the classification of neuro-rights and understanding their essence. As the spread of neurotechnologies is constantly accelerating, so is the danger of abuse. These abuses can be expressed in a slight change in a person's habits, or they can completely change his personality. To protect society from possible abuses, one of the important goals of the study, the author sees the issue of developing a system of guarantees and rights granted to individuals in order to protect their autonomy, free will and human essence, offers author's solutions. Another goal the author raises is the issue of intensification and unification of legal regulation in the field of neurolaw, as the only way to most fully pro-
tect human rights and freedoms in the context of the introduction of new technologies in social life. To solve the tasks set in the study, a wide range of methods is used, including the comparative method and the case method, the legislation of foreign countries and scientific doctrine are analyzed.
Keywords: neurolaw; neurotechnologies; classification of neuro-laws; scientific and technological revolution.
References
1. Alston P. (1984). Conjuring up new human rights: A proposal for quality control. American Journal of International Law. 1984. P. 607-621.
2. Burbon Diego, Burbon Luisa. A Critical Perspective on Neur-oRights: Comments Regarding Ethics and Law. 2021. Available Online at https://www.frontiersin.org/articles/10.3389/fn-hum.2021.703121/full (date of the application: 15.02.2024).
3. Gaudet L.M., Marchant G.E. Under the Radar: Neuroimaging Evidence in the Criminal Courtroom // Drake Law Review. 2016. P. 623-641.
4. lenca, M., and Andorno, R. A New Category of Human Rights: Neurorights. Research in Progress [Online]. 2017a. Available online at http://blogs.biomedcentral.com/bmcblog/2017/04/26/ new-category-human-rights-neurorights (date of the application: 15.02.2024).
5. Ozgun Altug, Burku Seven. A new kind of Human Rights: Are We Aware of "Neurorights"?, 2021. Available Online at https://iclg. com/briefing/17076-a-new-kind-of-human-rights-are-we-aware-of-neurorights-turkey (date of the application: 15.02.2024).
6. Owen; et al. (2006-09-08). "Detecting Awareness in the Vegetative State". Science. 313 (5792): 1402. CiteSeerX 10.1.1.1022.2193. doi:10.1126/science.1130197. PMID16959 998. S2CID54524352.
7. Bialkowski v. Banfield, BCCA 130, Vancouver CA039231, 2011.
