CC BY
215
DOI: 10.17803/1729-5920.2021.178.9.119-130
И. А. Филипова*
Искусственный интеллект и нейротехнологии: потребности в конституционно-правовом регулировании1
Аннотация. Цифровые технологии воздействуют на общество, это влияние становится все более заметным. Дальнейшее развитие технологий и их использование меняет образ жизни людей, содержание общественных отношений. Особое значение приобретают «сквозные» цифровые технологии, применение которых возможно в различных сферах. Взаимодействие этих технологий приводит к результатам, включающим ответы на глобальные вызовы человечества: увеличение продолжительности жизни, упрощение различных коммуникаций, повышение производительности труда и т.д.
Сегодня наибольшее внимание уделяется технологиям искусственного интеллекта, правовое регулирование которых уже формируется в разных странах, в том числе и в России. Расширяющееся использование технологий искусственного интеллекта в промышленности, сфере услуг и в быту требует определенной регламентации; кроме того, поднимается вопрос корректировки путей развития искусственного интеллекта с помощью норм права. Так как нормы конституционного права создают основу правовой материи, потребность в создании конституционно-правовых норм, устанавливающих принципы регулирования общественных отношений, возникающих в связи с использованием искусственного интеллекта в информационном обществе, будет возрастать.
С технологиями искусственного интеллекта тесно соприкасаются нейротехнологии, именно их сочетание способно сильно изменить будущее человеческой цивилизации, в частности за счет создания гибридного человеко-машинного интеллекта. Подобные перспективы вызывают беспокойство многих исследователей, в том числе правоведов, которые предлагают пути решения возникающих из-за развития технологий социальных проблем, среди решений — необходимость урегулирования ряда вопросов конституционным правом.
Основными вопросами, требующими конституционно-правового регулирования, могут быть названы вопросы, связанные с гарантиями прав человека, соответствующими условиям информационного общества, с необходимостью закрепления ряда новых прав и установления отдельных запретов на применение технологий искусственного интеллекта и нейротехнологий.
Ключевые слова: «сквозные» цифровые технологии; искусственный интеллект; нейроимплант; робот; киборг; права человека; право на частную жизнь; дискриминация; конституционное законодательство; конституционно-правовые нормы.
Для цитирования: Филипова И. А. Искусственный интеллект и нейротехнологии: потребности в конституционно-правовом регулировании // Lex russica. — 2021. — Т. 74. — № 9. — С. 119-130. — DOI: 10.17803/1729-5920.2021.178.9.119-130.
1 Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 19-01100320.
© Филипова И. А., 2021
* Филипова Ирина Анатольевна, кандидат юридических наук, доцент, доцент кафедры трудового и экологического права юридического факультета Нижегородского государственного университета имени Н. И. Лобачевского
пр. Гагарина, д. 23, г. Н. Новгород, Россия, 603022 [email protected]
Artificial Intelligence and Neurotechnologies: In Need for Constitutional and Legal Regulation2
Irina A. Filipova, Cand. Sci. (Law), Associate Professor, Associate Professor, Department of Labor and Environmental Law, Faculty of Law, Lobachevsky University pr. Gagarina, d. 23, Nizhniy Novgorod, Russia, 603022 [email protected]
Abstract. Digital technologies are affecting society, and this influence is becoming more and more noticeable. The further development of technologies and their use change the way of life of people, the content of public relations. Of particular importance are "end-to-end" digital technologies, the use of which is possible in various fields. The interaction of these technologies leads to results that include answers to the global challenges of humanity: increasing life expectancy, simplifying various communications, increasing labor productivity, etc. Today, the greatest attention is given to artificial intelligence technologies, the legal regulation of which is already being formed in different countries, including in Russia. The increasing use of artificial intelligence technologies in industry, the service sector and in everyday life requires certain regulation; in addition, the issue of adjusting the ways of developing artificial intelligence with the help of legal norms is raised. Since the norms of constitutional law form the basis of legal matter, the need to create constitutional and legal norms that establish the principles of regulating public relations arising in connection with the use of artificial intelligence in the information society will increase.
Neurotechnologies are closely connected with artificial intelligence technologies, it is their combination that can greatly change the future of human civilization, in particular through the creation of hybrid human-machine intelligence. Such prospects cause concern to many researchers, including legal scholars, who suggest ways to solve social problems arising from the development of technologies, among the solutions is the need to resolve a number of issues by constitutional law.
The main issues requiring constitutional and legal regulation can be called issues related to the guarantees of human rights that correspond to the conditions of the information society, with the need to consolidate a number of new rights and establish certain prohibitions on the use of artificial intelligence technologies and neurotechnologies.
Keywords: "end-to-end" digital technologies; artificial intelligence; neuroimplant; robot; cyborg; human rights; right to privacy; discrimination; constitutional legislation; constitutional and legal norms. Cite as: Filipova IA. Iskusstvennyy intellekt i neyrotekhnologii: potrebnosti v konstitutsionno-pravovom regulirovanii [Artificial Intelligence and Neurotechnologies: In Need for Constitutional and Legal Regulation]. Lex russica. 2021;74(9):119-130. DOI: 10.17803/1729-5920.2021.178.9.119-130. (In Russ., abstract in Eng.).
Цифровые технологии быстро развиваются, они все шире внедряются в практику и влияют на окружающий мир. Использование решений на основе цифровых технологий в повседневной жизни преобразует действительность, меняя быт, труд, коммуникации. Внедрение «сквозных» цифровых технологий в производство и сервис стимулируется всеми государствами, так как способствует повышению уровня технологического развития страны и конкурентоспособности национальной экономики. Цифровые технологии поступательно усиливают техносферу, охватывающую искусственные объекты, создаваемые человеком. Уровень искусственности в жизни людей растет, и за по-
следние десятилетия этот рост ускорился. Люди привыкают применять устройства, освобождающие их от физических и умственных нагрузок, продукты цифровых технологий становятся неотъемлемой частью жизни. В связи с этим изменяются этические представления человечества, возникают новые области, требующие оценки рисков и социальных последствий развития технологий. Происходит кластеризация этического регулирования в соответствии со сложной спецификой актуальных направлений, возникают этика геномики, робоэтика, нейроэтика, этика искусственного интеллекта3. Трансформация этического регулирования выступает предпосылкой к изменению правового регулирования,
2 The reported study was funded by RFBR according to the research project № 19-011-00320.
3 Сидорова Т. А. Методологические аспекты регулирования нейроисследований и нейротехнологий в
нейроэтике // Философия и культура. 2020. № 8. С. 29.
«настает время привязать новые технологии к основным конституционным принципам»4.
Среди «сквозных» цифровых технологий особое значение приобретает группа технологий искусственного интеллекта, именно их развитие фиксируется как главный приоритет в программных документах по технологическому развитию большинства стран мира. Искусственный интеллект нередко сравнивают с электричеством по его влиянию на экономику и общество. Прогнозируется быстрое развитие этой группы технологий. Первостепенное значение искусственного интеллекта по сравнению с иными группами цифровых технологий (квантовых технологий, виртуальной и дополненной реальности, беспроводной связи и т.д.) подтверждается формированием законодательства в области искусственного интеллекта. Подобное специальное законодательство в отношении остальных «сквозных» цифровых технологий пока отсутствует. К примеру, в России уже принят закон5, регулирующий использование искусственного интеллекта, еще ряд законопроектов находится в стадии рассмотрения. На масштаб происходящих преобразований указывает и содержание подзаконных нормативных актов, таких как Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации»6, включающий Национальную стратегию развития искусственного интеллекта на период до 2030 года, или распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года»7.
Почему технологии искусственного интеллекта так важно урегулировать? Искусственный интеллект применяется практически во всех сферах деятельности, он создает принципиально новые возможности, освобождая человека от монотонной, опасной и сложной работы. Технологии искусственного интеллекта исполь-
зуются в промышленности (для автоматизации сборки, снижения количества брака, улучшения логистики, повышения уровня безопасности производственных процессов), сельском хозяйстве (для повышения эффективности селекции, увеличения урожая, его уборки), транспорте (для оптимизации маршрутов, повышения безопасности вождения) и т.д.
Из-за активного внедрения искусственного интеллекта в различные сферы деятельности все чаще поднимается тема регулирования отношений, в которых присутствует в каком-либо качестве искусственный интеллект, гражданским, уголовным, административным, трудовым и иными отраслями права. Например, среди обсуждаемых специалистами по гражданскому праву проблем в регулировании следует назвать распределение ответственности за вред, причиненный искусственным интеллектом; право интеллектуальной собственности на произведения, созданные с участием искусственного интеллекта. Примером перспективного применения искусственного интеллекта в государственном управлении служит его использование в контрольно-надзорной деятельности.
Распространение технологий искусственного интеллекта на практике повышает потребность учитывать это в правовом регулировании. Основы регулирования закладываются на конституционном уровне, в конституции каждого государства как нормативном правовом акте, обладающем высшей юридической силой, закрепляются исходные положения, касающиеся общественного строя и государственного управления. Если цифровизация общества меняет его производственную сферу, систему коммуникаций, организацию работы госорганов, то изменяется структура общества в целом. Конституция — это отражение общественного и государственного устройства, изменение этого устройства из-за развития цифровых технологий должно повлечь соответствующее измене-
4 Nemitz P. Constitutional democracy and technology in the age of artificial intelligence // Philosophical Transactions of the Royal Society. A Mathematical Physical and Engineering Sciences. 2018. Vol. 376. Iss. 2133. Art. ID:20180089. P. 2.
5 Федеральный закон от 24.04.2020 № 123-Ф3 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"» // СЗ РФ. 2020. № 17. Ст. 2701.
6 СЗ РФ. 2019. № 41. Ст. 5700.
7 СЗ РФ. 2020. № 35. Ст. 5593.
LEX RUSSCA
ние конституции и иных источников конституционного права.
В некоторых странах уже начат процесс внесения изменений в конституционное законодательство. Так, в число конституционных прав начинают включать цифровые права личности. Примером закона, регулирующего отношения в условиях цифровизации общества, может служить Закон Франции «О цифровой Республике» 2016 г.8 Закон предписывает открытость доступа к публичным данным и защиту прав человека в условиях информационного общества. В 2018-2019 гг. во Франции началось публичное обсуждение преобразований, связанных с цифровой трансформацией и включающих конституционную реформу. В январе 2020 г. в Национальное собрание Франции депутатом П. А. Рафаном было внесено предложение о принятии Хартии искусственного интеллекта и алгоритмов9, после регистрации проект был передан на рассмотрение в парламентский комитет по конституционному законодательству. Авторы проекта предлагают включить в преамбулу Конституции Франции ссылку на новый конституционный закон — Хартию искусственного интеллекта и алгоритмов, а в самой Хартии зафиксировать ряд принципиальных вопросов, в частности:
— регулярный аудит систем искусственного интеллекта;
— оценку эволюции искусственного интеллекта;
— ограничения в целях предотвращения злонамеренных манипуляций с системами искусственного интеллекта и т.д. Современные исследователи в области конституционного права по-разному относятся к закреплению на конституционном уровне норм, касающихся искусственного интеллекта. Например, судья Конституционного Суда РФ
Г. А. Гаджиев считает, что в Конституции РФ в обозримом будущем не должно быть каких-либо разделов об искусственном интеллекте10. По мнению ряда других специалистов, вопросы, связанные с искусственным интеллектом, пора регулировать конституционным правом как минимум потому, что развитие технологий искусственного интеллекта сильно влияет на права человека11. Так, использование технологий распознавания лиц и речи сокращает право человека на частную жизнь. Распространение систем искусственного интеллекта затрагивает и другие конституционные права, связанные с трудом, охраной здоровья, свободой передвижения и т.д. Чем шире будут использоваться цифровые технологии, тем острее потребность в формулировании на самом высоком уровне гарантий прав и свобод человека в условиях информационного общества. Внедрение искусственного интеллекта в государственное управление влечет риск возникновения «государства машинного обучения» (Machine-Learning State). Возможности машинного обучения для искусственного интеллекта могут изменить отношения между государством и гражданами: новые вычислительные инструменты повышают способность государства анализировать, прогнозировать и контролировать поведение своих граждан12.
Перед конституционным правом встают вопросы, связанные с необходимостью эффективной защиты прав человека в новых условиях. Первый вопрос: как обеспечить конституционное право на частую жизнь? Системы искусственного интеллекта получают данные из внешнего мира от многочисленных сенсоров и датчиков. С учетом прогнозируемой около 2025 г. «сенсорной революции»13 возможности для наблюдения многократно возрастают.
Loi pour une République numérique. No 2016-1321. 7 Octobre 2016 // URL: https://www.legifrance.gouv.fr/ affichTexte.do?cidTexte=l0RFTEXT000033202746&categorieLien=id (дата обращения: 15.02.2021).
Proposition de loi constitutionnelle relative à la Charte de l'intelligence artificielle et des algorithmes // URL: http://www.assemblee-nationale.fr/dyn/15/textes/l15b2585_proposition-loi (дата обращения:
15.02.2021).
Конституция не будет защищать искусственный интеллект: судья КС Гаджиев, 12 декабря 2018 // URL: http://rapsinews.ru/judicial_analyst/20181212/292414283.html (дата обращения: 15.02.2021). Koops B.-J., Di Carlo A., Nocco L., Casamassima V., Stradella E. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework // International Journal of Technoethics. 2013. Vol. 4. No 2. P. 1199.
Huq A. Z. Constitutional Rights in the Machine-Learning State // Cornell Law Review. 2020. Vol. 105. Iss. 7. P. 1879.
Новая технологическая революция: вызовы и возможности для России : экспертно-аналитический доклад / под науч. рук. В. Н. Княгинина. М. : ЦСР, 2017. С. 27.
8
9
10
11
12
Люди будут жить в мире, где практически каждый шаг виден и фиксируется записывающими устройствами, находящимися дома и на работе. К этому приводит использование персональных электронных помощников, «умных» часов и головных уборов, «умной» домашней и рабочей техники. Даже если человек откажется от применения технических достижений дома, то на улице, в магазине, в общественном транспорте он будет под постоянным наблюдением и информация будет обрабатываться практически в реальном времени. Необходимо создание гарантий, защищающих право на частную жизнь. Такие гарантии могут быть прописаны в законе, но исходные положения, от которых будет отталкиваться закон, должны быть зафиксированы в конституции. Иначе возникает целый ряд проблем, о которых пишут исследователи, в частности риск «несанкционированного сбора персональных данных, вторжения в частную жизнь, дискриминации того или иного человека или социальной группы, незаконного использования персональных данных в рекламных и иных коммерческих целях»14. Конституционная значимость этого вопроса уже проявилась через внесение в 2020 г. поправки в п. «м» ст. 71 Конституции РФ об отнесении к предметам ведения федерального уровня вопросов информационной безопасности — обеспечения безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных15.
Второй вопрос, требующий правового решения: как минимизировать повышающийся риск дискриминации? Опыт подтверждает, что системы искусственного интеллекта после обучения могут дискриминировать некоторые
категории граждан, иногда эти категории и так относятся к социально незащищенным группам. Использование искусственного интеллекта может не уменьшить проблему неравенства, а усугубить ее. Это касается возможностей доступа к искусственному интеллекту, к получению благ, связанных с использованием искусственного интеллекта. Отсутствие решения по данному вопросу усилит расслоение общества, способствуя дальнейшей маргинализиции целых социальных групп16. Возможное решение — рассмотрение искусственного интеллекта в качестве категории конституционного права, как объекта конституционно-правового регулирования, ведь «проблемы законодательного регулирования основных, в том числе социальных, прав человека в условиях развития и использования систем искусственного интеллекта уже стоят на повестке» и необходимо «обозначение концептуальных конституционных установок в сфере использования искусственного интеллекта»17. Сторонники данной позиции считают, что «искусственный интеллект — это средство реализации принципа социального государства... от него зависит эффективность реализации социальных прав и свобод человека»18, гарантируемых конституцией, что требует «дополнения и трансформации конституционных основ и в первую очередь — в сфере защиты прав и свобод человека и гражданина»19.
Следующий вопрос, который ставится перед конституционным правом: как обеспечить доверие людей к работе искусственного интеллекта, принимающего решения на основе сложных алгоритмов? Люди боятся искусственного интеллекта, так как не имеют представления о процессе получения результата. Решением
14 Минбалеев А. В. Проблемы социальной эффективности и защиты прав человека при использовании искусственного интеллекта в рамках социального скоринга // Вестник Южно-Уральского государственного университета. Серия : Право. 2020. Т. 20. № 2. С. 96.
15 Закон РФ о поправке к Конституции РФ от 14.03.2020 № 1-ФКЗ «О совершенствовании регулирования отдельных вопросов организации и функционирования публичной власти» // СЗ РФ. 2020. № 11. Ст. 1416.
16 Solomon B., Andersen L. Artificial intelligence and human rights in Australia // Artificial Intelligence for Better or Worse / ed. N. Wouters, G. Blashki, H. Sykes. Melbourne : Future Leaders, 2019. P. 88.
17 Липчанская М. А., Заметина Т. В. Социальные права граждан в условиях использования искусственного интеллекта: правовые основы и пробелы законодательного регулирования в России // Журнал российского права. 2020. № 11. С. 77.
18 Липчанская М. А., Отставнова Е. А. Конституционно-правовые и нравственные основы использования искусственного интеллекта в реализации социальных прав и свобод человека // Вестник Саратовской государственной юридической академии. 2020. № 3 (134). С. 71.
19 Васильева Л. Н., Григорьев А. В. Цифровизация общества и перспективы конституционного развития // Журнал российского права. 2020. № 10. С. 40.
LEX IPS»
может стать закрепление на конституционном уровне принципа открытости алгоритмов в целях прозрачности работы искусственного интеллекта. Важность закрепления принципа открытости (транспарентности) функционирования искусственного интеллекта подтверждается включением этого принципа в документы международно-правового характера, например в Европейскую этическую хартию по использованию искусственного интеллекта в судебных системах 2018 г.20 Европейская хартия содержит согласованную позицию стран — членов Совета Европы в отношении путей дальнейшего развития искусственного интеллекта.
Закрепление принципа прозрачности в конституции должно быть направлено на обеспечение новых прав человека:
— права знать о причинах решения, вынесенного искусственным интеллектом;
— права знать об искусственной или о естественной природе субъекта, с которым вступает в контакт человек;
— права на решение, основанное не только на автоматизированной обработке.
В противном случае для многих людей искусственный интеллект станет не благом, а угрозой. Отсутствие транспарентности может вызвать вопросы и с точки зрения соблюдения принципа социального государства, гарантий социальных прав и свобод, то есть имеются предпосылки для возникновения коллизий между конституционными принципами и применением высоких технологий21.
Еще один вопрос: какие ограничения на использование искусственного интеллекта необходимо законодательно установить? Вопрос об ограничениях касается не только права человека знать, с кем он в данный момент общается (с человеком или системой искусственного интеллекта), но и более сложных моментов, которые через относительно небольшое время будет вынужден учитывать законодатель.
Искусственный интеллект может существовать практически вечно, накапливая ресурс, развивая свои способности и меняя физическую часть системы по мере износа. Можно ли позволить искусственному интеллекту существовать вечно? Искусственный интеллект будет оказывать всё большее влияние на общество, достигая новых высот в научной и производственной деятельности, государственном управлении. Со временем он может получить практически безграничные возможности, в том числе и во власти. В связи с этим некоторые авторы предлагают зафиксировать в конституции положения об ограничениях для искусственного интеллекта, например установление максимально возможного жизненного цикла системы, возможность нахождения только в одной физической оболочке. Другие исследователи возражают: если искусственный интеллект способен существовать вечно, то установление подобных ограничений будет включать «право на уничтожение», что этически весьма неоднозначно22.
Из предыдущих вытекает вопрос о статусе искусственного интеллекта: не следует ли искусственный интеллект после достижения им определенного уровня развития признать субъектом, а не объектом права? Положения конституций некоторых стран допускают возможность расширительного толкования понятия «личность», что позволяет понимать под ней и электронную личность при признании таковой системы искусственного интеллекта23. В случае признания высокоразвитого искусственного интеллекта электронной личностью потребуется закрепить в конституции основы его статуса, а именно: основные обязанности и права (право на защиту тела и кода, на энергию, на доступ к информации, право на самосовершенствование, на создание цифровых копий и т.д.). Стоит уточнить, что, за исключением отдельных авторов, абсолютное большинство исследователей
20 European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment // URL: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c (дата обращения: 15.02.2021).
21 Герасимова Е. В. Конституционные принципы и применение высоких технологий: вопросы соотношения в современном мире // Этико-правовые основания регулирования высоких технологий в современном мире : сборник статей по итогам междунар. науч.-практ. конференции / отв. ред. О. В. Белая. Калининград, 2020. С. 28.
22 Puaschunder J. M. On Artificial Intelligence's Razor's Edge: On the Future of Democracy and Society in the Artificial Age // Journal of Economics and Business. 2019. No 2 (1). P. 110.
23 Нечкин А. В. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее // Lex russica. 2020. № 8 (165). С. 81.
не поддерживает предоставление искусственному интеллекту статуса субъекта права даже в перспективе. При этом некоторые исследователи соглашаются, что целесообразна разработка модели конституционно-правового регулирования, в которой искусственный интеллект присутствует в виде объекта права, и даже подчеркивают, что «особое положение искусственного интеллекта как объекта правоотношений требует принятия специального конституционного закона»24, который будет предусматривать обязательное государственное лицензирование искусственного интеллекта и ограничения на его деятельность. Примером таких ограничений являются положения Закона об искусственном интеллекте (Artificial Intelligence Act)25, согласованный проект которого был представлен 21 апреля 2021 г. Европейской комиссией. Проект содержит основополагающие нормы, устанавливающие общеевропейский подход к искусственному интеллекту. После принятия этот акт станет обязательным для всех государств — членов Европейского Союза. В нем предусмотрен запрет на использование систем искусственного интеллекта, которые создадут «неприемлемый риск», например систем, использующих методы воздействия на подсознание человека с целью изменить его поведение, чтобы нанести физический или психологический вред ему или другому человеку (п. 5.2.2). Такое воздействие возможно при сочетании технологий искусственного интеллекта с нейро-технологиями.
Нейротехнологии — еще одна группа «сквозных» цифровых технологий, которая за два ближайших десятилетия способна привести к серьезным изменениям в обществе, связав возможности искусственного интеллекта с когни-
тивными способностями человеческого мозга. Не зря в 2019 г. в России утверждена единая дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект»26. Нейротехнологии позволяют исправить или улучшить функционирование мозга за счет воздействия на нервную систему, давая возможность провести медицинскую реабилитацию лиц, утративших конечности или органы чувств. Использование нейроинтерфей-сов и нейроимплантов (протезов с искусственным интеллектом) может помочь миллионам людей и стимулирует распространение нейро-технологий в повседневной жизни. Начавшаяся «нейротехнологическая революция» не только меняет к лучшему жизнь людей, перенесших инсульт, страдающих эпилепсией или параличом, но также позволяет улучшить физическую форму, повысить концентрацию внимания, создать более безопасные рабочие места путем мониторинга состояния людей на наличие сильной усталости или недомогания27.
Прогресс в области нейронаук уже привел к созданию систем управления на основе нейро-интерфейсов, в результате чего начинает происходить гибридизация сред — постепенное размывание границ между физической, когнитивной и цифровой реальностью. Нейротехнологии достигли уровня, позволяющего быстрое распространение нейрокоммуникаций между людьми и робототехникой, что в ближайшее десятилетие «полностью изменит как суть, так и форму человеческих коммуникаций и взаимодействий»28. «Развитие нейроинтерфейса в перспективе ведет к перекодировке нервной ткани и меняет биологический субстрат человеческого мозга и тела в векторе конвергентной коллаборации живых и искусственных нервных
24 Zyryanov I. A. Problems of Constitutional and Legal Regulation of Artificial Intelligence // 2nd International Scientific and Practical Conference «Modern Management Trends and the Digital Economy: from Regional Development to Global Economic Growth» (MTDE 2020). Advances in Economics, Business and Management Research, 2020. Vol. 138. P. 531.
25 Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 12 May 2021 // URL: https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence (дата обращения: 15.05.2021).
26 Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект» // URL: https://digital.gov.ru/ru/documents/6658/ (дата обращения: 15.02.2021).
27 iHuman. Blurring lines between mind and machine. Perspective. Report 2019. London : The Royal Society // URL: https://royalsociety.org/-/media/policy/projects/ihuman/report-neural-interfaces.pdf (дата обращения: 15.02.2021).
28 Анализ состояния и динамики мирового рынка нейротехнологий. Экспертно-аналитический отчет. М. : Институт развития венчурного рынка РФ, 2015. URL: https://www.rvc.ru/upload/iblock/d0d/Analyz_ sostoyanoya_i_dinamiki_mirovogo_ryinka_neirotehnologyi.pdf (дата обращения: 15.02.2021).
LEX RUSSICA
систем», в результате чего «происходит качественное изменение технологий управления человеком, социумом и государством»29. Именно симбиоз технологий искусственного интеллекта и нейротехнологий ведет к кардинальному изменению человеческой цивилизации.
Необходимо учитывать, что эти технологии развиваются очень быстро, осознание этических моментов, стимулирующих постановку правовых вопросов, значительно отстает. Формулирование норм права в данной области будет непрерывным процессом с постоянными корректировками30. По мнению ряда европейских исследователей, в связи с развитием нейротехнологий на конституционно-правовом уровне обязательно должны быть предусмотрены гарантии неприкосновенности частной жизни, включающие право не подвергаться незаконному надзору со стороны органов государственной власти или частных корпораций. Такими гарантиями будет группа новых прав и свобод, предназначенных для защиты «психической неприкосновенности и свободы ума», в том числе:
— когнитивная свобода;
— право на психическую неприкосновенность;
— право на психическую целостность;
— право на психологическую преемствен-
ность31.
Когнитивная свобода, или свобода познания, интеллектуальное самоопределение — это «право изменять свои психические состояния с помощью нейроинструментов, а также право отказаться от этого»32. Подобная свобода должна включать как право индивида использовать появляющиеся нейротехнологии, так и защиту от принудительного и безоговорочного использования нейротехнологий.
Право на психическую неприкосновенность необходимо рассматривать как конфиденциальность данных, содержащихся в человече-
ском разуме или генерируемых человеческим разумом.
Право на психическую целостность предполагает защиту от «взлома мозга», от несанкционированного физического или психического вторжения в мозг без информированного согласия самого человека. Это право становится актуальным из-за развития методов Memory Engineering, позволяющих изменить или выборочно стереть воспоминания человека33.
Последнее из требующих конституционной защиты прав — право на психологическую преемственность, то есть на восприятие людьми своей собственной идентичности, так как стимуляция мозга может влиять на поведение личности.
Закрепление на конституционном уровне прав на психическую неприкосновенность и целостность должно стать гарантией достоверности информации, поступающей в мозг. Ведь если третьи лица (медицинская организация, сервисный центр, государственный орган и т.д.) получат доступ к нейроимпланту, соединенному с мозгом человека, последствием может стать, например, размещение в сознании человека всплывающей рекламы, иной информации в целях побуждения к каким-либо действиям, а человек будет воспринимать эту информацию как свои мысли.
Чили стало одним первых государств, в парламенте которого обсуждается законопроект, связанный с закреплением новой группы прав человека — нейро-прав, касающихся психической неприкосновенности и целостности личности, и внесением в конституцию поправки, впервые в истории определяющей ментальную идентичность как право, которым нельзя манипулировать. Законопроект, внесенный на рассмотрение осенью 2020 г. и уже одобренный Сенатом34, называет основополагающими принципами в этой области:
29 Агеев А. И., Логинов Е. Л., Шкута А. А. Нейроуправление: конвергентная интеграция человеческого мозга и искусственного интеллекта // Экономические стратегии. 2020. Т. 22. № 6 (172). С. 46.
30 MacKellar C. Cyborg Mind. What Brain-Computer and Mind-Cyberspace Interfaces Mean for Cyberneuroethics. Oxford : Berghahn Books, 2019. P. 4.
31 Ienca M., Andorno R. Towards new human rights in the age of neuroscience and neurotechnology // Life Sciences, Society and Policy. 2017. No 13. P. 9.
32 Bublitz Ch. My Mind is Mine!? Cognitive Liberty as a Legal Concept. In Cognitive Enhancement. An Interdisciplinary Perspective / ed. by E. Hildt, A. G. Franke. Dordrecht : Springer, 2013. P. 234.
33 Nabavi S., Fox R., Proulx Ch.D., Lin J. Y., Tsien R. Y., Malinow R. Engineering a memory with LTD and LTP // Nature. 2014. No 511. P. 349.
34 Defensa de los neuroderechos: una tarea para los parlamentos a nivel global, 7 de octubre de 2020 // URL: https://www.senado.cl/defensa-de-los-neuroderechos-una-tarea-para-los-parlamentos-a-nivel-global/ senado/2020-10-07/132033.html (дата обращения: 15.05.2021).
— право на идентичность личности;
— свободу воли;
— неприкосновенность частной жизни;
— равный доступ к технологиям, расширяющим человеческий потенциал;
— право на защиту от предвзятости и дискриминации.
На уровне конституции со временем придется сформулировать и правовые гарантии, защищающие саму природу человека. Уже в следующем десятилетии прогнозируется распространение нейроимплантов с искусственным интеллектом, не только восстанавливающих утраченные функции, но и усиливающих возможности человека, что будет стимулировать рост числа людей с улучшенными физическими и умственными способностями, значительно превосходящими возможности обычного человека. Потребуется защитить права людей, не использующих подобные нейроимпланты, а также права лиц с нейроим-плантами35. Возникает необходимость помимо закрепления права на равный доступ к технологиям, повышающим человеческий потенциал, зафиксировать в конституции общие принципы доступа к когнитивному улучшению, иначе увеличивается риск дискриминации и усиливается социальное неравенство.
Отсутствие на улицах человекоподобных роботов и киборгов может ввести в заблуждение, что озвученные выше вопросы — проблема далекого будущего. Это не так, киборгизация человечества уже происходит. Если мы определим киборга как систему «человек — машина», где обе составляющие взаимозависимы и неразрывны, то можно констатировать, что большинство современных людей уже похожи на киборгов, просто машинная составляющая системы пока не интегрирована в тело человека36. Люди привыкают к достижениям технологий, например многие не мыслят себя без смартфона, всё чаще используют разнообразные гаджеты, в том числе нейрогаджеты, следующий шаг — привыкание к беспилотным автомобилям. Еще в 2002 г. в статье «Парадиг-
мы эволюции и конституционные права: неминуемая опасность искусственного интеллекта» Б. Хэррик высказал мнение, позднее поддержанное многими исследователями: биологический человек инициировал собственную эволюцию, в результате которой примерно к 2050 г. он станет одним целым с машиной, после чего «обновленный» человек поймет, что органические части сдерживают его и биологическая составляющая постепенно исчезнет из машины37.
Как видим, масштаб изменений, связанных с развитием технологий искусственного интеллекта и нейротехнологий, увеличивается, порождая серьезные социальные проблемы. Развитие технологий не остановить, общество продолжает меняться, а вместе с этим растет потребность в формулировании и закреплении правовых основ информационного общества, в корректировке принципов, лежащих в основе отраслевого регулирования.
«Конвергенция развития нейротехнологий и искусственного интеллекта предложит нечто качественно иное — прямую связь человеческого мозга с машинным интеллектом в обход обычных сенсомоторных функций мозга и тела»38, поэтому на самом высоком уровне должны быть установлены правовые рамки, обеспечивающие сохранение антропоцентричности общества при одновременной возможности использовать технологические достижения. Таким образом, представляется необходимым развитие публичной дискуссии о закреплении в Конституции РФ:
1) новых прав личности, включающих: право человека знать, с кем он контактирует — с человеком или системой искусственного интеллекта; право знать о причинах решения, вынесенного искусственным интеллектом (принцип открытости алгоритмов); право на решение, основанное не только на автоматизированной обработке данных; право на психическую неприкосновенность и целостность; право на когнитивную свободу;
2) новых гарантий существующих прав, например права на частную жизнь (через консти-
35 Barfield W., Williams A. Law, Cyborgs, and Technologically Enhanced Brains // Philosophies. 2017. No 2 (1). P. 6.
36 Емелин В. А. Киборгизация и инвалидизация технологически расширенного человека // Национальный психологический журнал. 2013. № 1 (9). С. 63.
37 Herrick B. Evolution Paradigms and Constitutional Rights: The Imminent Danger of Artificial Intelligence // Philosophy. 2002. No 1. P. 2.
38 Yuste R., Goering S., Agüera y Arcas B. et al. Four ethical priorities for neurotechnologies and AI // Nature. 2017. Vol. 551. Iss. 7679. P. 161.
LEX IPS»
киберпространство
cyberspace
туционное ограничение применения ряда технологий, позволяющих следить за гражданами и установление пределов использования некоторых персональных данных) и права на защиту от дискриминации (через закрепление равного доступа к достижениям технологий и перечисление основных принципов доступа к когнитивному улучшению);
3) запрета на использование отдельных технологий искусственного интеллекта и нейро-технологий, связанных с крайне высокой степенью риска из-за воздействия на подсознание человека в целях изменить его поведение (с развитием данного положения в соответствующем федеральном конституционном законе).
БИБЛИОГРАФИЯ
1. Агеев А. И., Логинов Е. Л., Шкута А. А. Нейроуправление: конвергентная интеграция человеческого мозга и искусственного интеллекта // Экономические стратегии. — 2020. — Т. 22. — № 6 (172). — С. 46-57.
2. Васильева Л. Н., Григорьев А. В. Цифровизация общества и перспективы конституционного развития // Журнал российского права. — 2020. — № 10. — С. 40-58.
3. Герасимова Е. В. Конституционные принципы и применение высоких технологий: вопросы соотношения в современном мире // Этико-правовые основания регулирования высоких технологий в современном мире : сборник статей по итогам международной научно-практической конференции / отв. ред. О. В. Белая. — Калининград, 2020. — С. 27-32.
4. Емелин В. А. Киборгизация и инвалидизация технологически расширенного человека // Национальный психологический журнал. — 2013. — № 1 (9). — С. 62-70.
5. Липчанская М. А., Заметина Т. В. Социальные права граждан в условиях использования искусственного интеллекта: правовые основы и пробелы законодательного регулирования в России // Журнал российского права. — 2020. — № 11. — С. 77-96.
6. Липчанская М. А., Отставнова Е. А. Конституционно-правовые и нравственные основы использования искусственного интеллекта в реализации социальных прав и свобод человека // Вестник Саратовской государственной юридической академии. — 2020. — № 3 (134). — С. 69-78.
7. Минбалеев А. В. Проблемы социальной эффективности и защиты прав человека при использовании искусственного интеллекта в рамках социального скоринга // Вестник Южно-Уральского государственного университета. Серия : Право. — 2020. — Т. 20. — № 2. — С. 96-101.
8. Нечкин А. В. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее // Lex russica. — 2020. — № 8 (165). — С. 78-85.
9. Новая технологическая революция: вызовы и возможности для России : экспертно-аналитический доклад / под науч. рук. В. Н. Княгинина. — М. : ЦСР, 2017. — 136 с.
10. Сидорова Т. А. Методологические аспекты регулирования нейроисследований и нейротехнологий в нейроэтике // Философия и культура. — 2020. — № 8. — С. 29-45.
11. Barfield W., Williams A. Law, Cyborgs, and Technologically Enhanced Brains // Philosophies. — 2017. — № 2 (1). — P. 1-17.
12. Bublitz Ch. My Mind is Mine!? Cognitive Liberty as a Legal Concept // Cognitive Enhancement. An Interdisciplinary Perspective / ed. by E. Hildt, A. G. Franke. — Dordrecht : Springer, 2013. — P. 233-264.
13. Herrick B. Evolution Paradigms and Constitutional Rights: The Imminent Danger of Artificial Intelligence // Philosophy. — 2002. — № 1. — P. 2-49.
14. Huq A. Z. Constitutional Rights in the Machine-Learning State // Cornell Law Abstract. — 2020. — Vol. 105. — Iss. 7. — P. 1875-1954.
15. Ienca M., Andorno R. Towards new human rights in the age of neuroscience and neurotechnology // Life Sciences, Society and Policy. — 2017. — № 13. — P. 1-27.
16. Koops B.-J., Di Carlo A., Nocco L., Casamassima V., Stradella E. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework // International Journal of Technoethics. — 2013. — Vol. 4. — № 2. — P. 1198-1219.
17. MacKellar C. Cyborg Mind. What Brain-Computer and Mind-Cyberspace Interfaces Mean for Cyberneuroethics. — Oxford : Berghahn Books, 2019. — 262 p.
18. Nabavi S., Fox R., Proulx Ch. D., Lin J. Y., Tsien R. Y., Malinow R. Engineering a memory with LTD and LTP // Nature. - 2014. - № 511. - P. 348-352.
19. Nemitz P. Constitutional democracy and technology in the age of artificial intelligence // Philosophical Transactions of the Royal Society. A Mathematical Physical and Engineering Sciences. — 2018. — Vol. 376. — Iss. 2133. — Article ID: 20180089. — P. 1-14.
20. Puaschunder J. M. On Artificial Intelligence's Razor's Edge: On the Future of Democracy and Society in the Artificial Age // Journal of Economics and Business. — 2019. — № 2 (1). — P. 100-119.
21. Solomon B., Andersen L. Artificial intelligence and human rights in Australia // Artificial Intelligence for Better or Worse / ed. by N. Wouters, G. Blashki, H. Sykes. — Melbourne : Future Leaders, 2019. — P. 87-114.
22. Yuste R., Goering S., Agüera y Arcas B. et al. Four ethical priorities for neurotechnologies and AI // Nature. — 2017. — Vol. 551. — Iss. 7679. — P. 159-163.
23. Zyryanov I. A. Problems of Constitutional and Legal Regulation of Artificial Intelligence // 2nd International Scientific and Practical Conference «Modern Management Trends and the Digital Economy: from Regional Development to Global Economic Growth» (MTDE 2020). Advances in Economics, Business and Management Research. — 2020. — Vol. 138. — P. 531-537.
Материал поступил в редакцию 17 февраля 2021 г. REFERENCES
1. Ageev AI, Loginov EL, Shkuta AA. Neyroupravlenie: konvergentnaya integratsiya chelovecheskogo mozga i iskusstvennogo intellekta [Neuro-management: Convergent integration of the human brain and artificial intelligence]. Ekonomicheskie strategii [Economic strategies]. 2020;22-6(172):46-57. (In Russ.)
2. Vasilyeva LN, Grigoriev AV. Tsifrovizatsiya obshchestva i perspektivy konstitutsionnogo razvitiya [Digitalization of society and prospects of constitutional development]. Zhurnal rossiyskogo prava [Journal of Russian Law]. 2020;10:40-58. (In Russ.)
3. Gerasimova EV. Konstitutsionnye printsipy i primenenie vysokikh tekhnologiy: voprosy sootnosheniya v sovremennom mire [Constitutional principles and the use of high technologies: Issues of correlation in the modern world]. In: Belaya OV, editor. Etiko-pravovye osnovaniya regulirovaniya vysokikh tekhnologiy v sovremennom mire: sbornik statey po itogam mezhdunarodnoy nauchno-prakticheskoy konferentsii [Ethical and legal grounds for regulating high technologies in the modern world: Proceedings of the international scientific and practical conference]. Kaliningrad; 2020. P. 27-32. (In Russ.)
4. Emelin VA. Kiborgizatsiya i invalidizatsiya tekhnologicheski rasshirennogo cheloveka [Cyborgization and disability of a technologically advanced person]. Natsionalnyy psikhologicheskiy zhurnal [National Psychological Journal]. 2013;1(9):62-70. (In Russ.)
5. Lipchanskaya MA, Zametina TV. Sotsialnye prava grazhdan v usloviyakh ispolzovaniya iskusstvennogo intellekta: pravovye osnovy i probely zakonodatelnogo regulirovaniya v Rossii [Social rights of citizens in the conditions of using artificial intelligence: Legal bases and gaps in legislative regulation in Russia]. Zhurnal rossiyskogo prava [Journal of Russian Law]. 2020;11:77-96. (In Russ.)
6. Lipchanskaya MA, Otstavnova EA. Konstitutsionno-pravovye i nravstvennye osnovy ispolzovaniya iskusstvennogo intellekta v realizatsii sotsialnykh prav i svobod cheloveka [Constitutional, legal and moral foundations of the use of artificial intelligence in the implementation of human social rights and freedoms]. Vestnik Saratovskoy gosudarstvennoy yuridicheskoy akademii [Saratov State Law Academy Bulletin]. 2020;3(134):69-78. (In Russ.)
7. Minbaleev AV. Problemy sotsialnoy effektivnosti i zashchity prav cheloveka pri ispolzovanii iskusstvennogo intellekta v ramkakh sotsialnogo skoringa [Problems of social efficiency and protection of human rights when using artificial intelligence in the framework of social scoring]. Vestnik Yuzhno-Uralskogo gosudarstvennogo universiteta. Seriya: Pravo [Bulletin of the South Ural State University. Series: Law]. 2020;20(2):96-101. (In Russ.)
8. Nechkin AV. Konstitutsionno-pravovoy status iskusstvennogo intellekta v Rossii: nastoyashchee i budushche [Constitutional and Legal Status of Artificial Intelligence in Russia: Present and Future]. Lex Russica. 2020;(8):78-85. (In Russ.)
LEX 1PSÄ
9. Knyaginin VN, editor. Novaya tekhnologicheskaya revolyutsiya: vyzovy i vozmozhnosti dlya Rossii: ekspertno-analiticheskiy doklad [The new technological revolution: Challenges and opportunities for Russia. An expert and analytical report]. Moscow: TsSR; 2017. (In Russ.)
10. Sidorova TA. Metodologicheskie aspekty regulirovaniya neyroissledovaniy i neyrotekhnologiy v neyroetike [Methodological aspects of the regulation of neuroissues and neurotechnologies in neuroethics]. Filosofiya i kultura [Philosophy and Culture]. 2020;8:29-45. (In Russ.)
11. Barfield W, Williams A. Law, Cyborgs, and Technologically Enhanced Brains. Philosophies. 2017;2(1):1-17. (In Eng.)
12. Bublitz Ch. My Mind is Mine!? Cognitive Liberty as a Legal Concept. Cognitive Enhancement. In: Hildt E, Franke AG, editors. An Interdisciplinary Perspective. Dordrecht: Springer; 2013. P. 233-264. (In Eng.)
13. Herrick B. Evolution Paradigms and Constitutional Rights: The Imminent Danger of Artificial Intelligence. Philosophy. 2002;1:2-49. (In Eng.)
14. Huq AZ. Constitutional Rights in the Machine-Learning State. Cornell Law Abstract. 2020;105(7):1875-1954. (In Eng.)
15. Ienca M, Andorno R. Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy. 2017;13:1-27. (In Eng.)
16. Koops B-J, Di Carlo A, Nocco L, Casamassima V, Stradella E. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework. International Journal of Technoethics. 2013;4(2):1198-1219. (In Eng.)
17. MacKellar C. Cyborg Mind. What Brain-Computer and Mind-Cyberspace Interfaces Mean for Cyberneuroethics. Oxford: Berghahn Books; 2019. (In Eng.)
18. Nabavi S, Fox R, Proulx ChD, Lin JY, Tsien RY, Malinow R. Engineering a memory with LTD and LTP. Nature. 2014;511:348-352. (In Eng.)
19. Nemitz P. Constitutional democracy and technology in the age of artificial intelligence. Philosophical Transactions of the Royal Society A. Mathematical Physical and Engineering Sciences. 2018;376(2133):1-14. (In Eng.)
20. Puaschunder JM. On Artificial Intelligence's Razor's Edge: On the Future of Democracy and Society in the Artificial Age. Journal of Economics and Business. 2019;2(1):100-119. (In Eng.)
21. Solomon B, Andersen L. Wouters N, Blashki G, Sykes H, editors. Artificial intelligence and human rights in Australia. In: Artificial Intelligence for Better or Worse. Melbourne: Future Leaders; 2019. P. 87-114. (In Eng.)
22. Yuste R, Goering S, Agüera y Arcas B, et al. Four ethical priorities for neurotechnologies and AI. Nature. 2017;551(7679):159-163. (In Eng.)
23. Zyryanov IA. Problems of Constitutional and Legal Regulation of Artificial Intelligence. In: 2nd International Scientific and Practical Conference «Modern Management Trends and the Digital Economy: from Regional Development to Global Economic Growth» (MTDE 2020). Advances in Economics, Business and Management Research. 2020;138:531-537. (In Eng.)
