CC BY
43
АКТУАЛЬНЫЕ ПРОБЛЕМЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ ACTUAL PROBLEMS OF LEGAL REGULATION
УДК 342.7
DOI 10.52575/2712-746X-2022-47-2-238-250
Конституционно-правовое измерение искусственного интеллекта в странах БРИКС (на примере Индии)
1 Аристов Е.В. , 2 Беликова K.M.
1 Пермский государственный национальный исследовательский университет, Россия, 614990, г. Пермь, ул. Букирева, д. 15
2 Российский университет дружбы народов, Россия, 117198, Москва, ул. Миклухо-Маклая, д. 6
E-mail: [email protected] [email protected]
Аннотация. Многие государства стремятся воплощать в жизнь принятые ими стратегии развития искусственного интеллекта, что требует осмысления подходов России и зарубежных стран в вопросе разработки и внедрения такого рода технологий с позиции права. Поскольку данная тема изучена недостаточно, цель исследования - анализ некоторых граней конституционно-правового измерения искусственного интеллекта, отраженных в ряде положений индийской Конституции 1949 года (в ред. 2019 года), фиксирующих права и свободы человека в контексте их наполнения новыми смыслами и толкования в связи с развитием искусственного интеллекта. На примере Индии авторами на основании изучения подходов доктрины, положений Конституции, проекта Закона «О защите персональных данных» Индии 2019 г. впервые установлено, что общую направленность практикуемых и закрепляемых нормативно на уровне Конституции и ее судебного и доктринального толкования положений законов, включая их проекты, ограничений прав и свобод человека в современный период, можно описать как стремление найти обоснование таких ограничений в большом значимом общественном интересе, подлежащем защите приоритетно перед защитой интересов частных лиц. Что касается необходимых ограничений прав ИИ, смоделированного по образцу конституционной модели человека, то ограничения, налагаемые на последнего, поначалу неминуемо будут возложены и на его «копию» - искусственный интеллект.
Ключевые слова: права и свободы человека, искусственный интеллект, БРИКС, Индия, Конституция Индии 1949 г., государство благосостояния, социальность, справедливость и недискриминация, принципы деятельности ИИ, прозрачность и подотчетность ИИ, право на неприкосновенность частной жизни, свобода слова и выражения мнений, самоцензура
Для цитирования: Аристов Е.В., Беликова К.М. 2022. Конституционно-правовое измерение искусственного интеллекта в странах БРИКС (на примере Индии). NOMOTHETIKA: Философия. Социология. Право, 47(2): 238-250. DOI: 10.52575/2712-746X-2022-47-2-238-250
Constitutional and Legal Dimension Artificial Intelligence in the BRICS Countries (Using the Example of India)
2
1 Evgenii V. Aristov , 2 Ksenia M. Belikova
1 Perm State National Research University, Russia, 15 Bukireva St, Perm 614990, Russia Peoples' Friendship University of Russia (RUDN University), 6 Miklukho-Maklaya St, Moscow 117198, Russia E-mail: [email protected] [email protected]
1
Abstract. In view of the relevance and practical significance the article touches upon some facets of the constitutional and legal dimension of artificial intelligence (AI) in one of the BRICS countries, friendly India, reflected in a number of provisions of the Indian Constitution of 1949 (as amended in 2019), fixing human rights and freedoms (expression of opinions, privacy, etc.) in the context of its' filling with new meanings and interpretation in the context of AI development. The relevance of the study is due to the fact that many states seek to implement the strategies they have adopted for the development of artificial intelligence, which requires to strengthen understanding of the approaches of Russia and foreign countries, including the ones advanced in the development and implementation of such technologies from the perspective of law. The scientific novelty of the research is determined by the goal itself and the results of the work. So, based on the study of the approaches of the doctrine, the provisions of the Constitution and 2019 draft version of proposed Indian personal data law likewise authors personal opinions the authors found that, in particular, the general orientation of the practiced and fixed normatively - at the level of the Constitution and its judicial and doctrinal interpretations - and legally, including draft laws, restrictions on human rights and freedoms in the modern period on the example of India, can be described as a desire to find a justification for such restrictions in a large significant public interest, subject to protection with priority over the protection of the interests of private individuals. As for the necessary restrictions on the rights of AI, if AI is modeled after the constitutional model of a person (human being), then first the restrictions imposed on the latter will inevitably be imposed on its "copy" - artificial intelligence.
Keywords: human rights and freedoms, artificial intelligence (AI), BRICS, India, the Constitution of India 1949, welfare state, sociality, justice and non-discrimination, principles of AI functioning, transparency and accountability of AI, right to privacy, freedom of speech and expression, self-censorship
For citation: Aristov E.V., Belikova K.M. 2022. Constitutional and Legal Dimension Artificial Intelligence in the BRICS Countries (Using the Example of India). NOMOTHETIKE: Philosophy. Sociology. Law, 47(2): 238-250 (in Russian). DOI: 10.52575/2712-746X-2022-47-2-238-250
Ранее в ряде наших статей мы в контексте конституционно-правовых предписаний и сквозь призму действующего законодательства и его изменений касались вопросов понятия и концепции общественного блага, взаимосвязи равновесия интересов и благосостояния, рассмотрения и анализа моделей социального государства и государства благосостояния [Аристов, 2015, 2015а, 2016, 2017; Беликова, 2011, 2013] и развития искусственного интеллекта (ИИ) [Беликова, 2021, 2021а; Belikova, 2021], в том числе в странах БРИКС. В настоящее время мы полагаем, что обозначенные концепции могут быть применимы как критерий анализа действующих (например, в странах Балтийского региона, в Бразилии, Великобритании, Дании, ЕС (на уровне Комиссии), Индии, Италии, Канаде, Китае, Мексике, ОАЭ, Сингапуре, Тайване, Финляндии, Франции, Швеции, Южной Кореи, Японии [Правовое регулирование новых военных технологий..., 2022, с. 389]) и будущих страте-
Введение
гий по содействию использованию и развитию ИИ на предмет совместимости с человеком и человекоцентричным обществом и государством.
Одним из аспектов человекоцентричности выступает мнение [Нечкин, 2020, с. 78] о том, что конституционно-правовой статус высокоразвитого ИИ должен строиться по образу и подобию конституционно-правового статуса человека, в котором исключение должны составить лишь такие его элементы, как правосубъектность, которая по своей правовой природе должна быть чрезвычайно близка к правосубъектности органов и организаций и возникать с момента принятия соответствующего решения компетентным государственным органом (ввиду того, вероятно, что современные системы ИИ не имеют достаточно общих с людьми характеристик, чтобы возникло моральное обязательство признавать их субъектами права [Филипова, 2020, с. 57]), и правее, свободы и обязанности, которые должны предполагать ограниченный объем личных прав и свобод, полное отсутствие политических и социально-экономических прав, а также ограниченную де-ликтоспособность ИИ. При этом основным элементом в структуре конституционно-правового статуса ИИ в России должны стать универсальные ограничения его прав и свобод, которые бы послужили аналогами естественных человеческих физиологических ограничений и не позволили бы ИИ приобрести эволюционные преимущества перед человеком_ [Нечкин, 2020]. Так ли это? Чтобы ответить на этот вопрос нужно сначала обозначить текущий контур того или иного набора прав и свобод самого человека в их нынешнем толковании.
С учетом вышесказанного считаем необходимым изучить некоторые грани конституционно-правового измерения ИИ в одной из стран БРИКС - дружественной нам Индии, с которой в настоящее время обсуждаются вопросы использования рублей и рупий в торговых финансовых сделках, развития суверенного военно-технического сотрудничества
1 9
и др. , отраженные в ряде положений Конституции Индии 1949 г. в ред. 2019 г. , фиксирующие права и свободы человека (выражение мнений, неприкосновенность частной жизни и др.) в контексте их наполнения новыми смыслами и толкования в связи с развитием технологии ИИ.
Трансформация конституционных прав в законодательстве
Конституция Индии обозначает всеобщее благосостояние (a welfare state) в качестве одного из руководящих принципов государственной политики (directive principles of state policy). Согласно этому принципу и ст. 38 государству надлежит обеспечить социальный порядок для содействия благосостоянию народа (State to secure a social order for the promotion of welfare of the people). Конституция предусматривает позитивные действия в этом направлении - как «явно, так и неявно» (explicitly and implicitly) [Аристов, 2017].
В этой связи отмечается 3, что статус населения, защищенного Конституцией, и политика позитивных действий в области образования, жилья и занятости будут играть важную роль в определении того, как должны выглядеть в контексте идеи благосостояния народа соответствующие стандарты справедливости (fairness) в случае разработки и применения систем ИИ.
При этом как социальное государство Индия стремится к обеспечению благосостояния и развития своего населения, в особенности наиболее уязвимых категорий, таких как
1 См., напр.: Индия обводит Запад вокруг пальца. 05.04.2022. URL: https://ria.ru/20220405/indiya-1781765763.html (дата обращения: 05.04.2022).
2 The Constitution of India, including the Constitution (One Hundred and Fourth Amendment) Act, 2019 [As on 9 th September, 2020]. URL: https://legislative.gov.in/sites/default/files/COI.pdf (дата обращения: 04.04.2022).
3 Marda, Vidushi Artificial Intelligence Policy in India: A Framework for Engaging the Limits of Data-Driven Decision-Making // Philosophical Transactions A: Mathematical, Physical and Engineering Sciences (2018), Available at SSRN: https://ssrn.com/abstract=3240384 or http://dx.doi.org/10.2139/ssrn.3240384 (дата обращения: 04.04.2022).
некоторые касты, меньшинства и лица с ограниченной трудоспособностью. В процентном соотношении такое население составляет весьма немалую часть от общего его количества 1. Утверждается [Welfare state and education, 1986, р. 26], что социальное государство в Индии основано на новой модели, отличной от западной модели государства благосостояния. Такие отличия обусловлены в первую очередь социальными особенностями и проблемами данного государства. Так, ресурсов, которые находятся в распоряжении государства, становится все больше, в то время как количество населения продолжает расти. Вместе с тем социальные противоречия являются настолько острыми, что проведение срочных социальных и экономических реформ является жизненно необходимым для дальнейшего существования государства.
Габриэль Кёлер [Köhler, р. 5] классифицирует Индию по параметру реализованности в данной стране конституционного принципа социальности государства в настоящее время как «развивающееся государство благосостояния, возникшее на основе необходимости обеспечения защиты прав». Подобная модель государства благосостояния также реализована в Бангладеше и Непале.
Такое государство благосостояния характеризуется следующими основными особенностями:
- социальная политика в сфере образования, здравоохранения, обеспечения занятости населения и социальной защиты номинально основывается на стандартах социальной справедливости;
- в качестве факторов, в том числе обусловивших развитие государства благосостояния, выступают различные изменения в обществе;
- наличие разрыва между разработанными и принятыми на законодательном уровне основами государства благосостояния и их фактической реализацией;
- универсальность социальных пособий (вместе с их достаточно подробной категоризацией в определенных сферах);
- обеспечение доступа населения к продуктам питания является дополнительной функцией государства, выходящей за рамки основных функций в социально сфере 2.
В этом формате выделяется и вызывает вопросы следующее: во-первых, многозначность термина welfare [Аристов, 2015, с. 10-16], во-вторых, видимое или кажущееся противопоставление или возможность такого противопоставления благосостояния народа (ст. 38) и благосостояния Зарегистрированных каст и Зарегистрированных племен (согласно Приложения Одиннадцатого к Конституции) - официально признаваемых групп населения Индии, исторически принадлежавших социальным низам, находящимся вне системы индийских варн и по традиции относимым либо к «неприкасаемым» (касты - рис. 1), либо к аборигенным жителям, адиваси (племена - рис. 2) [Наумов, Положевич, 2018].
Реализация конституционных прав
Какого же рода обеспокоенности возникают в этой связи в отношении реализации закрепленных Конституцией прав?
Во-первых, растущая обеспокоенность, вызываемая возрастающим использованием систем машинного обучения для принятия важных решений (например, вызывает опасения способность таких моделей быть справедливыми и недискриминационными ко всем людям потому, что обеспокоенность кажется интуитивно понятной в качестве цели, но ряд сложностей в контексте справедливости возникает, прежде всего, со стороны определения).
1 India - A Welfare State. P. 1 (3 p.). URL: http://unpan1.un.org/intradoc/groups/ pub-lic/documents/apcity/unpan003057.pdf (дата обращения: 15.03.2021)
2 Ibid. P. 4-5.
No SCs listed
Рис. 1. Карта распределения Зарегистрированных каст в Индии по штатам и союзным территориям по данным переписи населения 2011 г. в % к общему количеству населения (источник: Census of India 20111 ) Fig. 1. Map of the distribution of Scheduled Castes in India by state and Union Territories according to
census data 2011 as % of the total population
Nt listed STi
Рис. 2. Карта распределения Зарегистрированных племен в Индии по штатам и союзным территориям по данным переписи населения 2011 г. в % к общему количеству населения (Источник: там же) Fig. 2. Map of the distribution of Registered Tribes in India by states and Union territories according to census data 2011 as % of the total population (Ibid)
1 Census of India 2011, Primary Census Abstract, Scheduled castes and scheduled tribes, Office of the Registrar General & Census Commissioner, Government of India. October 28, 2013. URL: https://view.oificeapps.live.com/op/view.aspx?src=https%3A%2F%2Fwww.censusindia.gov.in%2F2011-Documents%2FSCST%2520Presentation%252028-10-2013 .ppt&wdOrigin=BROWSELINK (дата обращения: 04.04.2021)
Ученые-компьютерщики разработали ряд определений 1 в попытке воплотить в жизнь идеалы справедливости и недискриминации всех.
Некоторые из наиболее насущных проблем в этой связи включают:
- обеспечение надлежащей подготовки алгоритмов для получения справедливых результатов в тех случаях, когда характеристики сообщества меньшинств систематически недооцениваются или искажаются;
- смягчение влияния на принятие решений, когда один аспект, например, доход, тесно связан с другой характеристикой, такой как этническая принадлежность, даже если эта последняя характеристика явно не закодирована;
- предотвращение искажений, обусловленных запрограммированными человеком параметрами взаимосвязей между различными полями данных 2.
Во-вторых, с одной стороны, перекос может иметь место тогда, когда в ходе столкновения «защищенного» и «незащищенного» атрибутов в контексте подрыва желаемой точности имеют место стремления и практика отказа индивидуальной справедливости в попытке обеспечить справедливость групповую 3; с другой стороны, сложность заключается в компромиссах как между определениями с позиции выбора наиболее пригодного (применимого) (где критерий применимости? кто его выбирает? для чего? Согласимся с тем, что ответы на эти основополагающие вопросы могут быть разными, в зависимости от этого различия на выходе получим также разную справедливость и разный результат), так и между справедливостью и другими конкурирующими ценностями (см. таблицу).
Так, было показано 4, например, что устранение дискриминации снижает общую точность модели, а стремление к точным моделям может подрывать справедливость, поскольку точность предполагает восприятие и учет существующих в обществе несправедливых и дискриминационных аспектов. В этом формате важнейшей политической задачей в Индии выступает создание инструментов, контрольных списков и стандартов для выявления того, какие определения справедливости наиболее подходят для конкретных приложений.
В Индии одним из примеров применения алгоритмов может служить в нашем контексте, например, использование правоохранительными органами в Пенджабе-(по данным упоминавшейся выше переписи населения Индии 2011 г. в Пенджабе доля населения из числа зарегистрированных каст наиболее высокая и составляет 32 % населения) Пенджабской системы искусственного интеллекта (Punjab Artificial Intelligence System, PAIS), которая применяет подход «умной полиции» с использованием «запатентованной, передовой гибридной технологии ИИ» для оцифровки судимостей и облегчает криминальный поиск с помощью таких технологий, как распознавание лиц для прогнозирования и распознавания преступной деятельности 5.
1 См.: Narayanan, A. (2018) Translation tutorial: 21 definitions of fairness and their politics. Fairness, Accountability and Transparency in Machine Learning Conference 2018. Available from https://fatconference.org/static/tutorials/narayanan-21defs18.pdf. Цит. по: Marda, Vidushi. Op. cit.
2 Kathryn Hume, «Artificial Intelligence is the future - but it's not immune to human bias», Maclean's, December 27 2017. Цит. по: Artificial Intelligence for Africa: An Opportunity for Growth, Development, and Democratisation / University of Pretoria. P. 29. URL: https://www.up.ac.za/media/shared/7/ZP_Files/ai-for-africa.zp165664.pdf (дата обращения: 02.07.2021)
3 Barocas, S., Bradley, E., Honavar, V., Provost, F. (2017) Big Data, Data Science, and Civil Liberties. A Computing Community Consortium. Available at https://arxiv.org/abs/1706.03102.
4 Zliobaite I. (2015) On the relation between accuracy and fairness in binary classification. The 2nd workshop on Fairness, Accountability, and Transparency in Machine Learning (FATML) at ICML'15. Available from https://arxiv.org/pdf/1505.05723.pdf.
5 См.: Sathe, G. 2018 Cops in India are Using Artificial Intelligence That Can Identify You in a Crowd. Huffington Post. Available from https://www.huffingtonpost.in/2018/08/15/facial-recognition-ai-is-shaking-up-criminals-in-punjab-but-should-you-worry-too_a_23502796/.
Принципы, которые следует положить в основу деятельности искусственного интеллекта (на основе более 80 документов правительств, научно-исследовательских учреждений, предприятий промышленности, институтов гражданского общества и др. по всему миру, 2019)
Principles that should be the basis for the activities of artificial intelligence (based on more than 80 documents of governments, research institutions, industrial enterprises, civil
society institutions, etc. around the world, 2019)
Этический принцип Количество документов, в которых встречается этический принцип Терминология (англоязычный вариант)
Прозрачность 73/84 Transparency, explainability, explicability, under-standability, interpretability, communication, disclosure, showing
Справедливость и честность 68/84 Justice, fairness, consistency, inclusion, equality, equity, (non-) bias, (non-)discrimination, diversity, plurality, accessibility, reversibility, remedy, redress, challenge, access and distribution
Безопасность 60/84 Non-maleficence, security, safety, harm, protection, precaution, prevention, integrity (bodily or mental), non-subversion
Ответственность 60/84 Responsibility, accountability, liability, acting with integrity
Соблюдение права на частную жизнь 47/84 Privacy, personal or private information
Содействие всеобщему благоде нствию 41/84 Benefits, beneficence, well-being, peace, social good, common good
Свобода и автономность 34/84 Freedom, autonomy, consent, choice, self-determination, liberty, empowerment
Доверие 28/84 Trust
Устойчивость 14/84 Sustainability, environment (nature), energy, resources (energy)
Соблюдение Достоинства 13/84 Dignity
Солидарность 06/84 Solidarity, social security, cohesion [Jobin, Ienca, Vayena, 2019, p. 389-399]
Заявленное намерение этой Системы состоит в том, чтобы снизить уровень преступности, управлять людными общественными пространствами, чтобы сделать их более безопасными, повысить эффективность работы правоохранительных органов. Однако, как мы видим, могут быть и неблагоприятные последствия - в случае приложений, которые в настоящее время используются правоохранительными органами в Индии, это могут быть и ложные аресты, и необходимость людям из непропорционально уязвимых и мар-гинализированных сообществ доказывать свою невиновность.
Этот вопрос соприкасается также с другими немаловажными предписаниями уровня Конституции, такими как неприкосновенность частной жизни (приватность, конфиденциальность - right to privacy). Так, в приведенном примере с распознаванием лиц проблема усугубляется тем, что независимо от показателей точности, поведение людей в обще-
ственных местах и их лица по-прежнему собираются, хранятся и, возможно, распространяются или доступны без их согласия. Степень, в которой конфиденциальность может быть уважаема или подорвана технологиями ИИ, зависит напрямую от системы нормативных правовых актов, в которой ИИ функционирует.
Нужно отметить, что как таковое подобное право в Конституции не обозначено, однако в доктрине отмечается 1, что право на неприкосновенность частной жизни основано и вытекает из ст. 21 Конституции «Гарантии жизни и личной свободы», согласно которой «ни одно лицо не может быть лишено жизни или свободы иначе, чем в порядке, установленном законом» - это право, которым пользуются все люди в силу своего существования. Оно распространяется как на физическую неприкосновенность, индивидуальную автономию, так и на свободу слова и свободу двигаться или думать. Это означает, что конфиденциальность касается не только тела, но и распространяется на целостность, личную автономию, данные, речь, согласие, возражения, движения, мысли и репутацию.
Следовательно, право на неприкосновенность частной жизни можно понимать как нейтральные отношения между индивидом, группой и отдельным лицом, которые не подвергаются вмешательству или нежелательному вторжению или вторжению в личную свободу. Этот вопрос был впервые поднят в деле Kharak Singh vs. the state of UP (1962) 2, в котором Верховный суд постановил, что Полицейский регламент 236 штата Уттар-Прадеш нарушает Конституцию, а именно ст. 21, и указал, что право на неприкосновенность частной жизни является частью права на защиту жизни и личной свободы, приравняв таким образом неприкосновенность частной жизни к личной свободе.
А в деле Mr. X v. Hospital Z (1998) было установлено, что в случае коллизии между двумя основными правами - правом на неприкосновенность частной жизни и правом на информацию (right to information) будет применяться право, способствующее развитию общественной морали или общественных интересов (public morality or public interest). Так, например, больший общественный интерес может оправдать публикацию даже исключительной личной информации. На тот момент понимания того, что представляет собой «личная» информация, в законодательстве определено не было. Ответ на этот вопрос с позиции современности отчасти содержится ниже с позиции анализа положений проекта закона «О защите персональных данных».
С этого момента были опубликованы для общественного обсуждения два - 2018 и 2019 гг. - проекта закона «О защите персональных данных» (2018 & 2019 draft versions of proposed Indian personal data law). Затем Законопроект о защите персональных данных 2019 г. (Законопроект 2019 г.) был передан в Объединенный парламентский комитет [Gowree Gokhale, Aaron Kamath, Purushotham Kittane, 2021]. Парламентский комитет пришел к выводу, что ограничение сферы действия закона только персональными (личными) данными будет «наносить ущерб конфиденциальности», и поэтому рекомендовал: 1) включить и иные (не персональные - non-personal data, NPD) данные в сферу действия закона и сохранить положения, позволяющие Центральному правительству устанавливать рамки политики в отношении использования и совместного использования последних, 2) расширить регулирующий мандат Управления по защите данных (Data Protection Authority, DPA), включив в него как персональные, так и иные (NPD) данные. Неясно, однако, как один и тот же регулирующий орган сможет выступать в качестве и защитника персональных данных, и разработчика политики использования NPD в общественных интересах. Очевидно, что перспективы, требуемые для этих ролей, совершенно разные.
1 См.: Different aspects of Right to Privacy under Article 21. December 6, 2021. URL: https://blog.ipleaders.in/different-aspects-of-right-to-privacy-under-article-21/#Right_to_Privacy_in_India (дата обращения: 05.04.2022)
2 Зд. и далее цит. по: Ibid. и State of Privacy India. 26th January 2019. URL: https://privacyinternational.org/state-privacy/1002/state-privacy-india (дата обращения: 05.04.2022)
Законопроект 2019 г. придерживается жесткого подхода к обязательствам, возникающим в связи с утечками данных, и расширяет мандат DPA, включив в него отслеживание нарушений персональных данных и NPD и рекомендации мер по смягчению последствий утечек данных. Доверенные лица по защите данных (data fiduciaries) обязаны сообщать о нарушениях конфиденциальности персональных данных в течение 72 часов с момента получения информации о таком нарушении. Функция оценки воздействия такого нарушения на пользователей данных была возложена на DPA. Интересно, что в Докладе нет прямого обязательства сообщать о нарушении NPD.
Что касается ключевых положений Законопроекта 2019 г., то они таковы [Gowree Gokhale, Aaron Kamath, Purushotham Kittane, 2021]:
- DPA продолжает поддерживать широко сформулированное положение об изъятии, позволяющее Центральному Правительству освобождать любое правительственное учреждение от любых или всех положений этого Закона. Против сохранения этого положения были высказаны возражения в отдельных записках о несогласии, представленных восемью членами Парламентского комитета. Основания для введения исключения связаны с разумными ограничениями свободы слова и выражения мнений, перечисленными в ст. 19(2) Конституции Индии. Тем не менее возможность абсолютного освобождения от всех обязательств DPA может не соответствовать конституционному требованию об узкоспециализированных ограничениях. Хотя в пересмотренном положении разъясняется, что предоставляемое таким образом изъятие будет подлежать справедливым, разумным и соразмерным процедурам (the exemption so granted would be subject to just, fair, reasonable and proportionate procedures), неясно, исправит ли это само по себе широко сформулированную сферу применения изъятия;
- положения DPA, касающиеся классификации данных (персональные - конфиденциальные и критически важные - и не персональные), остаются неизменными по сравнению с Законопроектом 2019 г. и предполагают различные обязательства, применимые к их обработке и передаче.
Так, например, DPA сохраняет широкую механику трансграничной передачи данных, однако DPA теперь обязано консультироваться с Центральным Правительством до утверждения внутригрупповых схем или контрактов на трансграничную передачу SPD. Цель консультаций - обойти запрет передачи таких данных, то есть получить от Центрального Правительства разрешение передавать такие данные иностранному правительству.
С другой стороны, явное согласие DPA остается единственным допустимым основанием для обработки и обмена SPD. При этом в определенных ситуациях, например, в случае обработки SPD персональных компьютеров сотрудников, сбора биометрических данных, таких как видеозапись с камер видеонаблюдения, или в ситуациях, когда такие данные обрабатываются для выявления мошенничества или в целях соблюдения нормативных требований к отчетности или постановления суда получение явного согласия может оказаться невыполнимым или неуместным 1.
Таким образом, Законопроект все еще оставляет ряд вопросов. Представляется, что, с одной стороны, проанализированная правовая база предусматривает неограниченную обработку государством как конфиденциальных, так и иных персональных данных, в то же время государство развертывает приложения ИИ, которые осуществляют наблюдение и профилирование, фактически предоставляя им свободу действий в этом отношении, в том числе содействуя, может быть и косвенно, формированию предвзятости и предубеждений, поскольку при обучении на обширных наборах данных, которые включают как персональные данные, так и конфиденциальные персональные данные, системы ИИ будут по существу впитывать, внедрять и усиливать предубеждения и дискриминацию даже в
1 Gowree Gokhale, Aaron Kamath, Purushotham Kittane, 2021; URL: https://privacyinternational.org/state-privacy/1002/state-privacy-india (дата обращения: 04.04.2022).
том случае, когда чувствительные атрибуты, такие как каста, религия, политические пристрастия, сексуальные предпочтения и пр., будут подвержены принудительной «слепоте», ведь они так или иначе все еще существуют, и «несколько слегка коррелированных признаков могут быть использованы для построения классификаторов высокой точности для чувствительного атрибута» [Barocas, Hardt, Narayanan, 2018]. Вместе с тем Законопроект 2019 г. не затрагивает проблемы слежки, которые в настоящее время актуальны для правовой базы Индии, и фактически полностью умалчивает вопросы подотчетности и прозрачности разведывательных агентств.
В этом ракурсе еще одой важной конституционной свободой, испытывающей трансформацию, выступает свобода слова и выражения мнений (freedom of speech and expression - ст. 19(1)(a) Конституции Индии). Верховный суд Индии неоднократно опирался на нее как на неотъемлемую часть демократии, а также установил, что эта свобода включает в себя право знать (right to know), например, об опасностях, несовершенствах ИИ и т.п. С другой стороны, в контексте свободы слова и прямых и косвенных воздействий на ее реализацию называется применение технологий ИИ в виде умных помощников: автозамены на мобильных устройствах, с которыми все мы сталкивались хотя бы раз, и автоматизированное удаление контента, и пожизненная блокировка аккаунтов в соцсе-тях, способные стать аналогом цензуры и направленные на удаление законных высказываний и контента (напр., 9 января 2021 г. после беспорядков в здании Капитолия несколько популярных социальных сетей заблокировали аккаунты действующего тогда Президента США Д. Трампа J), и, напротив, насаждение ложного контента, насильственный экстремизм и дезинформация в Интернете, направленные на разжигание национальной розни, вражды и ненависти, создание у пользователей ложных предпочтений и т.п., что мы могли видеть недавно на примере политики компании Meta: 11 марта 2022 г. агентство Reuters сообщило, что компания Meta на фоне российской военной операции на Украине разрешит пользователям Facebook и Instagram в некоторых странах призывать к насилию против граждан РФ, российских военных и Владимира Путина; представитель Meta сказал, что компания ослабила правила для «форм политического выражения» 2.
Заключение
Представляется, что общую направленность практикуемых и закрепляемых нормативно на уровне Конституции и ее судебного и доктринального толкования положений законов, включая их проекты, ограничений прав и свобод человека в современный период, на примере Индии можно описать как стремление найти обоснование таких ограничений в большом значимом общественном интересе, подлежащем защите приоритетно перед защитой интересов частных лиц. Конечно, когда речь идет о значительных группах лиц, такой подход, вероятно, оправдан со стороны государства, ибо большая свобода порождает неуправляемость. Вместе с тем сложность здесь, по нашему мнению, состоит в том, чтобы не сорваться в безграничный неконтролируемый произвол со стороны властей в попытке защитить ту или иную группу лиц или интерес. Отвечая же на вопрос, поставленный в статье относительно необходимых ограничений прав ИИ, если уж моделировать ИИ по образцу конституционной модели человека, то ограничения, налагаемые на последнего, поначалу неминуемо будут возложены и на его «копию» - искусственный интеллект.
1 Трампа заблокировали в соцсетях. Законно ли это. 11 янв 2021. URL: https://www.rbc.ru/technology_and_media/11/01/2021/5ifc13cb9a794777cf0cbb13 (дата обращения: 04.04.2022).
2 Munsif Vengattil and Elizabeth Culliford. Facebook allows war posts urging violence against Russian invaders. URL: https://www.reuters.com/world/europe/exclusive-facebook-instagram-temporarily-allow-calls-violence-against-russians-2022-03-10/ (дата обращения: 04.04.2022).
Список литературы
Аристов Е.В. 2015. Государство благосостояния в Южно-Африканской Республике. Исторические, философские, политические и юридические науки, культурология и искусствоведение. Вопросы теории и практики, 12: 22-25.
Аристов Е.В. 2015а. Понятие и концепция общественного блага. Право и современные государства, 5: 10-16.
Аристов Е.В. 2015. Социальность государства в Индии. Нравственные императивы в праве, 3: 19-28.
Аристов Е.В. 2017. Социальность государства в правовых позициях Верховного суда Индии. Право и государство: теория и практика, 3: 114-118.
Аристов Е.В. 2016. Тенденции и перспективы развития законодательства Российской Федерации во исполнение конституционного принципа социальности государства. Образование. Наука. Научные кадры, 3: 16-19.
Беликова К.М. 2021. Направления и перспективы развития и применения искусственного интеллекта в военной сфере в ЮАР. Право и политика, 9: 1-23.
Беликова К.М., Ахмадова М.А. 2022. Правовое регулирование новых военных технологий в свете законодательства об интеллектуальной собственности и ответственность ученого в странах БРИКС. Изд.: Типография ООО "МДМпринт" (Печатный салон МДМ), 528 с.
Беликова К.М. 2021a. Развитие искусственного интеллекта в Бразилии: акцент на военную сферу и вопросы интеллектуальной собственности. Право и политика, 10: 1-21.
Беликова К.М. 2021b. Современные военные технологии и ответственность ученого, создателя, оператора и др.: некоторые подходы стран БРИКС. Пробелы в российском законодательстве, 6: 142-150.
Беликова К.М. 2011. Социально-ориентированные императивы в латиноамериканских гражданских кодексах. Нравственные императивы в праве, 3: 39-46.
Беликова К.М. 2013. Экономика права в свете «неэкономической» концепции эффективности как компенсационного социального равновесия: взаимосвязь равновесия интересов и благосостояния. Экономика и право. XXI век, 3: 7-13.
Бондарь Н.С. 2019. Информационно-цифровое пространство в конституционном измерении: из практики Конституционного Суда Российской Федерации. Журнал российского права, 11: 25-42.
Наумов А.О., Положевич Р.С. 2018. «Мягкая сила» Индии как суверенного государства: история и современность (Часть II). Государственное управление. Электронный Вестник, 70: 291-328.
Нечкин А.В. 2020. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее. Lex russica, 8: 78-85.
Belikova K.M. 2021. Marco legal para o uso da inteligencia artificial na esfera militar da India no contexto da prote^äo dos direitos de patente (Legal framework for the use of artificial intelligence in India's military sphere in the context of patent rights protection). Laplage Em Revista, 7(2): 671-690.
Jobin A., Ienca M. and Vayena E. 2019. The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1: 389-399.
Köhler G. 2014. Is There an «Asian Welfare State Model» East and South Asian Trajectories and Approaches to the Welfare State. A presentation made to the Conference "Re-Thinking Asia II. Building New Welfare States: What Asia and Europe can learn from each other", organized by the Friedrich-Ebert-Stiftung (FES) on 28-29 October 2013 in Tutzing, Germany: р. 5
Koops E.-J., Di Carlo A., Nocco L., Casamassima V., Stradella E. 2013. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework. International Journal of Technoethics, 2: 1198-1219.
Mittelstadt, B., Patrick, A., Taddeo, M., Wachter, S & Floridi, L. 2016. The Ethics of Algorithms: Mapping the Debate. Big Data & Society, р. 3.
Seth S. 2017. Machine Learning and Artificial Intelligence Interactions with the Right to Privacy. Economic and Political Weekly, 51: 66-70.
Welfare state and education. 1986. Rao, M V. Rama. Public policy formulation: a study of national policy on education. Thesis. Guided by Sudershanam, G. Completed 29/12/1999 at the Department of Political Science, University of Hyderabad: р. 26.
References
Aristov E.V. 2015. Gosudarstvo blagosostoyaniya v YUzhno-Afrikanskoi Respublike. Istoricheskie, filosofskie, politicheskie i yuridicheskie nauki, kul'turologiya i iskusstvovedenie [The welfare State in the Republic of South Africa. Historical, philosophical, political and legal sciences, cultural studies and art studies]. Voprosy teorii i praktiki, 12: 22-25.
Aristov E.V. 2015 a. Ponyatie i koncepciya obshchestvennogo blaga [The concept and concept of the public good]. Pravo i sovremennye gosudarstva, 5: 10-16.
Aristov E.V. 2015. Social'nost' gosudarstva v Indii [Sociality of the state in India]. Nravstvennye imperativy v prave, 3: 19-28.
Aristov E.V. 2017. Social'nost' gosudarstva v pravovyh poziciyah Verhovnogo suda Indii [Sociality of the state in the legal positions of the Supreme Court of India]. Pravo i gosudarstvo: teoriya i praktika, 3: 114-118.
Aristov E.V. 2016. Tendencii i perspektivy razvitiya zakonodatel'stva Rossiiskoi Federacii vo ispolnenie konstitucionnogo principa social'nosti gosudarstva [Trends and prospects of development of the legislation of the Russian Federation in compliance with the constitutional principle of sociality of the state]. Obrazovanie. Nauka. Nauchnye kadry, 3: 16-19.
Belikova K.M. 2021. Napravleniya i perspektivy razvitiya i primeneniya iskusstven-nogo intellekta v voennoj sfere v YUAR [Directions and prospects for the development and application of artificial intelligence in the military sphere in South Africa]. Pravo i politika, 9: 1-23.
Belikova K.M., Ahmadova M.A. 2022. Pravovoe regulirovanie novyh voennyh tekhnologij v svete zakonodatel'stva ob intellektual'noj sobstvennosti i otvetstvennost' uchenogo v stranah BRIKS [Legal regulation of new military technologies in the light of intellectual property legislation and the responsibility of a scientist in the BRICS countries]. M., Publ. Printing house LLC "MDMprint" (MDM Printing salon), 528 p.
Belikova K.M. 2021a. Razvitie iskusstvennogo intellekta v Brazilii: akcent na voennuyu sferu i voprosy intellektual'noj sobstvennosti [The development of artificial intelligence in Brazil: emphasis on the first sphere and intellectual property issues]. Pravo i politika. 10: 1-21.
Belikova K.M. 2021b. Sovremennye voennye tekhnologii i otvetstvennost' uchenogo, sozdatelya, operatora i dr.: nekotorye podhody stran BRIKS [Modern military technologies and the responsibility of a scientist, creator, operator, etc.: some approaches of the BRICS countries]. Probely v rossijskom zakonodatel'stve, 6: 142-150.
Belikova K.M. 2011. Social'no-orientirovannye imperativy v latinoamerikanskih grazhdanskih kodeksah [Socially-oriented imperatives in Latin American civil codes]. Nravstvennye imperativy v prave, 3: 39-46.
Belikova K.M. 2013. Ekonomika prava v svete «neekonomicheskoj» koncepcii effektivnosti kak kompensacionnogo social'nogo ravnovesiya: vzaimosvyaz' ravnovesiya in-teresov i blagosostoyaniya [The economics of law in the light of the «non-economic» concept of efficiency as a compensatory social equilibrium: the relationship between the balance of interests and well-being]. Ekonomika i pravo. XXI vek, 3: 7-13.
Bondar' N.S. 2019. Informacionno-cifrovoe prostranstvo v konstitucionnom izmerenii: iz praktiki Konstitucionnogo Suda Rossijskoj Federacii [Information and digital space in the constitutional dimension: from the practice of the Constitutional Court of the Russian Federation]. ZHurnal rossijskogo prava, 11: 25-42.
Naumov A.O., Polozhevich R.S. 2018. «Myagkaya sila» Indii kak suverennogo gosudar-stva: istoriya i sovremennost' (CHast' II) [«Soft Power» of India as a Sovereign state: History and Modernity (Part II)]. Gosudarstvennoe upravlenie. Elektronnyj Vestnik, 70: 291-328.
Nechkin A.V. 2020. Konstitucionno-pravovoj status iskusstvennogo intellekta v Rossii: nastoyashchee i budushchee [Constitutional and legal status of artificial intelligence in Russia: present and future]. Lex russica, 8: 78-85.
Belikova K.M. 2021. Marco legal para o uso da inteligencia artificial na esfera militar da India no contexto da prote^ao dos direitos de patente (Legal framework for the use of artificial intelligence in India's military sphere in the context of patent rights protection). Laplage Em Revista, 7(2): 671-690.
Jobin A., Ienca M. and Vayena E. 2019. The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1: 389-399.
Köhler G. 2014. Is There an «Asian Welfare State Model». East and South Asian Trajectories and Approaches to the Welfare State. A presentation made to the Conference "Re-Thinking Asia II. Building New Welfare States: What Asia and Europe can learn from each other", organized by the Friedrich-Ebert-Stiftung (FES) on 28-29 October 2013 in Tutzing, Germany: p. 5. Koops E.-J., Di Carlo A., Nocco L., Casamassima V., Stradella E. 2013. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework. International Journal of Technoethics, 2: 1198-1219. Mittelstadt,B., Patrick, A., Taddeo, M., Wachter, S & Floridi, L. 2016. The Ethics of Algorithms:
Mapping the Debate. Big Data & Society, p. 3. Seth S. 2017. Machine Learning and Artificial Intelligence Interactions with the Right to Privacy.
Economic and Political Weekly, 51: 66-70. Welfare state and education. 1986. Rao, M V. Rama. Public policy formulation: a study of national policy on education. Thesis. Guided by Sudershanam, G. Completed 29/12/1999 at the Department of Political Science, University of Hyderabad: p. 26.
Конфликт интересов: о потенциальном конфликте интересов не сообщалось. Conflict of interest: no potential conflict of interest related to this article was reported.
ИНФОРМАЦИЯ ОБ АВТОРАХ
Аристов Евгений Вячеславович, доктор юридических наук, доцент, профессор кафедры административного и конституционного права, Пермский государственный национальный исследовательский унивеси-тет, г. Пермь, Россия
(ЖСГО 0000-0003-2445-3840
INFORMATION ABOUT THE AUTHORS
Evgenii V. Aristov, Doctor of Law, Associate Professor, Professor of the Department of Administrative and Constitutional Law, Perm State National Research University, Perm, Russia
Беликова Ксения Михайловна, доктор юридических наук, профессор, профессор кафедры гражданского права и процесса и международного частного права Юридического института Российского университета дружбы народов, г. Москва, Россия
(ЖСГО 0000-0001-8068-1616
Ksenia M. Belikova, Doctor of Law, Professor, Professor of the Department of Civil Law and Procedure and International Private Law of Law Institute of Peoples' Friendship University of Russia (RUDN University), Moscow, Russia
