Научная статья на тему 'Регулирование на основе данных: от верховенства права к публичным программам лояльности'

Регулирование на основе данных: от верховенства права к публичным программам лояльности Текст научной статьи по специальности «Право»

CC BY
102
20
i Надоели баннеры? Вы всегда можете отключить рекламу.
Журнал
Антиномии
ВАК
RSCI
Область наук
Ключевые слова
правовое государство / правовое регулирование / система социального кредита / цифровая трансформация / цифровой профиль / этика / комплаенс / большие данные / rule of law / legal regulation / social credit system / digital transformation / digital profile / ethics / compliance / big data

Аннотация научной статьи по праву, автор научной работы — Рувинский Р.З.

В центре внимания статьи – долгосрочные тенденции развития системы регулирования общественных отношений, определяемые внедрением в сферу публичного управления цифровых технологий обработки репутационных данных о поведении и характеристиках индивидов и организаций. В первой части работы рассматривается сложившийся в эпоху модерна режим верховенства права, подчеркиваются его уязвимые стороны и сложность поддержания в условиях современных вызовов, заставляющих мировые элиты коренным образом реформировать социальные институты и подсистемы (экономику, энергетику, здравоохранение и т.д.). Вторая часть посвящена характеристике существующих технологий регулирования на основе данных, рассмотрению их трансформирующего воздействия на режим верховенства права. В третьей части представлена прогнозная характеристика формирующейся системы социальной регуляции; особое внимание уделено роли этических норм в конструировании новой системы социального регулирования поверх и вместо институтов правового государства. Подчеркивается, что механизмы регулирования и контроля, основанные на интеллектуальном анализе данных и нередко предполагающие оценку поведения субъектов, надстраиваются над системами позитивного права, однако легко могут быть использованы для расширения контроля органов власти в общественных отношениях, выходящих за пределы сферы правового регулирования. Такие механизмы могут включать повышенные требования для доступа к социальным благам, требовать соблюдения не только правовых, но и морально-этических норм, профессиональных стандартов и произвольным образом истолкованных обычаев. Делается вывод, что итогом датафикации регулирования является фактическое замещение механизма правового регулирования расширенными системами комплаенса, зачастую основанными на непрозрачных нормах неясного происхождения. Институты правового государства и режим верховенства права, предполагающие определенность нормоустановления и демократический контроль за правотворчеством, заменяются программами лояльности, воспитывающими лишь послушание.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Data-Driven Regulation: From the Rule of Law to Public Loyalty Programs

The article focuses on the long-term trends in the development of a regulatory mechanism of social relations, determined by the introduction of digital technologies for processing reputational data on the behavior and characteristics of individuals and organizations into the public administration. The first part of the research examines the regime of the rule of law established in the age of modernity, highlights its vulnerabilities and the difficulty of maintaining it in the face of specific modern challenges forcing the world elites to fundamentally reform social institutions and subsystems (economy, energy, healthcare, etc.). The second part is devoted to the characterization of existing data-driven regulation technologies, considering their transformative impact on the rule of law regime. The third part presents predictive characteristics of the emerging system of social regulation; special attention is paid to the role of ethical norms in constructing a new system of social regulation over and instead of the institutions of the rule of law. It is emphasized that modern mechanisms of regulation and control, based on intelligent data analysis and often involving some form of assessment of the behavior of subjects, are super-structured over existing systems of positive law, but can easily be used to expand the control of authorities in public relations that go beyond the scope of legal regulation. Such mechanisms may include increased requirements for access to social goods and require compliance not only with legal, but also with moral and ethical norms, professional standards, and arbitrarily interpreted customs. The author concludes that the regulatory datafication results in the actual replacement of the mechanism of legal regulation by extended compliance systems, often based on opaque norms of unclear origin. The institutions of the rule of law and the regime of the supremacy of law, presupposing the certainty of norm-setting and democratic control over lawmaking, are being replaced by loyalty programs fostering only obedience.

Текст научной работы на тему «Регулирование на основе данных: от верховенства права к публичным программам лояльности»

ПРАВО LAW

IRL

Рувинский Р.З. Регулирование на основе данных: от верховенства права к публичным программам лояльности // Антиномии. 2023. Т. 23, вып. 1. С. 123-147. https://doi.org/ 10.17506/26867206_2023_23_1_123

УДК 340.15

DOI 10.17506/26867206_2023_23_1_123

Регулирование на основе данных: от верховенства права к публичным программам лояльности

Роман Зиновьевич Рувинский

Нижегородский институт управления - филиал РАНХиГС г. Нижний Новгород, Россия E-mail: ruvinskiy-rz@ranepa.ru

Поступила в редакцию 22.06.2022, поступила после рецензирования 16.11.2022,

принята к публикации 19.12.2022

В центре внимания статьи - долгосрочные тенденции развития системы регулирования общественных отношений, определяемые внедрением в сферу публичного управления цифровых технологий обработки репутационных данных о поведении и характеристиках индивидов и организаций. В первой части работы рассматривается сложившийся в эпоху модерна режим верховенства права, подчеркиваются его уязвимые стороны и сложность поддержания в условиях современных вызовов, заставляющих мировые элиты коренным образом реформировать социальные институты и подсистемы (экономику, энергетику, здравоохранение и т.д.). Вторая часть посвящена характеристике существующих технологий регулирования на основе данных, рассмотрению их трансформирующего воздействия на режим верховенства права. В третьей части представлена прогнозная характеристика формирующейся системы социальной регуляции; особое внимание уделено роли этических норм в конструировании

© Рувинский Р.З., 2023

новой системы социального регулирования поверх и вместо институтов правового государства. Подчеркивается, что механизмы регулирования и контроля, основанные на интеллектуальном анализе данных и нередко предполагающие оценку поведения субъектов, надстраиваются над системами позитивного права, однако легко могут быть использованы для расширения контроля органов власти в общественных отношениях, выходящих за пределы сферы правового регулирования. Такие механизмы могут включать повышенные требования для доступа к социальным благам, требовать соблюдения не только правовых, но и морально-этических норм, профессиональных стандартов и произвольным образом истолкованных обычаев. Делается вывод, что итогом датафикации регулирования является фактическое замещение механизма правового регулирования расширенными системами комплаенса, зачастую основанными на непрозрачных нормах неясного происхождения. Институты правового государства и режим верховенства права, предполагающие определенность нор-моустановления и демократический контроль за правотворчеством, заменяются программами лояльности, воспитывающими лишь послушание.

Ключевые слова: правовое государство, правовое регулирование, система социального кредита, цифровая трансформация, цифровой профиль, этика, комплаенс, большие данные

Благодарности: Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-011-00173.

Data-Driven Regulation: From the Rule of Law to Public Loyalty Programs

Roman Z. Ruvinskiy

Nizhny Novgorod Institute of Management - Branch of RANEPA Nizhny Novgorod, Russia E-mail: ruvinskiy-rz@ranepa.ru

Received22.06.2022, revised 16.11.2022, accepted 19.12.2022

Abstract. The article focuses on the long-term trends in the development of a regulatory mechanism of social relations, determined by the introduction of digital technologies for processing reputational data on the behavior and characteristics of individuals and organizations into the public administration. The first part of the research examines the regime of the rule of law established in the age of modernity, highlights its vulnerabilities and the difficulty of maintaining it in the face of specific modern challenges forcing the world elites to fundamentally reform social institutions and subsystems (economy, energy, healthcare, etc.). The second part is devoted to the characterization of existing data-driven regulation technologies, considering their transformative impact on the rule of law regime. The third part presents predictive characteristics of the emerging system of social regulation; special attention is paid to the role of ethical norms in constructing a new system of social regulation over and instead of the institutions of the rule of law. It is emphasized that modern mechanisms of regulation and control, based on intelligent data analysis and often involving some form of assessment of the behavior of subjects, are super-structured over existing systems of positive law, but can easily be used to expand the control of authorities in public relations that go beyond the scope of legal regulation. Such mechanisms may

include increased requirements for access to social goods and require compliance not only with legal, but also with moral and ethical norms, professional standards, and arbitrarily interpreted customs. The author concludes that the regulatory datafication results in the actual replacement of the mechanism of legal regulation by extended compliance systems, often based on opaque norms of unclear origin. The institutions of the rule of law and the regime of the supremacy of law, presupposing the certainty of norm-setting and democratic control over lawmaking, are being replaced by loyalty programs fostering only obedience.

Keywords: rule of law, legal regulation, social credit system, digital transformation, digital profile, ethics, compliance, big data

Acknowledgements: The reported study was funded by RFBR, project number 20-011-00173.

For citation: Ruvinskiy R.Z. Data-Driven Regulation: From the Rule of Law to Public Loyalty Programs, Antinomies, 2023, vol. 23, iss. 1, pp. 123-147. (In Russ.). https://doi.org/10.17506/26867206_2023_23_1_123

Введение

Очередной номер журнала "The Economist" вышел 6 мая 2017 г. с недвусмысленной иллюстрацией на обложке: несколько нефтяных платформ, подписанных наименованиями американских техгигантов Google, Microsoft, Facebook1 и др., с исходящим от них дымом в виде нулей и единиц - составляющих двоичного кода2. Прозрачный посыл редакции издания: данные - важнейший ресурс в наше время, своего рода «новая нефть». С этой мыслью нельзя не согласиться, ведь за последние годы информация о нашем повседневном поведении, наших привычках, интересах, потребностях сделалась источником колоссальных прибылей для коммерческих компаний, продающих эту информацию рекламодателям и оказывающих влияние на выбор товаров и услуг пользователями онлайн-сервисов. Отдельные ученые отмечают формирование нового экономического порядка, который претендует на человеческий опыт, спрессованный в информацию пользовательских профилей, как на сырье, доступное для коммерческого извлечения, прогнозирования и продажи (Зубофф 2022: 106-107).

Данные - «новая нефть», но при этом они значат гораздо больше, чем просто экономический актив или средство достижения коммерческой прибыли. В переживаемую нами информационную эпоху они становятся также и инструментом управления, ценным административным ресурсом, без которого уже невозможно представить себе деятельность государственных органов. Мы наблюдаем практически повсеместное и все более широкое внедрение в административную практику программных комплексов и систем, основанных на работе с данными, при этом наибольшую значимость среди них, судя по всему, имеют системы, собирающие и анализирующие

1 Принадлежит Meta Platforms, признанной в России экстремистской организацией. Запрещен и заблокирован на территории РФ.

2 The World's Most Valuable Resource Is No Longer Oil, but Data // The Economist. 06.05.2017. URL: https://www.economist.com/leaders/2017/05/06/the-worlds-most-valuable-resource-is-no-longer-oil-but-data (дата обращения: 21.06.2022).

данные о поведении субъектов - индивидов и организаций, позволяющие принимать на основании этих данных соответствующие решения.

Нравится нам это или нет, но внедрение продвинутых информационных технологий в сферу публичного управления не может не отразиться тем или иным образом на облике современного государства и, соответственно, на качествах правопорядка, правовой системы, на сложившихся режимах реализации субъективных прав и границах свободы субъекта. Что происходит с системой социального регулирования? Как развивается право в условиях внедрения систем управления поведением людей, основанных на анализе персональных данных? Как в новых условиях может (и может ли?) обеспечиваться режим верховенства права? Поиску ответов на данные вопросы посвящено настоящее исследование.

Хрупкий режим верховенства права

Одной из характерных черт социального уклада, который принято именовать современным (modern), то есть относящимся к эпохе модерна, является то, что управление и осуществление власти в нем основываются на праве. Как известно, «право» является весьма неоднозначным (скорее, даже многозначным и многогранным) явлением, относительно понимания которого до сих пор не утихают философские и научные споры. Участие в этой дискуссии совершенно не входит в замысел настоящей статьи. Тем не менее, вне зависимости от того, понимаем ли мы под правом лишь исходящие от государства нормы (Голунский, Строгович 1940: 154), признаем ли существование естественного, или надзаконного права (Chloros 1958; Радбрух 2004), видим ли в праве прежде всего специфичные общественные отношения, определенный социальный порядок (Romano 2017: 7-13), необходимо согласиться с тем, что право, во-первых, в любом случае не тождественно морали, во-вторых, способно выступать регулятором поведения людей и их коллективов через предписывание им определенных правил, вменение обязанностей и правомочий.

Историческое развитие общества привело к формированию моделей управления, в рамках которых власть правящих над подданными/гражданами не абсолютна, а сами подданные/граждане сохраняют внутреннюю духовную свободу и связаны только теми нормами, которые затрагивают область их внешних, объективированных вовне поступков и в определенном процедурном порядке объявлены заранее. Несмотря на разнообразие политических режимов, традиций, форм, несмотря даже на существование в мире таких феноменов, как «фасадный конституционализм» (Law, Versteeg 2013) и «фасадная демократия» (Ritter 2015: 19), в целом можно признать, что современные общества так или иначе опираются на идею верховенства права (rule of law), а большинство современных государств заявляет о себе как о «правовых государствах» (Rechtsstaat, l'etat de droit).

Действительно, единодушие в поддержке доктрины верховенства права кажется беспрецедентным (Tamanaha 2004: 3), несмотря на то, что в разных странах, в рамках различных политических режимов она может пониматься очень неодинаково: от куцей, ограничивающейся лишь формальными рам-

ками «диктатуры закона» до содержательно наполненной модели с принципом разделения властей, демократизмом и гарантированием прав человека (Tamanaha 2004: 91-92). Наиболее полные, содержательные модели верховенства права органически соответствуют либерально-рыночному хозяйственному укладу (Tamanaha 2004: 97), тогда как формальные (или «фасадные») модели, сводящиеся преимущественно к голой легальности, характеризуют обычно периферийные и полупериферийные экономики, располагающиеся за пределами ядра капиталистической мир-системы (Chibundu 1999). Вопреки распространенным, в том числе в профессиональном юридическом сообществе, предрассудкам, качества государства как государства «правового», прочность и полнота режима верховенства права определяются не столько какой-то специфической «западной» культурой и «западным» же свободолюбием, сколько материальными экономическими предпосылками, в том числе событиями истории европейского, а затем американского колониализма и неоколониализма, обеспечивших более благоприятные условия для отдельных немногочисленных держав и их ближайших сателлитов (Mattei, Nader 2008: 17-31). Таким образом, следует понимать, что режим верховенства права, в тех или иных своих проявлениях, неразрывно связан с определенным хозяйственным укладом, шире - со всей парадигмой социального развития. Кризисные явления, потрясающие основы существующего хозяйственного уклада, сигнализирующие о достижении пределов развития в рамках заданной парадигмы, вполне способны подорвать или как минимум деформировать и режим верховенства права. В этом смысле так называемое правовое государство (в континентальной традиции, в отличие от традиции англоамериканской, принято указывать на определенные качества государства, а не на «правление права») оказывается весьма хрупкой конструкцией, финал которой предопределен закатом породившего ее уклада и завершением определенной - индустриальной - исторической эпохи.

Череда кризисов в экономике, политике, социальной сфере и международных отношениях, открытая мировым финансовым кризисом 20082009 гг. и с тех пор лишь растущая как снежный ком, заставила правительства даже наиболее развитых западных стран пересмотреть свои взгляды на доктрину верховенства права и отказаться от попыток реализации наиболее наполненных, с содержательной точки зрения, моделей правового государства. Обеспечение всеобщего благоденствия, широких свобод и демократического участия в отправлении власти сопряжено со значительными финансовыми, временными и управленческими издержками, а сами эти блага оказываются слишком дорогим «удовольствием» в условиях, когда требуется на ходу отвечать на специфически новые вызовы, в ускоренном порядке принимать решения и кардинальным образом реформировать социальные институты и подсистемы (экономику, энергетику, здравоохранение и т.д.). Как можно было убедиться в период пандемии COVID-19, сегодня правительства очень разных стран мира, в том числе «патентованных» демократий, не стесняются пренебрегать даже некоторыми формальными составляющими режима верховенства права, в том числе следованием должной процедуре (due process) при принятии общезначимых решений и

уважением гарантированных конституцией прав (Platon 2020). Быть может, мир оказался в слишком неблагоприятной ситуации, а сложность накопившихся проблем, так или иначе связанных с обеспечением управления социальными процессами, не позволяет сегодня относиться к доктрине верховенства права как к священной ценности? Специфически современные вызовы, встающие перед правящими кругами, логичным образом требуют перестройки модели управления обществом, принципов отправления власти, а вместе с ними - системы нормативного регулирования поведения социальных акторов. К счастью, решение, способное существенно снизить управленческие издержки и добиться большей предсказуемости общественных процессов, кажется найденным: новейшие цифровые технологии сбора и анализа данных постепенно становятся основой для реформирования публичного управления и воздействия на поведение субъектов. Так называемая цифровая трансформация репрезентуется в публичном дискурсе как неизбежность, как очевидное, объективно необходимое благо (Зубофф 2022: 291-295). Стоит лишь разобраться с тем, что она несет с собой для верховенства права и вообще для современных правовых систем.

Системы регулирования на основе данных: шанс для верховенства права или его могильщики?

Сегодня уже никого нельзя удивить тем, что для получения нового паспорта, обращения с заявлением на выплату пособия на ребенка или уплаты штрафа за нарушение правил дорожного движения достаточно открыть мобильное приложение: пара кликов, и дело сделано! Электронные сервисы, внедряемые правительствами по всему миру, позволяют гражданину взаимодействовать с органами государства без необходимости выстаивать долгие очереди лишь для того, чтобы, получив какую-нибудь справку, отнести ее в другое ведомство для обращения за очередным документом. Межведомственный документооборот максимально упрощен: госорганы получают интересующую их информацию о физическом или юридическом лице из соответствующих баз данных, в электронном формате; сами же базы данных взаимосвязаны и включены в системы обмена информацией. Удобно, но на самом деле это лишь наиболее зримая и понятная обывателю сторона процесса выстраивания принципиально нового публичного управления, его нижний ярус. Невозможно точно сказать, в какой степени контроль осознавался изначально инициаторами цифровизации госсектора в качестве ее функции, однако сегодня, несомненно, именно контроль - понимаемый в широком смысле, как контроль над поведением субъектов -выступает основным модусом развития проектов так называемого цифрового государственного управления.

Подобно тому как в коммерческом секторе данные о человеке и создаваемые человеком, так называемый поведенческий излишек (Зубофф 2022: 126-131), представляют интерес как источник прибыли, получаемой за счет их превращения в прогнозные продукты и воздействия на потребительские решения, в сфере публичного управления они оказываются исходным ресур-

сом для воздействия на правовое поведение субъектов и реализации адресной правовой политики, адресных административно-регуляторных мероприятий. Сбор и анализ данных о гражданах и организациях, их прошлых поведенческих актах, текущих финансово-экономических (например, о размере собственных средств), медицинских (например, о наличии хронических заболеваний), правовых (судимость, прохождение процедуры банкротства) и иных характеристиках делают возможным, во-первых, прогнозирование поведения соответствующих лиц в будущем, во-вторых, ранжирование субъектов в зависимости от предназначенных им публичных услуг/мер принуждения, в-третьих, автоматизированное принятие решений в их отношении. Ранжирование, то есть разделение адресатов управленческих мероприятий на некие множества, вовсе не обязательно предполагает какую-либо дискриминацию - по крайней мере, в качестве непосредственной цели такой управленческой стратегии - но позволяет административным органам более точно воздействовать на определенные группы, поощрять за желательное поведение и, возможно, наказывать за поведение нежелательное.

Различные правительственные проекты, предполагающие сбор, анализ, учет и оценку поведенческих данных о физических и юридических лицах, либо служащие, как кажется на первый взгляд, лишь средствами идентификации, планомерно помещают субъекта в своего рода цифровой контур - пространство взаимодействия с органами власти, а также с другими частными лицами, доступное для машинного считывания и алгоритмического анализа. Логика таких проектов кажется предельно простой: как можно большая часть поведенческих актов субъекта должна осуществляться в цифровом формате, с помощью соответствующих программных средств (мобильных приложений, интернет-порталов и т.д.); поведенческие акты, осуществляемые в реальном, материально-осязаемом мире, то есть в «аналоговом» формате, должны быть преобразованы в формат цифровой -тогда регулировать поведение людей можно будет не столько посредством предписывания, вменения обязанностей и прав, сколько через цифровое посредничество. Хотя пока об этом можно говорить, скорее, как о близкой перспективе, чем как о свершившемся факте, цифровое профилирование, то есть сбор данных о каждом лице с возможностью их автоматизированного анализа и принятия решений1, создание своего рода цифровых двойников, или аватаров (Виноградова, Полякова, Минбалеев 2021: 11), и опосредование поведения субъектов в рамках общественных отношений цифровыми технологическими инструментами в различных их проявлениях (сюда следует отнести как удобные мобильные приложения наподобие разрабатываемых Минцифры РФ «Госуслуг», так и системы городского видеонаблюдения с функцией распознавания лиц) открывают дорогу кардинальной

1 Юридическая дефиниция профилирования содержится в п. 71 преамбулы Общего регламента по защите данных, действующего в Евросоюзе. См.: General Data Protection Regulation 2016/679 of the European Parliament and of the Council of 27 April 2016 // EUR-Lex. Access to European Union Law. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32016R0679 (дата обращения: 21.06.2022).

перестройке сложившихся ранее систем правового регулирования, правоприменения и публичного управления.

Основным фактором этой перестройки является постепенное формирование системы допусков и ограничений, в рамках которой разным категориям лиц, цифровые профили которых содержат различные данные, значимые для принятия административных решений того или иного рода, предоставляются неодинаковые возможности правореализационных действий и адресуются различные управленческие меры (неодинаковые по объему и содержанию публичные услуги, правоограничительные меры, меры принуждения). Субъект, оказавшийся в пространстве, опосредуемом электронными платформами и системами интеллектуального анализа данных, во-первых, вынужден принимать установленные для него допуски и ограничения (преодолеть их он чаще всего не способен), во-вторых, созданными для него фактическими условиями направляется к совершению ожидаемых от него поступков, к следованию ожидаемой модели поведения. Такое регулирование, при котором органы власти могут меньше предписывать в форме писаных позитивно-правовых установлений, в зарубежной научной литературе именуется труднопереводимым словосочетанием - regulation by design (Yeung 2017), то есть регулирование посредством проектирования определенных фактических условий, посредством социальной инженерии, создания определенного социального дизайна. Очевидно, что данный феномен представляет собой кульминацию развития инструментов и методов управления, которые французский философ М. Фуко описывал как устройства безопасности (dispositifs de sécurité): тогда как «дисциплинарное^ все время указывает вам на то, что вы должны делать», а «в системе закона все, что не подверглось определению, является разрешенным», определяющей чертой работы устройств безопасности является «регуляция в пространстве самой реальности» (Фуко 2011: 72-75).

Если государственные органы владеют актуальной базой данных о подконтрольных им миллионах физических и юридических лиц и имеют возможность просеивать эти данные через аналитические алгоритмы, значит, они в состоянии устанавливать критерии и пределы допуска к тем или иным услугам, площадкам, местам и общественным отношениям. Благодаря выстраиванию системы допусков, в рамках которой какие-то возможности для субъекта могут быть блокированы, поставлены под условие или ограничены периодом времени, становится доступным наделение правомочиями и ограничение правомочий без вынесения индивидуально адресованных правоприменительных актов, лишь в рамках ранее принятого одиночного нормативного решения. Так, в период коронавирусной пандемии московская мэрия блокировала действие транспортных карт жителей столицы старше 60 лет и москвичей с хроническими заболеваниями; разблокировка карт осуществлялась в автоматическом режиме после поступления сведений о прохождении вакцинации из Единой медицинской информационно-аналитической системы. С 1 июня 2022 г. в России действует федеральный закон, требующий от зрителей оформления электронной персонифицированной карты (Fan ID) для посещения спортивных соревнований и ставящий допуск болельщика к месту проведения соревнований в зависимость

от содержания сведений о нем в специальной информационной системе идентификации1. Принцип допусков, напрямую связанных с данными цифровых профилей (причем не только физических, но и юридических лиц), может быть распространен практически на любую сферу общественных отношений: получение пособий и льгот, лицензирование, участие в госзакупках, банкинг, страхование, выезд за рубеж, приобретение авиа- и железнодорожных билетов, бронирование гостиниц, поступление в учебные заведения, трудовые отношения и т.д.

В каком-то смысле в мире цифровой архитектуры допусков и ограничений, ранжирования субъектов и предсказания их вероятного поведения механизм юридической ответственности как ответственности за правонарушение становится даже излишним2. В то время как для привлечения лица к юридической ответственности требуется, как правило, доказывание факта противоправного деяния и вины субъекта, а также следование определенной, зачастую довольно-таки сложной процедуре, блокирование допусков может осуществляться в автоматическом, алгоритмически заданном порядке, то есть безусловно. Таким образом, данные из соответствующих источников (информационных систем, электронных реестров и т.п.) могут выступать не только в качестве доказательств противоправного поведения, но и в качестве самоисполняющихся оснований (элементов алгоритма) для применения рестрикций вне рамок механизма юридической ответственности. Вина, мотивы, вообще субъективная сторона того или иного поступка утрачивают прежнее значение. Достаточно того, что ваше поведение в настоящем или прошлом - даже если оно не нарушает формальных запретов - не соответствует заданным параметрам «допустимого»/ожидаемого либо позволяет спрогнозировать нежелательные последствия ваших поведенческих актов в будущем: в таком случае вы просто оказываетесь отрезанными от определенных благ или областей общественных отношений.

Описанное выше вовсе не сюжет из научной фантастики, ведь основанные на обработке данных системы регуляции, контроля и при необходимости ограничения правомочий субъектов уже существуют. Наиболее масштабным из проектов, направленных на использование данных о поведении субъектов для осуществления регулирующего воздействия на них, на сегодняшний день является действующая в КНР система социального кредита далее - ССК). Это многомодульный проект, основой которого выступает платформа межведомственного и государственно-частного обмена юридически и социально значимой информацией о гражданах, организациях и даже структурных элементах госаппарата. Государственные органы на

1 Федеральный закон от 30.12.2021 г. № 462-ФЗ «О внесении изменений в Федеральный закон "О физической культуре и спорте в Российской Федерации"» // Президент России. URL: http://www.kremlin.ru/acts/bank/47465 (дата обращения: 21.06.2022).

2 По крайней мере, благодаря цифровым инструментам управления наряду с механизмом юридической ответственности и иными традиционными средствами правового принуждения вырастает система принудительных и правоограничитель-ных мер, основывающихся на репутационной оценке поведения и осуществляемых в автоматическом режиме.

национальном, региональном и местном уровнях ведут реестры недобросовестных («подрывающих доверие») и образцово законопослушных участников общественных отношений в подведомственных им отраслях; информация из этих реестров - «черных» и «красных» списков - раскрывается через национальную и региональные платформы информационного обмена; различные государственные ведомства и сотрудничающие с ними частные корпоративные образования применяют согласованные правоограничительные и поощрительные меры к лицам, включенным в соответствующие реестры (Bach 2020; Backer 2019: 132-137; Blomberg 2018).

Содержимое ведомственных реестров и обмен им определяют допуски и ограничения для того или иного лица. Еще совсем недавно, судя по наблюдениям экспертов, значительная часть социально-кредитной информации вносилась в базы данных вручную, а «черные» и «красные» списки велись едва ли не в таблицах Excel1, однако очевидно, что такое технологическое несовершенство является временным. Как указывает один из китайских правоведов, ССК аккумулирует большие массивы данных о коммерческих сделках, данные из социальных сетей, систем видеонаблюдения и т.п., чтобы сделать возможными динамический, комплексный, осуществляемый в реальном времени анализ и предсказание поведенческих характеристик субъектов (Yu 2020). Отмечая, что обработка персональных данных субъектов должна обеспечивать формирование голографических (многомерных) цифровых портретов социально-кредитных субъектов, китайский автор напрямую связывает ССК с технологиями анализа больших данных и искусственным интеллектом (Yu 2020).

Одной из «фирменных» и при этом наиболее обсуждаемых за пределами КНР черт ее ССК является экспериментирование с рейтинговой оценкой субъектов (Bach 2020: 494-495). Очевидно, что такая оценка становится возможной лишь благодаря цифровому профилированию и интеллектуальному анализу данных о субъектах правоотношений, вернее, об адресатах ^объектах) мер правовой политики государства (Рувинский 2021: 71). Вопреки распространенным слухам, на сегодняшний день в КНР нет единой системы балльного рейтингования за социально полезное и социально вредное поведение. Проекты социального скоринга развиваются пока на уровне отдельных муниципальных образований, и штрафная функция выражена в них значительно слабее, нежели функция поощрения. Тем не менее, несомненно, что ранжирование субъектов в рамках лишь отдельных областей отношений (отдельно для государственно-служебных отношений, отдельно для целей лицензирования, предоставления субсидий и льгот и т.д.) или же в комплексном формате, охватывающем одновременно несколько сфер общественной жизни, является логичным продолжением цифрового профилиро-

1 Understanding China's Social Credit System: A Big-Picture Look at Social Credit as It Applies to Citizens, Businesses and Government // Trivium Social Credit. Tracking China's Social Credit System. 23.09.2019. URL: http://socialcredit.triviumchina.com/wp-content/uploads/2019/09/Understanding-Chinas-Social-Credit-System-Trivium-China-20190923.pdf (дата обращения: 21.06.2022).

вания, необходимым элементом выстраивания системы регулирования на основе данных. Балльно-рейтинговая оценка является при этом наиболее понятной и непосредственной, но отнюдь не единственно возможной формой социального ранжирования.

Необходимо признать, что китайская ССК на сегодняшний день - наиболее масштабный и, вероятно, наиболее развитый проект, предполагающий регулирование и контроль через сбор и анализ данных. Впрочем, масштабность во многом связана с тем, что под ее брендом в действительности функционирует целый ряд взаимосвязанных, но все же в значительной мере автономных проектов, относимость которых к ССК может быть весьма условной. Так, невозможно однозначно сказать, относится ли к структурным компонентам ССК китайская система видеонаблюдения, являющаяся одной из наиболее продвинутых в мире как в технологическом плане, так и в плане охвата территории и населения1. Как бы то ни было, ошибкой было бы думать, будто регулирование и контроль на основе данных есть некое китайское ноу-хау. Если внимательно осмотреться по сторонам, можно убедиться, что подобные проекты уверенно внедряются и за пределами Китая.

Системы электронной, в том числе биометрической, идентификации и аутентификации граждан в настоящее время развиваются по всему миру: без них невозможно профилирование, а следовательно, невозможны автоматизированный пруденциальный контроль и реализация системы допусков и ограничений. Практически во всех развитых странах сегодня функционируют системы автоматической регистрации и видеоанализа событий, позволяющие распознавать и идентифицировать индивидов в режиме реального времени. Они нужны не столько для функционирования системы допусков, сколько для контроля, фиксации данных и наказания за нарушение запретов. В период пандемии коронавирусной инфекции в ряде европейских стран, включая Болгарию, Литву, Польшу, Хорватию, правительства использовали функцию отслеживания местонахождения мобильных устройств лиц, находящихся на карантине2. В некоторых странах, в том числе в Катаре3, гражда-

1 Bischoff P. 2022. Surveillance Camera Statistics: Which Cities Have the Most CCTV Cameras? // Comparitech. 11.07.2022. URL: https://www.comparitech.com/vpn-privacy/ the-worlds-most-surveilled-cities/ (дата обращения: 21.06.2022); Polyakova A., Meserole C. 2019. Exporting Digital Authoritarianism: The Russian and Chinese Models // Brookings. URL: https://www.brookings.edu/research/exporting-digital-authoritarianism/ (дата обращения: 21.06.2022).

2 Knowledge Hub: COVID-19 Contact Tracing Apps in the EU // Liberties. 02.06.2021. URL: https://www.liberties.eu/en/stories/trackerhub5-legal-acts/43539 (дата обращения: 21.06.2022); Bulgaria: Tracking Mobile Devices and Data Protection - Where Do We Draw the Line? // ICLG. 15.04.2020. URL: https://iclg.com/briefing/11435-bulgaria-tracking-mobile-devices-and-data-protection-where-do-we-draw-the-line (дата обращения: 21.06.2022).

3 См.: Sadek G. Qatar: Installing COVID-19 Tracing App on Mobile Phones and Wearing Face Masks among Recent Mandatory Anti-pandemic Measures Instituted by Authorities // The Library of Congress. 11.06.2020. URL: https://www.loc.gov/item/ global-legal-monitor/2020-06-11/qatar-installing-covid-19-tracing-app-on-mobile-phones-and-wearing-face-masks-among-recent-mandatory-anti-pandemic-measures-instituted-by-authorities/ (дата обращения: 21.06.2022).

нам вменялось в обязанность устанавливать на свои мобильные устройства приложения, позволяющие следить за их перемещениями.

В России, судя по сообщениям СМИ, ведется работа по созданию цифровой инфраструктуры учета и оценки поведения иностранных трудовых мигрантов. Среди возможных шагов в данном направлении в разное время назывались запуск мобильного приложения, фиксирующего «рейтинг социального доверия мигранта»1, а также создание архитектуры цифрового профиля мигранта с биометрической информацией и сведениями социально-правового характера2. В 2020 г. было издано распоряжение Правительства РФ, утвердившее в новой редакции План мероприятий по реализации в 2020-2022 гг. Концепции государственной миграционной политики Российской Федерации на 2019-2025 гг. В п. 24 данного документа предусмотрена подготовка в срок до второго квартала 2021 г. «описания технических требований и условий создания государственной информационной инфраструктуры, необходимой для обеспечения функционирования создаваемых миграционных правил, электронных сервисов и механизмов контроля» и включающей в себя в том числе цифровой профиль иностранного гражданина3. На момент подготовки настоящей статьи информация о запуске подобных проектов отсутствует: очевидно, программная инфраструктура находится все еще в стадии разработки.

В апреле 2022 г. был подписан президентский указ, предусматривающий создание государственной информационной системы противодействия коррупция «Посейдон»4. Из содержания документа следует, что система должна будет собирать и анализировать разнообразные данные, касающиеся государственных служащих, в том числе сведения об их доходах. Вероятно, анализу будут подвергнуты также данные о расходах госслужащих, сведения об исполнении ими своих должностных обязанностей, информация из социальных сетей и СМИ. Насколько автоматизированной будет работа системы и каким образом будет осуществляться обработка данных, указ представления не дает.

Еще более любопытен проект, внедряемый в настоящее время в итальянских городах Риме и Болонье и нацеленный на стимулирование соци-

1 Мигрантов могут обязать устанавливать особое приложение на смартфонах // Вести.ру. 29.05.2020. URL: https://www.vesti.ru/finance/article/2415327 (дата обращения: 21.06.2022).

2 В России создадут единую базу цифровых профилей иностранцев, пребывающих в стране // ТАСС. 29.03.2021. URL: https://tass.ru/obschestvo/11014899 (дата обращения: 21.06.2022).

3 Распоряжение Правительства РФ от 30.05.2020 г. № 1452-р «О внесении изменений в распоряжение Правительства РФ от 22.02.2019 № 265-p» // Судебные и нормативные акты РФ. URL: https://sudact.ru/law/rasporiazhenie-pravitelstva-rf-ot-30052020-n-1452-r/ (дата обращения: 21.06.2022).

4 Указ Президента РФ от 25.04.2022 г. № 232 «О государственной информационной системе в области противодействия коррупции "Посейдон" и внесении изменений в некоторые акты Президента Российской Федерации» // Президент России. URL: http://www.kremlin.ru/acts/bank/47769 (дата обращения: 21.06.2022).

ально полезного поведения граждан. Мобильное приложение, именуемое «умный кошелек гражданина» (Smart Citizen Wallet), по замыслу его разработчиков, должно функционировать наподобие программ лояльности в современных супермаркетах, когда следование ожидаемой модели поведения позволяет потребителю накапливать скидочные баллы и приобретать товары по более выгодным ценам1. По словам М. Бугани, асессора по цифровизации администрации Болоньи, «граждане будут поощряться, если будут раздельно сортировать мусор, пользоваться общественным транспортом, разумно расходовать энергию, не будут иметь взысканий от муниципальных властей, будут активно пользоваться картой "Культура"»2. Стоит обратить внимание на то, что Smart Citizen Wallet предполагает учет поведения горожан за пределами сферы правового регулирования либо на границе правового регулирования. Пользование общественным, а не личным транспортом и активное посещение культурных мероприятий по специальной муниципальной карте, разумеется, не относятся к юридическим обязанностям гражданина. Однако уже сам факт того, что новый муниципальный проект затрагивает эти вопросы, свидетельствует, что, по крайней мере, для местных властей стимулирование определенного поведения граждан в таких делах является немаловажной задачей.

Расширяют ли системы регулирования и контроля, основанные на операциях с данными, возможности для верховенства права? Можно ли рассматривать проекты, подобные перечисленным выше, в качестве инноваций, способных придать режиму верховенства права и модели правового государства «второе дыхание»? Некоторые современные исследователи проявляют разумную сдержанность в ответе на данные вопросы, отмечая ряд существенных проблем применения систем, основанных на обработке цифровых данных о субъектах: отсутствие демократического контроля за осуществляемым через такие системы регулированием; опасность включения в алгоритмы дискриминационных условий, ведущих к необъективности принимаемых решений; непрозрачность работы таких систем (Bayamlioglu, Leenes 2018: 301-311; Ebers 2020: 76-78). Некоторые, напротив, смотрят на перспективы датафикации регулирования с немалым оптимизмом, предлагая обсуждать характерные черты нового, формирующегося режима верховенства метаправа (meta-rule of law) (Casanovas, Koker, Hashmi 2021).

Возможно, стоит посмотреть на проблему датафикации регулирования более широко, временно абстрагировавшись от непрозрачности алгоритмов и рисков принятия необъективных решений. Это архиважные

1 Gareri R. I Progetti di agenda digitale e nuovo piano smart city // Pórtale di Roma Capitale. URL: https://www.comune.roma.it/web-resources/cms/documents/R._Gareri_I_ Progetti_di_Agenda_Digitale_e_nuovo_piano_Smart_City_-_Roma_Capitale.pdf (дата обращения: 21.06.2022).

2 Rosano F. Bologna, la "patente digitale" per i cittadini virtuosi: punti e premi. Eun'app con tutti i servizi // Corriere di Bologna. 29.03.2022. URL: https://corrieredibologna. corriere.it/bologna/politica/22_marzo_29/bologna-patente-digitale-rittadini-virtuosi-punti-premi-un-app-tutti-servizi-5a861258-af3a-11ec-9372-638361423a51.shtml (дата обращения: 21.06.2022).

проблемы, однако в последнее время они широко обсуждаются учеными и экспертами, пытающимися выработать систему мер по минимизации таких рисков (Ebers 2020: 79-81; Orwat 2020; Xenidis 2020: 755-757)1. Что представляет собой куда более глубокую, при этом не столь заметную проблему, так это вопрос, являются ли метаправо, датафицированное регулирование и алгоритмическое управление проявлениями права? Является ли регулирование на основе данных правовым регулированием, относится ли оно к элементам правовой системы?

Право представляет собой по-своему уникальный культурный феномен человеческой цивилизации. Оно очевидным образом затрагивает поведение людей и их объединений, границы их свободы, и при этом связано с возможностью внешнего принуждения (Бибихин 2005: 19; Кельзен 2015: 48-50). Гегель в качестве исходной точки права определял свободную волю, характеризуя систему права как «царство осуществленной свободы, мир духа» (Гегель 1990: 67). Будучи по своей сути принудительным порядком, право (по крайней мере, как позитивное) исторически отграничивается от морали, для которой основным средством обеспечения действенности служит внутреннее психическое отношение человека к своим поступкам (Кельзен 2015: 80-84; Муромцев 2004: 164; Locke 2010: 31-33; Shavell 2002). Поскольку право связано с внешним (государственным) принуждением, мы привыкли, что юридические нормы регламентируют не все, а лишь наиболее значимые общественные отношения, хотя, надо признать, сфера правового регулирования достаточно подвижна, и в течение последнего столетия можно было наблюдать ее неуклонное расширение (Проди 2017: 10-12; Ру-винский 2020: 215; Толстик 2015: 761).

Исходя из того, что современные системы регулирования на основе данных опосредуют поведенческие акты субъектов, находящиеся в сфере правового регулирования (например, исполнение судебных решений, уплата налогов и сборов, нарушение общественного порядка, осуществление лицензируемых видов деятельности, соблюдение ограничений и запретов при прохождении гражданской службы), и предполагают применение принудительных мер в тех или иных формах, они очевидным образом имеют юридический характер и значение. В то же время следует обратить внимание на то, каким образом такие системы функционируют и насколько далеко простираются их регуляторно-управленческие возможности.

Системы социально-кредитного типа, учитывающие информацию ре-путационного характера («не был, не состоял, не привлекался») относительно физических и юридических лиц - объектов управления, опираются прежде всего на уже существующие официальные предписания, содержащиеся в законодательстве, а сами не предписывают, но подталкивают2, стиму-

1 См. также: Algorithms: Please Mind the Bias! // Institut Montaigne. March 2020. URL: https://www.institutmontaigne.org/en/publications/algorithms-please-mind-bias (дата обращения: 21.06.2022).

2 Nudge, nudging - удачные в семантическом плане обозначения данного явления, используемые в англоязычной литературе (König 2020: 471; Catanzariti 2021: 78-81).

лируют к выбору надлежащих моделей поведения. Такое «подталкивание» реализуется через допуски и ограничения, дифференциацию (ранжирование, грейдирование) подконтрольных единиц и применение адресных поощрительных либо, напротив, дисциплинарных мер. Круг возможных правореализационных действий индивида или организации с «подмоченной» репутацией оказывается сужен, доступ к определенным благам и участие в определенных отношениях могут быть превентивно ограничены не вследствие противоправного поведения, осуществляемого «здесь и сейчас», а вследствие наличия информации об определенном - даже правомерном -поведении в прошлом, если такая информация позволяет алгоритму на основании корреляционного анализа (Das 2016: 37-40) сделать вывод о возможности нежелательного поведения в будущем. Нежелательность поведения, возможность или «намерение совершить соответствующие противоправные деяния»1 в будущем, вероятная угроза - новый предиктивно-аналитический вокабуляр, вполне соответствующий датафикации регулирования и позволяющий распространить государственный контроль за пределами строгих процессуальных механизмов правового принуждения.

Надстраиваясь над нормами законодательства, системы регулирования на основе репутационных данных способны создавать регуляторные эффекты за рамками отношений, охватываемых прямыми законодательными предписаниями. Пользование общественным транспортом вместо личного, своевременное добровольное прохождение медицинских осмотров и вакцинации, раздельный сбор отходов, экономное потребление электроэнергии и газа, во-лонтерство и донорство легко могут быть включены в перечень оцениваемых видов деятельности индивида без необходимости закрепления в нормативных правовых актах соответствующих юридических обязанностей. Конечно, в таком случае оцениваемые виды социально полезного поведения должны становиться основаниями для предоставления соответствующим лицам тех или иных преимуществ, преференций, ведь следование поощряемым моделям поведения предполагает добровольность. Может статься, однако, что преимуществом, предоставляемым за участие в социально-кредитных проектах и следование надлежащим поведенческим моделям, со временем станет доступ к социальным благам и общественным пространствам, прежде не обусловленный совершением каких-либо действий сверх законодательно закрепленных обязанностей. Социально-кредитные, основанные на анализе данных, системы на деле могут оказаться не средствами поощрения, предоставляющими отдельным категориям лиц более широкий спектр возможностей при условии наличия определенной информации в их цифровых профилях, а, напротив, средствами ограничения субъектов в том, что безусловно доступно уже сейчас. Цифровая надстройка над позитивным правом опасна для права тем, что его нормы теряют прямое действие, а реализация закрепленных в нормах правомочий ставится в зависимость от дополнительных условий.

Следует также обратить внимание еще на два момента. Как отмечал бельгийский теоретик права М. ван Хук, «право занимается в первую очередь

1 Формулировка из Федерального закона от 30.12.2021 г. № 462-ФЗ.

не человеческим поведением и индивидуальными человеческими действиями как таковыми, а человеческим взаимодействием, межличностным поведением, человеческой коммуникацией» (Хук 2012: 31)1. Системы регулирования на основе данных, напротив, насколько можно судить, имеют дело с отдельными поведенческими актами, а также отдельными социально-юридическими, финансово-экономическими, медицинскими и иными характеристиками оказавшихся в поле их внимания лиц. Коммуникативный элемент оказывается де-факто изъят из области регулирования. Новые системы регулирования и контроля воздействуют на общество и социальные связи не как на общественные отношения, а как на дискретные действия и характеристики дискретных объектов.

Итак, возвращаясь к вопросу о соотношении режима верховенства права и систем регулирования на основе данных, приходится констатировать, что если верховенство права и модель правового государства и получают благодаря современным цифровым технологиям новое звучание и развитие, то уже не в качестве верховенства права и не в качестве правового государства. Чтобы понять, что приходит праву на смену, стоит еще раз обратить внимание на опыт Китая, Болоньи и Рима.

Социально-кредитная этика?

В основе китайского проекта ССК, как следует уже из его названия, лежит идея доверия, хорошей репутации, доброго имени ({gffl, credit), понимаемых в широком смысле и предполагающих соблюдение субъектом предписаний правовых и моральных норм, исполнение обязанностей по сделкам, следование принятым в народе практикам2. Следование правовым предписаниям, содержащимся в законах и подзаконных нормативных актах, имеет важное, первостепенное значение, однако замысел ССК вовсе не исчерпывается задачей обеспечить режим законности в его понимании, типичном для советской и российской юридической науки (Старилов 2017: 19-24). В одном из важнейших нормативных документов по созданию ССК, Плане построения системы социального кредита на 2014-2020 гг., неоднократно встречаются отсылки к моральному воспитанию граждан и государственных служащих как одной из первоочередных задач внедрения социально-кредитных механизмов в практику публичного управления3. Обеспечение соблюдения норм общественной морали и профессиональной этики, воспитание семейных добродетелей определены в качестве ориентиров для

1 Ср.: «...правовое регулирование не сводится лишь к вопросу воздействия на поведение населения или контроля за поведением» (Hildebrandt 2018: 9).

2 Wu J. 2020. Preface // Social Credit Rating: Reputation und Vertrauen beurteilen / ed. by O. Everling. Wiesbaden : Springer Gabler. P. IX-XIV.

3 Planning Outline for the Construction of a Social Credit System (2014-2020) // China Copyright and Media. 25.04.2015. URL: https://chinacopyrightandmedia.wordpress. com/2014/06/14/planning-outline-for-the-construction-of-a-social-credit-system-2014-2020/ (дата обращения: 21.06.2022).

функционирования систем сбора, раскрытия и использования социально-кредитной информации провинции Хэбэй и муниципалитета Шанхай1.

C 2010-2011 гг. в городском уезде Цинчжэнь китайской провинции Гуйчжоу действует интересный проект, направленный на стимулирование жителей сельской местности соблюдать моральные нормы и нормы общежития. В рамках данного проекта каждая деревня уезда проводит экспертную оценку поведения отдельных граждан в соответствии с заранее публикуемыми «деревенскими нормами» (Dai 2020: 150); наиболее «честные» фермеры поощряются бонусными баллами, зачисляемыми на специальную банковскую карту, и получают приоритет в обслуживании административными органами и финансово-кредитными учреждениями2. Предусмотрен и механизм наказания за недобросовестное поведение, однако подробности штрафной составляющей проекта не раскрываются.

Как можно понять по заявлениям итальянских чиновников, в Болонье и Риме власти также пытаются запустить проект, который бы стимулировал поведение граждан на границе права и социальной этики. Хотя, на первый взгляд, подобные проекты несут лишь пользу их участникам и обществу в целом, необходимо понимать, что с их помощью государственные органы приобретают возможность незаметно расширить пределы своего влияния, распространить свой контроль на ранее неподконтрольные им сферы жизни. Что объединяет в конечном счете и китайскую ССК с входящими в нее муниципальными пилотными проектами балльно-рейтинговой оценки, и итальянские эксперименты с «умным кошельком гражданина», так это присущая им направленность на слияние права, морали, обычаев, общесоциальной и профессиональной этики.

По сути, распространение систем, основанных на анализе репутационных данных и иных значимых характеристик физических и юридических лиц, ведет к постепенному вытеснению механизма правового регулирования комплаенсом.

Обычно о комплаенсе (от англ. compliance - согласие, соответствие), подразумевающем соблюдение правовых, корпоративных, этических и иных норм, принято говорить в контексте внутреннего корпоративного (зачастую банковского) контроля: в этом смысле комплаенс предстает в качестве одного из методов в арсенале менеджмента организации (Nelson 2021). Однако данное явление можно рассматривать и более широко, как систему средств обеспечения соответствия поведения субъектов действующим правовым и морально-этическим нормам, профессиональным и отраслевым стандартам, нормам обычаев и деловых обыкновений в публично-правовых

1 М^Ш^ШШ-^'. URL: http://hbrb.hebnews.en/pc/paper/c/201710/01/ c25267.html (дата обращения: 21.06.2022); Shanghai Municipal Social Credit Regulations. (Passed by the 38th Meeting of the Standing Committee of the 14th Session of the Shanghai People's Congress on June 23, 2017) // China Law Translate. URL: https:// www.chinalawtranslate.com/en/shanghai-municipal-social-credit-regulations/ (дата обращения: 21.06.2022).

2 ё^Шв^ШаЛ-йШ^Ж^М^. URL: http://www.wenming.cn/syjj/dfcz/ gz/201503/t20150327_2527223.shtml (дата обращения: 21.06.2022).

и частноправовых отношениях, внутри и вне отдельных корпоративных образований, в самых разных, в том числе лежащих за пределами правового регулирования, областях жизни.

Судя по всему, движение в сторону слияния позитивного права с этикой в рамках расширенных систем комплаенса началось с практики закрепления в законодательстве обязанности отдельных категорий лиц следовать стандартам и правилам профессиональной деятельности, а также кодексам деловой этики, разработанным соответствующими сообществами: государственными служащими, нотариусами, арбитражными управляющими, страховщиками, аудиторами и др. Несмотря на многочисленность отраслевых документов, содержащих такие правила, они затрагивали до сих пор относительно немногочисленный круг лиц; сами же нормы деловой этики и стандарты профессиональной деятельности всегда утверждались в рамках надлежащих процедур компетентными выборными органами соответствующих отраслевых и профессиональных сообществ.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Включение уже не только профессиональной этики, но и этики социальной в находящиеся в руках государства и основанные на анализе данных техники регулирования, учета и контроля поведения субъектов означает формирование принципиально новой, синкретической системы социальной регуляции, основанной на праве и этике, но в действительности подменяющей собой и то и другое. Очевидно, именно такую систему попытались описать ученые, провозглашающие рождение режима верховенства так называемого метаправа и изображающие схему нового типа регулирования как единство императивных правовых норм (hard law), стандартов, лучших практик, рекомендательных норм (soft law), регуляторных политик, программ, стратегий и этики (Casanovas, Koker, Hashmi 2021: 77-78).

Базирующиеся на продвинутых цифровых технологиях системы стимулирования, «подталкивания» нужного поведения позволяют ввести в действие нормы, которые не были установлены в рамках прозрачных процедур и источники которых неочевидны. Как известно, позитивное право может быть дурным и несправедливым, однако мы всегда можем с определенностью сказать, кто и для чего инициировал принятие того или иного закона/подзаконного акта, принимался ли он в рамках надлежащих процедурных правил, кто ответственен за его содержание и кому выгодно его действие. Традиционные системы морали и этики формируются в рамках длительных исторических периодов и отражают текущее состояние общества в его тотальности; опять же, следование морально-этическим нормам может обеспечиваться внутренним совестливым отношениям субъекта к своим деяниям, порицанием со стороны других членов общества или коллектива, но чаще всего не предполагает ограничения в доступе к социальным благам, невозможность реализации предусмотренных законом прав и свобод. С социально-кредитными системами комплаенса все иначе: они способны оценивать поведение субъектов за рамками правового регулирования, применяя к ним прямо не предусмотренные законодательством поощрительные и правоограничительные (в том числе штрафные) меры; они могут предполагать повышенные, по сравнению с законодательными, требования к поведению; через них государство получа-

ет возможность навязывать обществу произвольные поведенческие модели в качестве некой «новой этики», «охраняемого обычая», «защищаемых ценностей» и т.п. Немаловажно, что имплементация определенным образом подобранных норм права и этики в цифровые системы регулирования и контроля делает фактически возможным наказание вне рамок законных механизмов юридической ответственности; это возможно через блокирование доступа к определенным благам и общественным пространствам.

Заключение

Основанные на интеллектуальном анализе данных системы воздействия на поведение субъектов, разумеется, не развивают и уж точно не улучшают институты правового государства и режим верховенства права. Впрочем, не совсем точным был бы и вывод, согласно которому они представляют для правового государства и верховенства права угрозу. Скорее, их стремительное развитие в последние годы, головокружительные перспективы на ближайшее будущее связаны с их востребованностью. Правовое государство зашло в глубочайший тупик вместе со всей парадигмой общественного развития, ее породившей. На повестке дня, судя по всему, не расширение горизонтов свободы, не «всеобщее благосостояние», а, напротив, ограничение потребления, кардинальное изменение поведенческих привычек, ужесточение нормирования и контроля.

Модель правового государства с четким кодексом должного и запретного, с прозрачными демократическими процедурами установления общеобязательных норм, с широкими правами и свободами членов общества становится избыточно затратной и сложной, превращаясь из решения в проблему. Проблема состоит в том, что в одночасье отказаться от многих свобод, изменить потребительские привычки, заставить людей делать больше того, чем они привыкли делать, достаточно трудно. Мы видели и продолжаем наблюдать, как парламенты и правительства по всему миру реформируют законодательства, вводя новые обязанности, устанавливая все больше запретов, однако такое реформирование всегда требует немалых политических усилий и нередко сопряжено со значительным недовольством граждан, предпринимателей, владельцев коммерческих компаний. Нужно отметить, что модель правового государства деградирует не только в странах либеральной демократии (то есть деградируют не только наиболее содержательно наполненные, приближенные к идеалу ее версии), но повсеместно, в том числе там, где верховенство права всегда понималось, скорее, как императив следования режиму законности: все более частое отступление от закрепленных в законодательстве формальных процедур и чрезмерно вольное толкование даже конституционных положений1 отражают

1 В данном контексте можно вспомнить распространенную в последнее десятилетие практику увеличения предельного количества сроков полномочий главы государства и отмены соответствующих ограничений (в Азербайджане, Белоруссии, КНР и ряде других стран), неоднозначную процедуру внесения поправок в Консти-

те объективные трудности, которые правящим кругам современных государств становится все сложнее преодолевать. Цифровые средства регулирования и контроля оказываются в этих условиях «палочкой-выручалочкой» для глобальных и национальных элит, вынужденных встречать вызовы новой эпохи: ускоряющуюся деградацию окружающей среды, перенаселение, дефицит ресурсов, невозможность поддерживать рост прибыли капиталистических предприятий обычными экономическими способами и т.д.

Благодаря системам, способным на основе анализа данных о физических и юридических лицах ранжировать объем и качество публичных услуг, открывать допуски и устанавливать ограничения в доступе к социальным благам, становится возможным ограничивать и запрещать, не предписывая новых обязанностей и запретов напрямую или предписывая их по минимуму. Становится возможным более эффективный, требующий минимального человеческого вмешательства, контроль за соблюдением запретов и исполнением обязанностей. Принципиально важным является то, что системы регулирования на основе данных не предполагают прямого устранения институтов правового государства, а их внедрение не сопровождается однозначным отказом от уже закрепленных в законодательстве конституционно-правовых положений и процедур. Новая цифровая архитектура управления и контроля оказывается не конкурентом правового государства, а своего рода паразитическим наростом на его теле, действуя поверх писаных норм и в определенных отношениях сводя содержание этих норм к чистой формальности. Тогда как установление законодательных положений всегда предполагает ту или иную форму публичной дискуссии, обеспечиваемую через участие в процессе правотворчества избранных народом лиц (депутатов парламента, делегатов иных представительных органов, избранного населением главы государства), основанные на анализе цифровых данных системы воздействия на поведение субъектов могут внедряться в жизнь миллионов под видом нейтральной техники, вне каких-либо демократических процедур. В то время как любой, даже дурной или имитационный (Law, Versteeg 2013), закон предполагает некоторую степень определенности налагаемых на субъектов обязанностей, запретов и ограничений, некоторую степень определенности ожидаемых правоприменительных решений, цифровая архитектура допусков и ограничений позволяет, во-первых, вводить новые ограничения явочным порядком, во-вторых, делает труднопредсказуемыми результаты правоприменения в той мере, в которой они зависят от алгоритмической обработки информации.

Право (и именно в значении позитивного права) не исчезает совсем, но лишается той роли, которую играло прежде. Оно должно дать начало новой комплаенс-подобной системе регулирования поведения, в которой нормы

туцию Российской Федерации в 2020 г., беспрецедентно массовое голосование по почте на президентских выборах в США и все большее распространение дистанционного онлайн-голосования в других странах. О размывающих верховенство права антилиберальных тенденциях в конституционном законодательстве либеральных государств - членов ЕС последних лет см.: (Drin6czi, Bien-Kacala 2019; Szente 2022).

позитивного права будут лишь одним из ярусов нормативности и которая при этом, как прежде позитивное право, будет полностью подконтрольна государству. Через новую систему регулирования, оценивающую не коммуникацию между субъектами, а дискретные действия и характеристики субъект-объектов (то есть лиц, сведенных к статусу единиц в подвижных и проницаемых множествах), открывается путь к поистине революционной трансформации человеческого поведения. Сокращение использования личного автотранспорта за счет стимулирования пользования общественным, снижение энергопотребления в домах и офисах, раздельный сбор мусора, следование ESG-принципам (Hill 2020: 13-27) в деятельности коммерческих компаний - начальный перечень поведенческих сдвигов, к которым уже подстегивают цифровые посредники и социально-кредитные проекты. Очевидно, что этот перечень в дальнейшем будет расширяться1, а участие в соответствующих проектах постепенно из добровольного будет превращаться в безальтернативное. Если мысленно продолжить данную тенденцию, можно спрогнозировать, что в перспективе ближайших 10-20 лет процесс трансформации регулирования может привести к замене институтов правового государства множеством программ лояльности, понимаемых и в качестве аналогов современных программ лояльности в торговых сетях, и в буквальном смысле, как лояльность своему правительству и проводимой им политике.

Впрочем, в мире программ лояльности само государство в том виде, в котором мы привыкли его знать, перестает быть нужным. Коль скоро поведение определяется в большей степени сформированной социальной привычкой, своего рода ритуалом, а не актом нормативного волеизъявления, модели поведения для членов общества могут навязываться из любого центра. Современное государство, связанное демократическими процедурами с волеизъявлением населения и ответственное перед населением, в перспективе может быть заменено цифровыми платформами. Не слишком радужная, но вполне реальная перспектива, для осознания которой придется пересмотреть ставшее за последнее столетие привычным понимание многих правовых и политических институтов.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

Бибихин В.В. 2005. Введение в философию права. Москва : Институт философии РАН. 344 с.

1 Основанные на учете поведенческих (репутационных) данных проекты социально-кредитного типа легко могут быть встроены в становящиеся все более популярными в мире практики кэнселинга и деплатформинга: в доступе к тем или иным социальным благам, общественным местам может быть отказано и за осуждаемое поведение в прошлом (например, за неполиткорректные высказывания), и за нежелание следовать навязываемой, но выдаваемой за мнение большинства, позиции по тому или иному вопросу. Стоит заметить, что отнюдь не обязательно, чтобы внедрение систем социально-кредитной оценки было инициировано правительственными структурами; теоретически, при наличии должных ресурсов и отсутствии противодействия со стороны органов государства, инициаторами могут быть неправительственные организации, профессиональные ассоциации и даже неформальные сети единомышленников.

Виноградова Е.В., Полякова Т.А., Минбалеев А.В. 2021. Цифровой профиль: понятие, механизмы регулирования и проблемы реализации // Правоприменение. Т. 5, № 4. С. 5-19. DOI 10.52468/2542-1514.2021.5(4).5-19

Гегель Г.В.Ф. 1990. Философия права. Москва : Мысль. 524 с.

Голунский С.А., Строгович М.С. 1940. Теория государства и права. Москва : Юридическое издательство НКЮ СССР. 304 с.

Зубофф Ш. 2022. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. Москва : Издательство Института Гайдара. 784 с.

Кельзен Г. 2015. Чистое учение о праве. Санкт-Петербург : Алеф-Пресс. 542 с.

Муромцев С.А. 2004. Определение и основное разделение права. Санкт-Петербург : Издательский дом СПбГУ. 224 с.

Проди П. 2017. История справедливости: от плюрализма форумов к современному дуализму совести и права. Москва : Издательство Института Гайдара. 512 с.

Радбрух Г. 2004. Законное неправо и надзаконное право // Радбрух Г. Философия права. Москва : Международные отношения. С. 228-238.

Рувинский Р.З. 2020. Правопорядок в период глобального кризиса: трансформации, тенденции, угрозы. Санкт-Петербург : Алетейя. 350 с.

Рувинский Р.З. 2021. Система социального кредита в Китае: модель конституционализма для кризисной эры // Сравнительное конституционное обозрение. № 3. С. 63-85. DOI 10.21128/1812-7126-2021-3-63-85

Старилов Ю.Н. 2017. От правильного понимания и уважения законности к ее верховенству // Вестник ВГУ. Серия: Право. № 3. С. 18-40.

Толстик В.А. 2015. Правовой тоталитаризм: стратегия правотворчества или движение по инерции? // Юридическая техника. № 9. С. 759-763.

Фуко М. 2011. Безопасность, территория, население. Курс лекций, прочитанных в Коллеж де Франс в 1977-1978 учебном году. Санкт-Петербург : Наука. 544 с.

Хук М. ван 2012. Право как коммуникация. Санкт-Петербург : Университетский издательский консорциум. 288 с.

Bach J. 2020. The Red and the Black: China's Social Credit Experiment as a Total Test Environment // The British Journal of Sociology. Vol. 71, iss. 3. P. 489-502. DOI 10.1111/14684446.12748

Backer L.C. 2019. Next Generation Law: Data-Driven Governance and Accountability-Based Regulatory Systems in the West, and Social Credit Regimes in China // Southern California Interdisciplinary Law Journal. Vol. 28, iss. 1. P. 123-172.

Bayamlioglu E., Leenes R. 2018. The 'Rule of Law' Implications of Data-Driven Decision-Making: A Techno-Regulatory Perspective // Law, Innovation and Technology. Vol. 10, iss. 2. P. 295-313. DOI 10.1080/17579961.2018.1527475

Blomberg M. 2018. The Social Credit System and China's Rule of Law // Mapping China Journal. No. 2. P. 77-162.

Casanovas P., Koker L. de, Hashmi M. 2021. Law, Socio-Legal Governance, the Internet of Things, and Industry 4.0: A Middle-Out/Inside-Out Approach // Multidisciplinary Scientific Journal. Vol. 5, iss. 1. P. 64-91. DOI: 10.3390/j5010005

Catanzariti M. 2021. Algorithmic Law: Law Production by Data or Data Production by Law? // Constitutional Challenges in the Algorithmic Society / ed. by H.-W. Micklitz et al. Cambridge : Cambridge University Press. P. 78-92.

Chibundu M.O. 1999. Globalizing the Rule of Law: Some Thought at and on the Periphery // Indiana Journal of Global Legal Studies. Vol. 7, iss.1. P. 79-116.

Chloros A.G. 1958. What is Natural Law? // The Modern Law Review. Vol. 21, iss. 6. P. 609-622.

Dai X. 2020. Toward a Reputation State: A Comprehensive View of China's Social Credit System Project // Social Credit Rating: Reputation und Vertrauen beurteilen / ed. by O. Everling. Wiesbaden : Springer Gabler. P. 139-164.

Das S.R. 2016. Data Science: Theories, Models, Algorithms, and Analytics // SCU Web Page of Sanjiv Ranjan Das. July 2016. URL: https://srdas.github.io/Papers/DSA_Book.pdf (дата обращения: 21.06.2022).

Drinoczi T., Bien-Kacala A. 2019. Illiberal Constitutionalism: The Case of Hungary and Poland // German Law Journal. Vol. 20, iss. 8. P. 1140-1166. DOI 10.1017/glj.2019.83

Ebers M. 2020. Regulating AI and Robotics: Ethical and Regulatory Challenges // Algorithms and Law / ed. by M. Ebers, S. Navas. Cambridge : Cambridge University Press. P. 37-99.

Hildebrandt M. 2018. Algorithmic Regulation and the Rule of Law // Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. Vol. 376, iss. 2128. DOI: 10.1098/rsta.2017.0355

Hill J. 2020. Environmental, Social, and Governance (ESG) Investing: A Balanced Analysis of a Sustainable Portfolio. London : Elsevier. 357 p.

König P.D. 2020. Dissecting the Algorithmic Leviathan: On the Socio-Political Anatomy of Algorithmic Governance // Philosophy & Technology. Vol. 33. P. 467-485.

Law D.S., Versteeg M. 2013. Sham Constitutions // California Law Review. Vol. 101, iss. 4. P. 863-952. DOI 10.2139/ssrn.1989979

Locke J. 2010. A Letter Concerning Toleration // Locke on Toleration / ed. by R. Vernon. New York : Cambridge University Press. P. 3-46.

Mattei U., Nader L. 2008. Plunder: When the Rule of Law is Illegal. Malden : Blackwell Publishing. 293 p.

Nelson J.S. 2021. Compliance as Management // The Cambridge Handbook of Compliance / ed. by B. van Rooij, D.D. Sokol. Cambridge : Cambridge University Press. P. 104-122.

Orwat C. 2020. Risks of Discrimination through the Use of Algorithms. Berlin: Federal Anti-Discrimination Agency. 122 p. URL: https://www.antidiskriminierungsstelle.de/EN/ homepage/_documents/download_diskr_risiken_verwendung_von_algorithmen.pdf?__ blob=publicationFile&v=1 (дата обращения: 21.06.2022).

Platon S. 2020. Reinventing the Wheel ... and Rolling over Fundamental Freedoms? The Covid-19 Epidemic in France and the 'State of Health Emergency' // The Theory and Practice of Legislation. Vol. 8, iss. 3. P. 293-309. DOI: 10.1080/20508840.2020.1804110

Ritter D.P. 2015. The Iron Cage of Liberalism: International Politics and Unarmed Revolutions in the Middle East and North Africa. Oxford : Oxford University Press. 285 p. Romano S. 2017. The Legal Order. New York : Routledge. 179 p.

Shavell S. 2002. Law versus Morality as Regulators of Conduct // American Law and Economics Review. Vol. 4, iss. 2. P. 227-257.

Szente Z. 2022. Constitutional Changes in Populist Times // Review of Central and East European Law. Vol. 47, iss. 1. P. 12-36. DOI: 10.1163/15730352-47010001

Tamanaha B.Z. 2004. On the Rule of Law: History, Politics, Theory. Cambridge : Cambridge University Press. 188 p.

Xenidis R. 2020. Tuning EU Equality Law to Algorithmic Discrimination: Three Pathways to Resilience // Maastricht Journal of European and Comparative Law. Vol. 27, iss. 6. P. 736-758. DOI 10.1177/1023263X20982173

Yeung K. 2017. 'Hypernudge': Big Data as a Mode of Regulation by Design // Information, Communication & Society. Vol. 20, iss. 1. P. 118-136. DOI 10.1080/1369118X.2016.1186713

Yu О. 2020. // fe^fe. Ш2М. URL: http://

fzzfyjy.cupl.edu.cn/info/1035/11847.htm (дата обращения: 21.06.2022).

References

Bach J. The Red and the Black: China's Social Credit Experiment as a Total Test Environment, The British Journal of Sociology, 2020, vol. 71, no. 3, pp. 489-502. DOI 10.1111/1468-4446.12748

Backer L.C. Next Generation Law: Data-Driven Governance and Accountability-Based Regulatory Systems in the West, and Social Credit Regimes in China, Southern California Interdisciplinary Law Journal, 2019, vol. 28, no. 1, pp. 123-172.

Bayamlioglu E., Leenes R, The 'Rule of Law' Implications of Data-Driven Decision-Making: A Techno-Regulatory Perspective, Law, Innovation and Technology, 2018, vol. 10, no. 2, pp. 295-313. DOI 10.1080/17579961.2018.1527475

Bibikhin V.V. The Introduction to the Philosophy of Right, Moscow, Institut filosofii RAN, 2005, 344 p. (In Russ.).

Blomberg M. The Social Credit System and China's Rule of Law, Mapping China Journal, 2018, no. 2, pp. 77-162.

Casanovas P., Koker L. de, Hashmi M. Law, Socio-Legal Governance, the Internet of Things, and Industry 4.0: A Middle-Out/Inside-Out Approach, Multidisciplinary Scientific Journal, 2021, vol. 5, no. 1, pp. 64-91. DOI: 10.3390/j5010005

Catanzariti M. Algorithmic Law: Law Production by Data or Data Production by Law?, H.-W. Micklitz et al. (eds.) Constitutional Challenges in the Algorithmic Society, Cambridge, Cambridge University Press, 2021, pp. 78-92.

Chibundu M.O. Globalizing the Rule of Law: Some Thought at and on the Periphery, Indiana Journal of Global Legal Studies, 1999, vol. 7, no. 1, pp. 79-116.

Chloros A.G. What is Natural Law?, The Modern Law Review, 1958, vol. 21, no. 6, pp. 609-622.

Dai X. Toward a Reputation State: A Comprehensive View of China's Social Credit System Project, O. Everling (ed.) Social Credit Rating: Reputation und Vertrauen beurteilen, Wiesbaden, Springer Gabler, 2020, pp. 139-164.

Das S.R. Data Science: Theories, Models, Algorithms, and Analytics, SCU Web Page of Sanjiv Ranjan Das, July 2016, available at: https://srdas.github.io/Papers/DSA_Book.pdf (accessed June 21, 2022).

Drinoczi T., Bien-Kacala A. Illiberal Constitutionalism: The Case of Hungary and Poland, German Law Journal, 2019, vol. 20, no. 8, pp. 1140-1166. DOI 10.1017/glj.2019.83

Ebers M. Regulating AI and Robotics: Ethical and Regulatory Challenges, M. Ebers, S. Navas (eds.) Algorithms and Law, Cambridge, Cambridge University Press, 2020, pp. 37-99.

Foucault M. Security, Territory, Population: Lectures at the Collège de France, 1977-1978, Saint Petersburg, Nauka, 2011, 544 p. (In Russ.).

Golunsky S.A., Strogovich M.S. Theory of State and Law, Moscow, Yuridicheskoe izdatel'stvo NKYu SSSR, 1940, 304 p. (In Russ.).

Hegel G.W.F. The Philosophy of Right, Moscow, Mysl, 1990, 524 p. (In Russ.).

Hildebrandt M. Algorithmic Regulation and the Rule of Law, Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 2018, vol. 376, no. 2128. DOI: 10.1098/rsta.2017.0355

Hill J. Environmental, Social, and Governance (ESG) Investing: A Balanced Analysis of a Sustainable Portfolio, London, Elsevier, 2020, 357 p.

Hoecke M. van. Law as Communication, Saint Petersburg, Universitetskij izdatel'skij konsorcium, 2012, 288 p. (In Russ.).

Kelsen H. Pure Theory of Law, Saint Petersburg, Alef-Press, 2015, 542 p. (In Russ.).

König P.D. Dissecting the Algorithmic Leviathan: On the Socio-Political Anatomy of Algorithmic Governance, Philosophy & Technology, 2020, vol. 33, pp. 467-485.

Law D.S., Versteeg M. Sham Constitutions, California Law Review, 2013, vol. 101, no. 4, pp. 863-952. DOI 10.2139/ssrn.1989979

Locke J. A Letter Concerning Toleration, R. Vernon (ed.) Locke on Toleration, New York, Cambridge University Press, 2010, pp. 3-46.

Mattei U., Nader L. Plunder: When the Rule of Law is Illegal, Malden, Blackwell Publishing, 2008, 293 p.

Muromtsev S.A. Opredelenie i osnovnoe razdelenie prava [Definition and Basic Separation of Law], Saint Petersburg, Izdatel'skij dom SPbGU, 224 p. (In Russ.).

Nelson J.S. Compliance as Management, B. van Rooij, D.D. Sokol (eds.), The Cambridge Handbook of Compliance, Cambridge, Cambridge University Press, 2021, pp. 104-122.

Orwat C. Risks of Discrimination through the Use of Algorithms, Berlin, Federal AntiDiscrimination Agency, 2020, 122 p., available at: https://www.antidiskriminierungsstelle.

de/EN/homepage/_documents/download_diskr_risiken_verwendung_von_algorithmen.pdf?__ blob=publicationFile&v=1 (accessed June 21, 2022).

Platon S. Reinventing the Wheel ... and Rolling over Fundamental Freedoms? The Covid-19 Epidemic in France and the 'State of Health Emergency', The Theory and Practice of Legislation, 2020, vol. 8, no. 3, pp. 293-309. DOI: 10.1080/20508840.2020.1804110

Prodi P. A History of Justice: From the Pluralism of Forums to the Contemporary Dualism of Conscience and Law, Moscow, Izdatel'stvo Instituta Gajdara, 2017, 512 p. (In Russ.).

Radbruch G. Statutory Lawlessness and Supra-Statutory Law, G. Radbruch Filosofija prava [The Philosophy of Right], Moscow, Mezhdunarodnye otnosheniya, 2004, pp. 228-238. (In Russ.).

Ritter D.P. The Iron Cage of Liberalism: International Politics and Unarmed Revolutions in the Middle East and North Africa, Oxford, Oxford University Press, 2015, 285 p. Romano S. The Legal Order, New York, Routledge, 2017, 179 p.

Ruvinskiy R.Z. Legal Order in Time of the Global Crisis: Transformations, Trends, Threats, Saint Petersburg, Aletheia, 2020, 350 p. (In Russ.).

Ruvinskiy R.Z. The Social Credit System in China: A Model of Constitutionalism for the Era of Crises, Sravnitelnoe konstitutsionnoe obozrenie [Comparative Constitutional Review], 2021, no. 3, pp. 63-85. (In Russ.). DOI 10.21128/1812-7126-2021-3-63-85

Shavell S. Law versus Morality as Regulators of Conduct, American Law and Economics Review, 2002, vol. 4, no. 2, pp. 227-257.

Starilov Yu.N. From A Correct Understanding and Respect for The Rule of Law to Its Supremacy, Vestnik VGU. Seriya: Pravo [Proceedings of Voronezh State University. Series: Law], 2017, no. 3, pp. 18-40. (In Russ.).

Szente Z. Constitutional Changes in Populist Times, Review of Central and East European Law, 2022, vol. 47, no. 1, pp. 12-36. DOI: 10.1163/15730352-47010001

Tamanaha B.Z. On the Rule of Law: History, Politics, Theory, Cambridge, Cambridge University Press, 2004, 188 p.

Tolstik V.A. Legal Totalitarianism: The Strategy of Lawmaking or an Inertial Motion? Yuridicheskaya tekhnika [Legal Technique], 2015, no. 9, pp. 759-763. (In Russ.).

Vinogradova E.V., Polyakova T.A., Minbaleev A.V. Digital Profile: The Concept, Regulatory Mechanisms and Enforcement Problems, Pravoprimenenie [Law Enforcement Review], 2021, vol. 5, no. 4, pp. 5-19. (In Russ.). DOI: 10.52468/2542-1514.2021.5(4).5-19

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Xenidis R. Tuning EU Equality Law to Algorithmic Discrimination: Three Pathways to Resilience, Maastricht Journal of European and Comparative Law, 2020, vol. 27, no. 6, pp. 736758. DOI 10.1177/1023263X20982173

Yeung K. 'Hypernudge': Big Data as a Mode of Regulation by Design, Information, Communication & Society, 2017, vol. 20, no. 1, pp. 118-136. DOI 10.1080/1369118X.2016.1186713 Yu 0. Algorithmic Administration: The Governance Paradigm of the Social Credit System and Its Normative Grounds, Faxue Luntan [Legal Forum], 2020, no. 2, available at: http://fzzfyjy. cupl.edu.cn/info/1035/11847.htm (accessed June 21, 2022). (In Chinese).

Zuboff S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Moscow, Izdatel'stvo Instituta Gajdara, 2022, 784 p. (In Russ.).

ИНФОРМАЦИЯ ОБ АВТОРЕ

Роман Зиновьевич Рувинский

кандидат юридических наук, доцент, доцент кафедры истории и теории государства и права Нижегородского института управления - филиала РАНХиГС, г. Нижний Новгород, Россия; ORCID: 0000-0002-9114-1786; ResearcherID: R-3275-2018; БР^-код: 8748-0166; Е-таН: ruvinskiy-rz@ranepa.ru

INFORMATION ABOUT THE AUTHOR

Roman Z. Ruvinskiy

Candidate of Law, Associate Professor, Department of History and Theory of State and Law, Nizhny Novgorod Institute of Management - Branch of RANEPA, Nizhny Novgorod, Russia; ORCID: 0000-0002-9114-1786; ResearcherID: R-3275-2018; SPIN-code: 8748-0166; E-mail: ruvinskiy-rz@ranepa.ru

i Надоели баннеры? Вы всегда можете отключить рекламу.