CC BY
22
Общество: политика, экономика, право. 2021. № 8. С. 95-99. Society: Politics, Economics, Law. 2021. No. 8. P. 95-99.
Научная статья УДК 340.11+004.021 https://doi.org/10.24158/pep.2021.8.15
Регуляторы общественных отношений в социотехнической среде: теоретико-правовой анализ
Наталья Федоровна Порываева
Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации, Москва, Россия, poryvaeva28@mail.ru, https://orcid.org/0000-0002-9042-3896
Аннотация. В статье проанализированы регуляторы общественных отношений в социотехнической среде. В качестве таких регуляторов предложено рассматривать алгоритмы, учитывая широкую сферу их применения, масштабность распространения в формирующейся социотехнической среде, неопределенный круг лиц, на которых может распространяться регулирование алгоритмами. В статье рассмотрены особенности алгоритмов, сделан вывод об их роли в эволюции права. Право взаимодействует с новым регулятором в разных формах: комплементарности (дополнения), конкуренции, конвергенции, интеграции. Взаимодействие права и алгоритмов расширяет регуляторные возможности права в социотехнической среде. Результатом алгоритмизации права выступает машиночитаемое право, являющееся, в сущности, гибридом алгоритмов и права. Машиночитаемое право приобретает все особенности и свойства алгоритмов. Этот аспект необходимо учитывать при определении дальнейшей эволюции права, его роли в современном социальном регулировании.
Ключевые слова: алгоритм, традиционные алгоритмы, современные алгоритмы, алгоритмизация права, машиночитаемое право, социальные регуляторы, социотехническая среда, социотехнические нормы, техносоциальные нормы, эволюция права
Для цитирования: Порываева Н.Ф. Регуляторы общественных отношений в социотехнической среде: теоретико-правовой анализ // Общество: политика, экономика, право. 2021. № 8. С. 95-99. https://doi.org/10.24158/pep.2021.8.15.
Original article
Regulators of social relations in the socio-technical environment: theoretical and legal analysis
Natalya F. Poryvaeva
Institute of Legislation and Comparative Law under the Government of the Russian Federation, Moscow, Russia, poryvaeva28@mail.ru, https://orcid.org/0000-0002-9042-3896
Abstract. The article analyzes the regulators of social relations in the socio-technical environment. As such regulators, it is proposed to consider algorithms, taking into account the wide scope of their application, the scale of distribution in the emerging socio-technical environment, an indefinite circle of persons who may be subject to regulation by algorithms. The article discusses the features of the algorithms. A conclusion is made about the role of algorithms in the evolution of law. The law interacts with the new regulator in different forms: complementarity (addition), competition, convergence, integration. The interaction of law and algorithms expands the regulatory capabilities of law in the socio-technical environment. The result of the algorithmicization of the law is machine-readable law, which is, in essence, a hybrid of algorithms and law. Machine-readable law acquires all the features and properties of the algorithms. This aspect should be taken into account when determining the further evolution of law, its role in modern social regulation.
Keywords: algorithm, traditional algorithms, modern algorithms, algorithmization of law, machine-readable law, social regulators, socio-technical environment, socio-technical norms, technosocial norms, evolution of law
For citation: Poryvaeva N.F. Regulators of social relations in the socio-technical environment: theoretical and legal analysis // Society: Politics, Economics, Law. 2021. No. 8. P. 95-99. (In Russ.). https://doi.org/10.24158/pep.2021.8.15.
В связи с технологизацией общественных отношений в последнее время звучит все больше рассуждений о дальнейшей судьбе права, появлении новых регуляторов общественных отношений. Такая тревога обусловлена современным состоянием социотехнической среды -окружающего пространства, совокупности условий, в котором существует и функционирует современное общество. В настоящее время социотехническая среда включает как реальное, так и виртуальное пространство, является средой для функционирования сложных социотехнических
систем. Однако вопрос, что представляют собой новые регуляторы, в научной литературе, как правило, раскрывается недостаточно.
В этой связи следует обратить внимание на алгоритмы, конкретнее на современные алгоритмы (далее - алгоритмы)*, исполнителем которых являются современные электронные вычислительные устройства. Алгоритм фактически представляет систему алгоритмов (алгоритмическую систему), состоящую из логических и вычислительных алгоритмов, которые могут быть рассредоточены по всей цепочке компонентов, представляющей тот или иной программный продукт. Именно алгоритмы структурируют процесс и определяют результат. Технологизация и вместе с ней алгоритмы проникают во все сферы общественной жизни. Исследователи отмечают, что наступает эпоха, когда алгоритмы фундаментально встроены в важнейшие процессы принятия решений в большинстве секторов общества, включая государственное управление, СМИ, здравоохранение и политику [1]. При этом отмечаются как положительные эффекты при применении алгоритмов, так и отрицательные [2], связанные прежде всего с такими свойствами алгоритмов, как закрытость (непрозрачность) и предвзятость (смещение)**.
Алгоритм рассматривается современной наукой как социокультурный феномен. Алгоритмы являются объектом изучения разных наук, в том числе общественных (социогуманитар-ных). В научный дискурс введены понятия и изучаются феномены алгоритмического общества (algorithmic society) [3], алгоритмического регулирования (algorithmic regulation) [4], алгоритмического управления (algorithmic governance) [5], алгократии (algocracy) [6], алгоритмической справедливости (algorithmic fairness) [7], алгоритмической этики (algorithmic ethics) [8], алгоритмической культуры (algorithmic culture) [9].
Учитывая вышеизложенное, вполне закономерным является вопрос, чем же являются алгоритмы в регулировании современных общественных отношений? Регуляторным посредником? Модифицированным традиционным социальным регуляторам? Особой формой выражения социальных норм? Или новым социальным регулятором?
Следует отметить, что алгоритмы в общественных отношениях не только проектируют, конструируют или структурируют систему, но и трансформируют природу отношений. Алгоритмы, современные разработки в области данных (сбора, анализа, применения) меняют механизмы создания социального порядка, делая их более детализированными, агрессивными и мощными [10].
Регуляторные посредники же добавляют слой к двойным отношениям между регулятором и его целями, действуя совместно с регулятором [11]. К регуляторным посредникам относят технологии, субъекты частные, государственные [12].
Могут ли алгоритмы являться модифицированным традиционным регулятором, например, корпоративными нормами? В доктрине под корпоративными нормами подразумевают правила поведения, которые устанавливаются и обеспечиваются корпорациями (организациями) и регулируют общественные отношения между ее членами. Особенностью корпоративных норм является то, что они не могут выходить за рамки корпорации (организации) их установившей и распространяться на неопределенный круг лиц. Алгоритмы же демонстрируют такую возможность (в социотехнической среде). При этом алгоритмы, безусловно, могут включать как и корпоративные, так и другие социальные нормы.
Отмечая факт включения в алгоритм разных социальных норм, закономерным является вопрос о самостоятельности алгоритмов в качестве регулятора. Не являются ли они просто технологической формой традиционных регуляторов общественных отношений, таких как, например, право или корпоративные нормы?
В доктрине похожий вопрос возникает в отношении такого традиционного социального регулятора, как обычай. Существует мнение (С.И.Вильнянский, В.Н. Подкуйченко), что обычаи являются особой формой, в которой могут выражаться нормы различного содержания: религиозные, моральные, политические [13, с. 17]. Однако есть и другая точка зрения, так Н.Н. Вопленко отмечает: «Сам факт живучести обычаев и широкая сфера их применения подтверждают самостоятельное институциональное значение. Здесь наблюдается то сравнительно редкое явление,
* В самом общем виде алгоритм - это точное предписание о последовательности действий исполнителя (человека, электронного вычислительного устройства), направленных на достижение поставленных целей. Алгоритмы можно разделить на традиционные (исполнителем является человек) и современные (исполнителем являются вычислительные устройства). В научном дискурсе современные алгоритмы, как правило, именуются просто «алгоритмы», хотя по факту они представляют собой совокупность алгоритмов, необходимых для выполнения даже простой задачи. И чем сложнее задача, тем сложнее применяемые алгоритмы и тем больше и разнороднее их совокупность (логических, вычислительных). В связи с этим в научной литературе встречаются также такие понятия, как «алгоритмические системы» и «алгоритмические модели».
** Данные свойства алгоритмов можно отнести к негативным, труднопреодолимым. Также алгоритмы характеризуются детерминированностью, массовостью, дискретностью, эффективностью (позитивные свойства).
когда приоритет формы явления над его содержанием определяет его своеобразие и возможности функционального назначения» [14].
В отношении алгоритмов также можно отметить широкую сферу их применения, масштабность распространения в современной социотехнической среде, неопределенный круг лиц, на которых может распространяться регулирование алгоритмами. Технологические особенности алгоритмов также обуславливают их специфику, своеобразие и самостоятельное функциональное назначение.
Таким образом, учитывая признаки, свойства алгоритмов, массовость их применения и занимаемое положение в современных общественных отношениях, можно сделать вывод об алгоритмах как о регуляторе общественных отношений в социотехнической среде. Другими словами, появляется новый регулятор общественных отношений - алгоритм, признаки этого явления можно увидеть во всех технологически развитых странах. Технологизация общественной жизни и повсеместное применение вычислительных устройств позволили алгоритмам занять нишу регулятора общественных процессов в социотехнической среде.
Рассмотрим особенности алгоритмов, отличающие их от других регуляторов общественных отношений.
1. Алгоритмы действуют в социотехнической среде с развитым техническим и технологическим компонентом, т. е. должна быть развита соответствующая инфраструктура. Современные алгоритмы всегда функционируют только в социотехнической среде и прямо связаны с технологиями и техникой, зависимы от них.
2. Структура алгоритмов: алгоритм, направленный на социальное регулирование, содержит социальные нормы, а также в обязательном порядке включает технические нормы, без которых реализация такого алгоритма в технической среде не представляется возможной. Таким образом, алгоритмы включают нормы, регулирующие общественные отношения, технические нормы, реализации этих норм в цифровом пространстве, структуры данных.
3. Алгоритм является социотехническим регулятором общественных отношений.
Учитывая вышеизложенное, в нормативном регулировании можно выделить:
- техносоциальные нормы - технические нормы, реализация которых в социуме обусловлена социальными нормами;
- социотехнические нормы - социальные нормы, представленные в машиночитаемом виде, реализация которых в социотехнической среде обусловлена техническими нормами.
4. Алгоритмы нормативны, однако, связываясь с большими данными и действуя в отношении конкретного субъекта, нормативность алгоритмов сочетается с казуальностью. Таким образом, алгоритмы являются нормативно-казуальными регуляторами.
5. Техническая сложность алгоритмов, которая заключается в том числе и в расположении алгоритма: он может быть расположен не только внутри определенного участка кода, но даже не в пределах одного компьютера или сети одной организации [15].
6. Свойства алгоритмов:
- закрытость (непрозрачность) - алгоритмы являются своеобразным «черным ящиком», затрудняющим интерпретацию получаемых результатов. Такая закрытость обусловлена, с одной стороны, тайной, охраняемой законом, с другой - сложностью алгоритмов и необходимостью наличия специальных знаний для их интерпретации и работы с ними. Постоянное и стремительное появление новых версий, экспоненциальная сложность алгоритмических архитектур и не уменьшаемая автономность алгоритмов - явления, которые препятствуют эффективной оценке алгоритмов [16];
- предвзятость (смещение) - из-за предвзятости входных данных алгоритмические модели могут научиться принимать аналогичное дискриминационное отношение [17].
Закрытость и предвзятость можно отнести к негативным свойствам современных алгоритмов, которые трудно преодолеть. Вопрос создания механизмов, позволяющих это осуществить, остро стоит перед исследователями. То, как следует проводить «аудиты алгоритмов», все еще остается открытым вопросом и областью активных исследований [18].
Алгоритмы играют существенную роль в эволюции права. Право взаимодействует с новым регулятором в разных формах: комплементарности (дополнения), конкуренции, конвергенции, интеграции. Взаимодействие права и алгоритмов в вышеперечисленных формах расширяет ре-гуляторные возможности права в социотехнической среде.
Алгоритмизация общественных отношений создает все предпосылки для модификации права как социального регулятора в регулятор социотехнический.
Результатом алгоритмизации права выступает машиночитаемое право - совокупность машиночитаемых правовых норм, санкционированных государством. Машиночитаемое право, являющееся, в сущности, гибридом алгоритмов и права, можно отнести наряду с алгоритмами к
новым регуляторам общественных отношений в социотехнической среде. Указанный выше акцент на определении машиночитаемых норм как санкционированных государством очень важен, т. к. наблюдаемая тенденция алгоритмизации правовых норм в отсутствие правотворческих процедур и стандартов, регламентирующих перевод правовых норм в машиночитаемый вид, по своей сути является алгоритмизацией правовых знаний.
Машиночитаемое право в последнее время активно исследуется в российской научной среде. Исследованию подлежит обширный круг вопросов [19]. На государственном уровне машиночитаемое право изучается в рамках федерального проекта «Нормативное регулирование цифровой среды» национальной программы «Цифровая экономика Российской Федерации». В настоящее время в инновационном центре «Сколково» разработана Концепция развития технологий машиночитаемого права [20], направленная на обсуждение в Министерство экономического развития РФ. Машиночитаемое право становится предметом обсуждения широкого круга специалистов. Так, вопросы права, алгоритмов, машиночитаемого права стали предметом дискуссии на сессии, организованной в мае 2021 г. в рамках Петербургского международного юридического форума 9 % [21].
Следует отметить, что машиночитаемое право приобретает все особенности и свойства алгоритмов, указанные выше. Данный аспект необходимо учитывать при определении дальнейшей эволюции права, его роли в современном социальном регулировании, при прогнозировании рисков применения машиночитаемого права. Это имеет важное значение, поскольку процесс алгоритмизации может оказать существенное влияние на право в целом: затронуть его принципы, изменить сложившиеся модели правотворчества, правового регулирования, правопонимания, толкования. Каковы риски и последствия трансформации права под воздействием технологической составляющей социотехнической среды для человека, необходимо исследовать на примере изучения алгоритма как социокультурного феномена.
Список источников:
1. См.: Gran A.B., Booth P., Bucher T. To be or not to be algorithm aware: A question of a new digital divide? // Information, Communication & Society. 2020. P. 1-18. https://doi.org/10.1080/1369118x.2020.1736124.
2. См., например: Fair, transparent, and accountable algorithmic decision-making processes / B. Lepri [et al.] // Philosophy & Technology. 2018. Vol. 31, iss. 4. P. 611-627. https://doi.org/10.1007/s13347-017-0279-x.
3. Balkin J.M. Free speech in the algorithmic society: Big Data, private governance, and new school speech regulation // UC Davis Law Review. 2017. Vol. 51, iss. 3. P. 1149-1210.
4. См., например: Algorithmic regulation / ed. by K. Yeung, M. Lodge. N.Y., 2019. 304 p.; Algorithmic regulation and personalized law : A handbook / ed. by C. Busch, A. De Franceschi. N.Y., 2021. 292 p.; Cristianini N., Scantamburlo T. On social machines for algorithmic regulation // AI & Society. 2020. Vol. 35, iss. 3. P. 645-662. https://doi.org/10.1007/s00146-019-00917-8; Eyert F., Irgmaier F., Ulbricht L. Extending the framework of algorithmic regulation. The Uber case // Regulation & Governance. 2020. https://doi.org/10.1111/rego.12371; Hildebrandt M. Algorithmic regulation and the rule of law // Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. 2018. Vol. 376, iss. 2128. https://doi.org/10.1098/rsta.2017.0355; O'Reilly T. Open data and algorithmic regulation // Beyond transparency: Open data and the future of civic innovation. 2013. Vol. 21. P. 289-300.
5. См., например: D'Agostino M., Durante M. Introduction: The governance of algorithms // Philosophy & Technology. 2018. Vol. 31, iss. 4. P. 499-505. https://doi.org/10.1007/s13347-018-0337-z; Gritsenko D., Wood M. Algorithmic governance: A modes of governance approach // Regulation & Governance. 2020. https://doi.org/10.1111/rego.12367; König P. D. Dissecting the algorithmic leviathan: On the socio-political anatomy of algorithmic governance // Philosophy & Technology. 2019. Vol. 33, iss. 3. P. 467-485. https://doi.org/10.1007/s13347-019-00363-w.
6. См., например: Tagiew R. Roadmap to algocracy - a feasibility study // SSRN. 2020. http://dx.doi.org/10.2139/ssrn.3650010.
7. См., например: Venkatasubramanian S. Algorithmic fairness: Measures, methods and representations // PODS'19: Proceedings of the 38th ACM SIGMOD-SIGACT-SIGAI Symposium on Principles of Database Systems. https://doi.org/10.1145/3294052.3322192; Wong P.H. Democratizing algorithmic fairness // Philosophy & Technology. 2020. Vol. 33, iss. 2. P. 225-244. https://doi.org/10.1007/s13347-019-00355-w.
8. См., например: The ethics of algorithms: Key problems and solutions / A. Tsamados [et al.] // AI & SOCIETY. 2021. P. 116. https://doi.org/10.1007/s00146-021 -01154-8.
9. См., например: Roberge J., Seyfert R. What are algorithmic cultures? // Algorithmic cultures. Routledge, 2016. P. 13-37.
10. Zuboff S. The age of surveillance capitalism: The fight for a human future at the new frontier of power. N.Y., 2019. 704 p.
11. См. Di Porto F., Zuppetta M. Co-regulating algorithmic disclosure for digital platforms // Policy and Society. 2020. Vol. 40, iss. 2. P. 272-293. https://doi.org/10.1080/14494035.2020.1809052
12. Ibid.
13. Цит. по: Вопленко Н.Н. Право в системе социальных норм. Волгоград, 2003. 86 c.
14. Там же. С. 17.
15. Dourish P. Algorithms and their others: Algorithmic culture in context // Big Data & Society. 2016. Vol. 3, iss. 2. https://doi.org/10.1177/2053951716665128.
16. Kemper J., Kolkman D. Transparent to whom? No algorithmic accountability without a critical audience // Information, Communication & Society. 2019. Vol. 22, iss. 14. P. 2081-2096. https://doi.org/10.1080/1369118X.2018.1477967.
17. См., например: Caliskan A., Bryson J.J., Narayanan A. Semantics derived automatically from language corpora contain human-like biases // Science. 2017. Vol. 356, iss. 6334. P. 183-186. https://doi.org/10.1126/science.aal4230; Kemper J., Kolkman D. Op. cit.
18. Brown S., Davidovic J., Hasan A. The algorithm audit: Scoring the algorithms that score us // Big Data & Society. 2021. Vol. 8, iss. 1. https://doi.org/10.1177/2053951720983865.
19. Вашкевич А.М. Машиночитаемое право: право как электричество. М., 2019. 256 с.; Понкин И.В. Концепт машиночитаемого и машиноисполняемого права: актуальность, назначение, место в РегТехе, содержание, онтология и перспективы // International Journal of Open Information Technologies. 2020. Т. 8, № 9. С. 59-69; Хабриева Т.Я., Черногор Н.Н. Будущее права. Наследие академика В.С. Стёпина и юридическая наука. М., 2020. 176 с. https://doi .org/10.12737/1112960.
20. Концепция развития технологий машиночитаемого права (редакция проекта Концепции с учетом замечаний Рабочей группы, версия от 29 марта 2021 г.) [Электронный ресурс] // Официальный сайт Фонда «Сколково». URL: https://sk.ru/legal/automation-of-law/ (дата обращения: 17.08.2021).
21. Петербургский Международный Юридический Форум 9 %. Дискуссионная сессия «Машиночитаемое право: помощь или хайп?» [Электронный ресурс] // Дайджест Петербургского Международного Юридического Форума. URL: https://spblegalforum.ru/ru/channel/4 (дата обращения: 17.08.2021).
Информация об авторе Н.Ф. Порываева - аспирант Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, Москва, Россия. https://www.elibrary.ru/author_items.asp?authorid=1104071.
Information about the author N.F. Poryvaeva - PhD student, Institute of Legislation and Comparative Law under the Government of the Russian Federation, Moscow, Russia.
https://www.elibrary.ru/author_items.asp?authorid=1104071.
Статья поступила в редакцию / The article was submitted 30.07.2021; Одобрена после рецензирования / Approved after reviewing 16.08.2021 Принята к публикации / Accepted for publication 19.08.2021.
