CC BY
493
Концепт машиночитаемого и машиноисполняемого права: актуальность, назначение, место в РегТехе, содержание, онтология и
перспективы
И.В. Понкин
Аннотация - Статья посвящена исследованию и объяснению концепта машиночитаемого и машиноисполняемого права. Автор объясняет место и значение этого концепта как одного из направлений цифровых трансформаций в праве и как одного из элементов регуляторных технологий LegalTech. В статье дан обзор российских и зарубежных правовых актов и документов о машиночитаемых формах и форматах. Статья разъясняет общее понятие «машиночитаемый формат». Автор приводит обзор представленных в литературе объяснений понятия машиночитаемого права. В статье обосновывается, что создание машиночитаемого и машиноисполняемого права обусловлено вполне разумно-рациональными, релевантными соображениями (целями) прикладного порядка и высокой степени актуализации. Автором подробно излагается авторское видение функционально-целевого назначения машиночитаемого и машиноисполняемого права, случая и способы его применения. В статье утверждается, что несмотря на объективно имеющие место пределы цифровой формализации и пределы трансформации права в машиночитаемый вид, перевод некоторых частей права в машиночитаемые формы вполне возможен. Это обусловлено присущей праву высокой степенью его формализации и алгоритмизации. Вопрос о реальных возможностях и о примерах создания машиночитаемого и машиноисполняемого права нашел отражение в данной публикации. В авторской интерпретации обозначены детерминанты обеспечения машиночитаемости права в предназначенном для машиночитаемого и машиноисполняемого оперирования правовом акте. В статье изложен авторский концепт машиночитаемого и машиноисполняемого права. В заключение автор делает вывод о том, что решение задачи достижения полноценной, рабочей модальности машиночитаемости и машиноисполняемости права существенно повысит эффективность права.
Ключевые слова — регуляторные технологии (РегТех), машиночитаемое и машиноисполняемое право, правовые онтологии, автоматизация правотворчества и правореализации, машиночитаемый формат, технологии цифровой онто-инженерии в праве.
I. Введение
Статья получена 11 августа 2020 г.
И.В. Понкин - Институт государственной службы и управления Российской академии народного хозяйства и государственной службы при Президенте РФ, доктор юридических наук, профессор (e-mail: [email protected]).
Концепт машиночитаемого права (франц. - «droit lisible par machine»; англ. - «machine-readable law») и онтологически более сложный (включающий предыдущий) концепт машиноисполняемого права (англ. - «machine executable law», используется также частично совпадающее понятие: англ. - «Computational Law»; португал. - «direito computacional») (как основа и элемент автоматизации обработки правовых норм, правовых комплексов и правовых массивов) всё более активно и массированно задействуются во множестве зарубежных государств.
Концепт машиночитаемого права является одним из направлений цифровых трансформаций в праве и элементом регуляторных технологий LegalTech (цифровых технологий в сфере права - РегТех или ЮрТех; франц. - «technologie juridique», «technologie au service du Droit»; испанск. - «tecnología regulatoria», «tecnología jurídica», «tecnología al servicio del derecho»; англ. - «regulatory technology» («RegTech») или «legal technology» («LegalTech»)), элементом в целом цифровых технологий (англ. - «Digital technology»), а также составной частью цифровых трансформаций в государственном управлении.
В числе прочего, эти разработки ведутся (на будущее) в сопряжении с разработками технологий и юнитов искусственного интеллекта, технологий оперирования юридическими онтологиями и фреймами как инструментами, в сопряжении со многими другими новейшими технологическими достижениями и разработками.
Некоторые государства постепенно прилагают всё больше усилий к переходу на машиночитаемый формат представления правовых актов. Примером может быть тестирование в экспериментальном режиме XML-версии (или на расширяемом языке разметки - «Extensible Markup Language») законодательных актов Новой Зеландии. Некоторые предпосылки для аналогичных процессов создал Закон Франции от 07.10.2016 № 20161321 (ред. от 01.06.2019) «О [целях] цифровой Республики».
Однако поиск внятных объяснений сути формата и онтологии машиночитаемого права наталкивается в большинстве случаев или на пустоту или на нечто маловразумительное.
Даже если встречаются публикации, заслуживающие внимания в части описания опыта задействования машиночитаемого права [1-5], искомых исчерпывающе ясных дефиниций и достаточно подробных объяснений не обнаруживается и там.
На восполнение этих пробелов и направлена настоящая статья.
II. Российские правовые акты и документы о
машиночитаемых формах и форматах
Ключевые идеи концепта машиночитаемого и машиноисполняемого права родились не вчера.
Гипотеза о потенциальных возможностях основанных на вычислительных технологиях экспертных систем принести ощутимую пользу для юридической науки и практики прозвучала уже в работах Луиса Келсо в середине 1940-х гг. [6] В 1949 году Ли Лёвингер создал научное направление, исследующее и объясняющее возможности и преимущества задействования вычислительных технологий с пользой для юридической науки и практики, назвав это направление как Юриметрия (англ. - «ЗигшеМса») [7]. Существование компьютерно-программных комплексов, разумно оперирующих правом и оказывающих консультативную поддержку юристам, предсказал в 1959 году французский правовед Люсьен Мель [8].
Машиночитаемые формы и форматы уже давно применяются в правовой практике, в том числе и в России. См., например: Приказ МВД России от 04.02.2019 № 48 «Об утверждении Правил заполнения бланка удостоверения беженца, в том числе машиночитаемой зоны»; Постановление ЦИК России от 29.03.2017 № 78/681-7 (ред. от 10.06.2020) «О Перечне и формах документов, в том числе в машиночитаемом виде, представляемых политическими партиями и кандидатами в избирательные комиссии при проведении дополнительных выборов депутата Государственной Думы Федерального Собрания Российской Федерации седьмого созыва по одномандатному избирательному округу»; Приказ МВД России от 16.11.2017 № 864 (ред. от 16.01.2019) «Об утверждении Административного регламента Министерства внутренних дел Российской Федерации по предоставлению государственной услуги по оформлению и выдаче паспортов гражданина Российской Федерации, удостоверяющих личность гражданина Российской Федерации за пределами территории Российской Федерации» (в части правил формирования машиночитаемой зоны паспорта); Постановление Правительства РФ от 09.06.2003 № 335 (ред. от 16.07.2020) «Об утверждении Положения об установлении формы визы, порядка и условий её оформления и выдачи, продления срока ее действия, восстановления ее в случае утраты, а также порядка аннулирования визы» (в части формы и порядка заполнения машиночитаемого визового бланка, вклеиваемого в паспорт). Постановление Правительства РФ от 09.06.2003 № 335 (ред. от 16.07.2020) «Об утверждении Положения об установлении формы визы, порядка и условий её оформления и выдачи, продления срока ее действия, восстановления ее в случае утраты, а также порядка аннулирования визы» (в части формы и
порядка заполнения машиночитаемого визового бланка, вклеиваемого в паспорт).
Более того, этот подход был известен ещё в СССР. См., например, документ «Государственная система документационного обеспечения управления. Основные положения. Общие требования к документам и службам документационного обеспечения» (одобр. коллегией Главархива СССР 27.04.1988, Приказ Главархива СССР от 25.05.1988 № 33).
Но машиночитаемая информация в виде кодов -это одно, а машиночитаемое право - это иное, оно онтологически много более сложно.
Системы управления массивами правовых документов (Westlaw, LexisNexis, LegalZoom, RocketLawyer и т.п.) не являются примерами систем машиночитаемого права. Такие системы приносят пользу, помогая своим пользователям создавать и / или находить документы, однако сами они не понимают содержания этих документов [9, с. 3], не заточены на это.
Согласно части 3 статьи 10 (вступает в силу с 01.03.2021) Федерального закона от 31.07.2020 № 247-ФЗ «Об обязательных требованиях в Российской Федерации», «порядок формирования, ведения и актуализации реестра обязательных требований, в том числе сферы общественных отношений, в отношении которых он ведется, оператор реестра обязательных требований, перечень содержащейся в указанном реестре информации и обязанности федеральных органов исполнительной власти и уполномоченных организаций по её внесению устанавливаются Правительством Российской Федерации. Правительство Российской Федерации также вправе утвердить требования к форме и формату установления обязательных требований в целях перевода их в машиночитаемый вид (формат)».
Пункт 1.2 раздела 4.6 «Федеральный проект "Цифровое государственное управление"» Паспорта национального проекта «Национальная программа "Цифровая экономика Российской Федерации"» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 04.06.2019 № 7) предусматривал разработку и принятие федерального закона и иных нормативных правовых актов о закреплении возможностей машиночитаемого описания процесса оказания услуг. Пункт 4.1 раздела 6 «Дополнительная информация» Паспорта национального проекта «Национальная программа "Цифровая экономика Российской Федерации"» предусматривал «внедрение механизмов формирования и использования машиночитаемых норм».
III. Общее понятие «машиночитаемый формат»
Согласно уже упомянутому выше документу от 1988 года «Государственная система
документационного обеспечения управления. Основные положения. Общие требования к документам и службам документационного обеспечения», «под
машиночитаемым документом понимается документ, пригодный для автоматического считывания содержащейся в нём информации» (пункт 2.3.3.1). Это
определение справедливо и для машиночитаемого правового документа.
Согласно пункту 8.1.2 документа «Методические рекомендации по публикации открытых данных государственными органами и органами местного самоуправления, а также технические требования к публикации открытых данных. Версия 3.0» (утв. протоколом заседания Правительственной комиссии по координации деятельности Открытого Правительства от 29.05.2014 № 4), «машиночитаемое представление открытых данных должно быть реализовано посредством представления данных через API или в одном из перечисленных форматов: 1) CSV; 2) XML; 3) JSON; 4) любой из открытых форматов, реализующих модель RDF».
В целях реализации Федерального закона США от 1993 года «О деятельности и результативности Правительства» [10], Департамент по управлению и бюджету США в циркуляре [11, с. 645-646] определил понятие «машиночитаемый формат» («Machine Readable Format») следующим образом: «Машиночитаемый формат - формат данных на стандартизированном компьютерном языке, который может автоматически считываться веб-браузером или компьютерной системой (например, XML). Традиционные документы текстовых процессоров, файлы на языке гипертекстовой разметки (HTML) и файлы в формате portable document format (PDF) легко читаются людьми, но, как правило, при их интерпретации машины сталкиваются с трудностями. Другие форматы, такие как XML, JSON или электронные таблицы со столбцами заголовков, которые можно экспортировать как значения, разделённые запятыми (CSV), являются машиночитаемыми форматами. Возможно сделать традиционные текстовые документы и другие форматы машиночитаемыми, но документы должны включать улучшенные структурные элементы» (секция 200).
IV. Представленные в литературе объяснения
понятия машиночитаемого права
Сама по себе, возможность машиночитаемой записи нормативных положений, позволяющая использовать их для обработки с помощью ЭВМ, как отмечает О.М. Родионова, не приводит к формированию права как системы; машиночитаемость лишь позволяет провести «инвентаризацию» всех легально установленных правил в рамках огромного набора данных [12, с. 86].
Согласно А.М. Вашкевичу и А. Дуюнову, «машиночитаемые нормы - это однозначно сформулированные и понятные программе правила на базе унифицированного программного языка или других средств» [13, с. 4].
Как пишут О.С. Шепелева, М.А. Сучкова, А.В. Богапова и др., «под переводом законодательства в код, как правило, понимают перевод норм права в алгоритмизированный вид, который может быть прочитан машиной. Предполагается, что машиночитаемое право поможет стандартизировать правоприменение, сделать оказание государственных услуг более удобным и быстрым для пользователей и облегчить административную нагрузку как на бизнес,
так и на государственные органы. Каких-либо доказано работающих моделей в этом отношении пока не существует... Представляется затруднительным перевод действующего законодательства в машиночитаемый вид, поскольку оно сформулировано в традиционной доцифровой системе. Кроме того, не любое вновь создаваемое законодательство возможно записать в алгоритмизированном виде. Представляется, что на текущий момент внедрение (и даже проведение экспериментов по внедрению) машиночитаемого законодательства в России преждевременно. При этом этот вопрос должен оставаться на повестке для отслеживания развития технологий и опыта других юрисдикций в этом отношении. Хотя технологических решений, позволяющих создавать машиночитаемые нормы на русском языке, ещё не появилось, при создании системы регулирования цифровой экономики, должна быть предусмотрена возможность перехода к разработке машиночитаемого законодательства и нормативных актов федеральных органов исполнительной власти» [14, с. 103, 60].
А.М. Вашкевич так объясняет машиночитаемое право: «Автоматизированное машиночитаемое право может выдавать результат, похожий на тот, что предлагают агрегаторы авиабилетов, когда меньше чем за минуту анализируются все предложения мира, просчитываются варианты с приемлемыми стыковками, анализируется информация по загрузке лайнеров, учитываются предложения по скидкам - и выдаются в виде, отсортированном по цене или продолжительности поездки. Машиночитаемая норма права является алгоритмом, написанным на языке программирования и работающим вместе с другими элементами инфраструктуры автоматизации права (данные для системы автоматизированного права, технологии машинного обучения, онтологии и т.д.). Существующий к настоящему времени массив норм подвергать автоматизации не эффективно, поскольку нормы изначально написаны на естественном [человеко-читаемом] языке, который не обладает достаточными характеристиками для перевода в машиночитаемый вид. Автоматизироваться должны только отдельные существующие акты или их части. С другой стороны, большинство новых норм должно создаваться сразу в машиночитаемом виде или формате, совместимом с последующей автоматизацией. Это, безусловно, потребует изменения подходов к юридической технике и самому процессу правового регулирования, сделает необходимым создание нового юридического языка программирования, разработку принципов построения онтологий и требований к данным, пригодным для автоматизированного права» [5, с. 15, 20, 25-26].
V. Актуальность и экспектативная функционально-
целевая нагрузка машиночитаемого и машиноисполняемого права
Несмотря на то что машиночитаемому праву голословно прочат явно чрезмерно преувеличенные позитивные заслуги в будущем [5], недооценивать этот формат тоже не следует.
Создание машиночитаемого права (и главное -машиноисполняемого) и обсуждение такого рода
проектов не относятся к пустым умственным экзерсисам, но обусловлено вполне разумно-рациональными, релевантными соображениями (целями) прикладного порядка и высокой степени актуализации.
Превращение логики нормативных правил в программную логику многократного использования, потребляемую машиной, обеспечивает применение сервисных инноваций как правительствами, так и, при необходимости, третьими сторонами (включая искусственный интеллект) [15, с. 7-8].
Майкл Дженезерет объясняет смысл этого следующим образом: «Вы находитесь в другом штате по делам. Вы встаёте в отеле, завтракаете и отправляетесь навестить своего клиента. При езде по незнакомой дороге вы не знаете ограничения скорости и не можете найти знак. Действует ли автомобильная полоса в это время? Можете ли вы пользоваться мобильным телефоном за рулём в таком состоянии? Вы приближаетесь к месту назначения. Можете ли вы сделать разворот на этой улице? Вы можете повернуть направо на красный? Можете ли вы припарковаться в это время? Вернувшись в свой отель позже днём, вы решаете заняться некоторыми личными делами. Можете ли вы заказать лекарства в этой канадской онлайн-аптеке? Можете ли вы отправить это вино в подарок на день рождения своей тёте в Вирджинии? Проверка ваших медицинских счетов. При каких условиях медицинское страхование вашей матери покрывает её расходы по уходу на дому? У закона есть ответы на все эти вопросы. Но ответы недоступны, когда они вам нужны, по крайней мере, без большой работы с вашей стороны или затрат на найм эксперта. Мы живём в сложной нормативно-правовой среде. Как граждане, мы подчиняемся государственным правовым нормам разных юрисдикций - федерального уровня, уровня штата и местного уровня. Как члены организаций мы подчиняемся политике и внутренним правилам организации. Как социальные существа, мы связаны контрактами, которые заключаем с другими. Как частные лица, мы обязаны соблюдать личные правила поведения. Само количество и размер правил может устрашать. Статья в «National Review» убедительно доказала это: молитва «Отче наш» [на английском] - 66 слов, Геттисбергская речь - 286 слов, в Декларации независимости - 1322 слова, а постановления правительства о продаже капусты - целых 26 911 слов. Ситуацию усложняет сложность этих правил. Даже небольшие правила могут быть очень сложными. Хотя эту сложность иногда можно уменьшить путем тщательной разработки, такая осторожность не всегда возможна из-за нехватки времени; более того, после создания правил сложность часто возрастает, поскольку правила меняются, а затем снова меняются... Поскольку это - информационные проблемы, их можно смягчить с помощью информационных технологий. Нужны соответствующие правовые технологии -информационные технологии, применяемые в законах. Пожалуй, наиболее интересной возможностью здесь является технология, основанная на законах вычислений. Вычислительное право - это отрасль правовой информатики, связанная с кодификацией
правил в точной, вычислимой [машиночитаемой] форме» [9, с. 1].
Самое простое для понимания применение концепта машиночитаемого права - это обеспечение функционирования беспилотных транспортных средств. существующие правила дорожного движения -рамочны, интуитивны, не могут интерпретироваться примитивизированно. То есть их невозможно переложить автоматически на карту навигатора, встроенного в беспилотник, это просто не будет работать. Правила дорожного движения сначала следует синтетически трансформировать в машиночитаемые формы, а затем (или одновременно) - в машиноисполняемые.
Ещё одно простое для понимания применение концепта машиночитаемого права - это создание релевантных механизмов генетического поиска в правовых массивах. Попросту говоря: толку от машинного поиска будет мало до тех пор, пока машина не станет глубоко «понимать» тот универсум, где она осуществляет поиск, пока машина не «научится прочитывать» этот универсум и формируемый для поиска запрос.
Генетический поиск - реализация эвристического алгоритма поиска с сохранением важных аспектов «родительской информации» для «последующих поколений» информации [16, с. 5]. Генетические алгоритмы поиска - это стохастические процедуры поиска, основанные на рандомизированных операторах, созданных посредством абстрагирования таких естественных генетических механизмов, как естественный отбор, кроссовер и мутация, и посредством преобразования результатов такого абстрагирования в алгоритмические формы для решения сложных задач комбинаторной оптимизации. Алгоритм начинается с начальной генерации равномерно случайной совокупности шаблонов решений (под шаблоном решения подразумевается синтаксическое кодирование решения). Оператор кроссовера по сути является генератором синтаксического паттерна. Оператор мутации вводит случайные изменения в паттернах. Существует множество операторов мутации, которые возможно определить. Самым простым из всех является точечная мутация, при которой несколько позиций в строке выбираются случайным образом, а их значения заменяются случайно выбранными. Полученные таким образом решения оцениваются на предмет их пригодности. Прекращение алгоритма осуществляется по заранее определённому правилу остановки [17, с. 91-92].
Некоторые авторы выделяют следующие возможности применения машиночитаемого права: управление изменениями в праве - возможности автоматического и единообразного обновления алгоритмов работы информационных систем (банковских, страховых, таможенных и т.п.) при внесении изменений в законодательство; возможности автоматического мониторинга правоприменения и корректировки законодательства с использованием такого рода обратной связи; «регуляторная гильотина» -«цифровой скачок» законодательства, освобождающий его от огромного массива устаревших и более не соответствующих действительности правовых актов при
условии сохранения целостности и системности законодательства; правовое регулирование и правоприменение - возможности автоматического приведения правоприменительных актов (контрактов, актов органов государственной власти и местного самоуправления, конклюдентных действий, в том числе смарт-контрактов) в соответствие положениям законодательства; предиктивный анализ - возможность получать ответ, соответствует ли законодательству тот или иной способ поведения, в автоматическом режиме [18].
Ещё одно очевидное применение - создание условий, механизмов и онтологий для разработки, внедрения и функционирования искусственно-интеллектуальных компьютерно-программных
ассистентов-компаньонов судьи.
П.М. Морхат, доказывая принципиальную невозможность полной замены судьи-человека юнитом искусственного интеллекта, вместе с тем, обозначает следующие юридически (в том числе процессуально) и фактически (технически) возможные и релевантные направления и формы задействования юнита искусственного интеллекта (как «ассистента-компаньона» судьи) в судопроизводстве, в гражданском, арбитражном, административном, уголовном процессе, а также в арбитражном третейском процессе:
1) пруденциальный (внутренний превентивный) контроль деятельности судьи, в том числе в целях превенции заведомых предвзятости/непредвзятости его позиции и действий, правосудности/неправосудности и ошибочности/неошибочности выносимых им решений: контроль процессуальных действий судьи; контроль выносимых судьёй решений; интеллектуальный перманентный мониторинг судебных ошибок и условий, содействующих судебных ошибкам; оценка юнитом искусственного интеллекта юридической и фактической обоснованности аргументов стороны, выдвигающей требование об отводе судьи;
2) информационно-документарное обеспечение судопроизводства: автоматизированное интеллектуальное классифицирование юнитом искусственного интеллекта юридических документов, формирование и документарное ведение дел; выработка юнитом искусственного интеллекта проектов решений различных правовых проблем посредством задействования и изучения баз данных;
3) интеллектуальное экспертно-аналитическое обеспечение судопроизводства: сопоставление юнитом искусственного интеллекта норм права, сопоставление нормативных правовых актов в целях определения их иерархии, установления норм и актов более высокой юридической силы из числа сопоставляемых; генерация и выдача юнитом искусственного интеллекта оперативных экспертных оценок в рамках судебной экспертизы или мнения специалиста (применение систем искусственного интеллекта в экспертных юридических системах, автоматизированных системах поддержки правовых решений на основе искусственного интеллекта, иных экспертных системах); оказание юнитом искусственного интеллекта помощи судье в выявлении и артикулировании обстоятельств, указывающих на возможное злоупотребление стороной (сторонами) правом (правами), на возможное
намеренное искусственное необоснованное затягивание судебного разбирательства, процесса; в выявлении и артикулировании сфальсифицированных материалов и аргументов, применения манипулятивных приёмов; содействие юнитом искусственного интеллекта превенции упущения очевидных проблем и фактов, имеющих существенное юридическое значение в процессе; оказание юнитом искусственного интеллекта помощи судье и адвокату обвиняемого в выявлении и артикулировании обстоятельств, обусловливающих сомнения в виновности подсудимого; производство юнитом искусственного интеллекта комплексного переоценивающего анализа рассмотренных ранее судами дел по вновь выявленным обстоятельствам; содействие принятию решений по крупным объёмам неоднородных задач в сложных условиях неопределённостей, на основе неточной, недостаточной или плохо определённой информации, в условиях применения метода «игры с ненулевой суммой», в ситуациях, когда получение оптимальных или точных ответов и решений редундантно (чрезмерно избыточно) трудоёмко, требует редундантно и сложно обеспечиваемо больших объёмов специфичных знаний или вовсе невозможно;
4) лингвистическо-переводческое обеспечение судопроизводства: осуществление юнитом искусственного интеллекта синхронного профессионального юридического перевода (между человеческими языками - в смысле, что не машинными) в судебном процессе, в обеспечение соответствующих прав сторон процесса и в обеспечение основных принципов правосудия;
5) организационное обеспечение судопроизводства: применение искусственного интеллекта в юридической медиации (внесудебном и досудебном урегулировании конфликтов и споров); выбор арбитров (из линейки таковых) под конкретное дело [19].
Понятно, что всё это без технологий машиночитаемого права недостижимо, нереализуемо.
Судьи в США уже начинают использовать ресурсы сложного правового поиска с усиленным искусственным интеллектом (в частности, с технологией искусственного интеллекта CARA от компании Casetext [20] и др.) [21].
Ещё один момент. Опрос более 100 федеральных судей и судей штатов в США, проведённый компанией Casetext, выявил, что адвокаты часто пропускают (упускают из виду) важные прецедентные дела, и когда они это делают, это имеет реальные последствия в ходе судебного разбирательства, что подтверждается довольно показательной статистикой. Во-первых, каждый опрошенный судья сказал, что он или его клерки обнаруживали соответствующий прецедент, который стороны до них упустили. Более четверти судей (27 %) заявили, что они или их клерки обнаруживают недостающие прецеденты, на которые адвокаты должны были ссылаться «большую часть времени» или «почти всегда». Подавляющее большинство судей (83 %) утверждает, что хотя бы время от времени видят эту проблему. Незначительное меньшинство (16 %) говорит, что они редко, но всё же иногда ловят участников судебного разбирательства за пропуском прецедентных дел, которые они должны были указать в своих
материалах. И опять же, буквально ни один из более чем 100 опрошенных судей не сказал, что это вообще не проблема.
Это показывает, что лимит возможностей человеческого восприятия и охвата всей совокупности права приближается к исчерпанности, и актуализирует вопрос о задействовании машинных ресурсов, тем более что таковые уже активно начинают применяться.
Но если эти вопросы всё же можно назвать по большей части вопросами будущего (может быть, даже отдалённого), то следующий вопрос имеет отношение ко дню сегодняшнему и более чем актуален. Формат машиночитаемого права и соответствующие, способные его обрабатывать, компьютерно-программные комплексы способны очень существенно экономить человеку время, облегчать ему жизнь и уберегать от неприятных ситуаций (помочь избежать юридических ловушек и разобраться в нагромождениях юридического жаргона прикрытия).
Речь идёт о том, к примеру, что средний человек должен был бы потратить 76 рабочих дней на чтение всех политик конфиденциальности, с которыми он соглашается в течение года. Чтение одних только условий Amazon в одиночку занимает в среднем около девяти часов [22].
И именно здесь оперирующие машиночитаемым правом компьютерно-программные комплексы могли бы найти применение и быть полезными, читающими за человека (в его интересах и в его пользу) все эти редундантно-раздутые и нагромождённые правила и условия.
Исследование уже внедрённых, апробируемых опытных и проектируемых перспективных технологий позволяет нам в рамках нашего концепта обозначить функционально-целевое назначение
машиночитаемого и машиноисполняемого права следующим образом:
- создание условий, механизмов и онтологий правового поиска новейшего поколения - генетического (англ. - «genetic search»), интуитивного, интерсекционального, аппроксимируемого, с органической (то есть за исключением рекламной или иным образом специально детерминированной третьими лицами) и smart- выдачей результатов;
- управление цифровыми онтологиями права;
- создание юридико-технических и компьютерно-программно-логистических условий (возможностей) сопряжения (стыковки) цифровой онтологии права с когнитивными и операциональными возможностями компьютерно-программных комплексов (в том числе с использованием искусственного интеллекта) воспринимать (распознавать), анализировать, сопоставлять, моделировать, оценивать нормы права и нормы технического регулирования, сложные комплексы и массивы таких норм в целях оперирования ими (упрощение и оптимизация законодательства, пруденциальный аудит, оценка эффективности, систематизация в нормативных правовых массивах, омологация архитектуры и дизайна системы права, правового пространства и др.);
- создание условий, механизмов и онтологий компьютерно-программного для производства правовой аналитики, в том числе правовой экспертизы;
- создание условий, механизмов и онтологий для самостоятельного написания компьютерно-программных комплексами проектов нормативных правовых актов и актов технического нормативного регулирования на основе специального юридико-технического метаязыка, с аппроксимацией к модальностям, максимально-облегчённым для аутентичного машинного перевода на различные иностранные естественные (человеко-читаемые) языки (когда, к примеру, надлежит создать проект акта одновременно на двух десятках языков государств-членов ЕС);
- оперирование цифровыми моделями-двойниками в праве (см.: [23; 24]);
- сопряжение smart-объектов (объектов «умной» техники) с нормативно-правовым и нормативно-техническим пространством (как пример: «научение» беспилотного автомобиля правилам дорожного движения и императивное связывание его этими правилами); обеспечение управления автономными транспортными средствами, такими, как беспилотные автомобили, дроны и т.д. (что особенно важно, когда в разных регионах страны или в разных странах действуют различные правила в отношении автономных транспортных средств);
- создание условий, механизмов и онтологий для разработки, внедрения и функционирования искусственно-интеллектуальных компьютерно-программных ассистентов-компаньонов судьи, адвоката, прокурора, следователя, нотариуса, а также интеллектуальных платформ, обеспечивающих формализованные части их профессиональной деятельности;
- создание условий, механизмов и онтологий для обеспечения smart-контрактов;
- оперирование smart-сетями цитирований (в прецедентном праве) и сетями правовых отсылок, в целом работа с большими данными в нормативных пространствах;
- управление вспомогательными юридическими ботами;
- создание условий, механизмов и онтологий для разработки, внедрения и реализации машинного юридико-переводческого обеспечения в юридическом процессе.
VI. Реальные возможности и примеры создания
машиночитаемого и машиноисполняемого права
Несмотря на объективно имеющие место пределы цифровой формализации и пределы трансформации права в машиночитаемый вид, перевод некоторых частей права в машиночитаемые формы вполне возможен, что обусловлено присущей праву высокой степенью его формализации и алгоритмизации (см.: [25; 26]).
Майкл Дженезерет обозначает подход к построению систем вычислительного закона, основанный на вычислительной логике и состоящий из двух компонентов: 1) представление фактов и правил в виде предложений в формальной логике, 2) использование механических методов рассуждения (см. об этом: [27]) для вывода последствий из
представленных таким образом фактов и законов. Язык логики расширяет язык простых данных двумя способами. Прежде всего, это переменные, которые позволяют ссылаться на произвольные сущности. Во-вторых, есть логические операторы, которые позволяют выражать отношения между фактами. Мы можем кодировать правила и положения, написав правила, которые определяют понятие незаконности. Учитывая некоторые факты и правила, мы можем делать логические выводы, сопоставляя факты и выводы правил с условиями других правил и утверждая их выводы. Такие модели рассуждений называются правилами вывода. Мы можем в конечном итоге сделать все логические выводы из нашего набора предпосылок [9, с. 3-4].
Уже сегодня представлены практически-применимые форматы машиночитаемого юридического кода: обоснованно выделить, в частности, стандарт представления в XML источников права и ссылок на источники права «METAlex» [28]; стандарт электронного обмена юридическими данными «LegalXML» консорциума OASIS [29].
Уместно упомянуть здесь и весьма перспективный концепт алгоритмического регулирования Тима О'Рейлли от 19.09.2011, основанный на следующих позициях: 1) глубокое понимание желаемого результата; 2) измерение в реальном времени, чтобы определить, достигается ли этот результат; 3) алгоритмы (т.е. набор правил), которые вносят корректировки на основе новых данных; 4) периодический более глубокий анализ правильности самих алгоритмов и их ожидаемой производительности (см. подробнее: [30; 31]), с соответствующим их корригированием.
VII. Авторский концепт машиночитаемого и
машиноисполняемого права
обоснованно обозначить следующие
детерминанты обеспечения машиночитаемости права в предназначенном для машиночитаемого и машиноисполняемого оперирования правовом акте:
- повышенная чёткость логической структуры и логическая разграниченность норм и частей акта, повышенная чёткость раскладки (топологии) интерреляций (в том числе иерархических) элементов внутри правового акта;
- наличие мета-разметки (облегчающие и обеспечивающие процесс формализации права расстановка тегов - снабжение синтаксически отличной от правового текста системой аннотирования, а также нумерация) в каждом правовом акте;
- повышенная чёткость раскладки (топологии) интерреляций (в том числе иерархических) и частотная расстановка опорных точек (узлов) внутри правового комплекса (совокупности правовых актов), иных правовых формирований, омологированная систематизация права;
- предельно возможно допустимая семантическая шаблонизация норм (аппроксимация к типологизированным шаблонам (паттернам)) с придерживанием правила коротких лексических конструкций и форм (применение т.н. инженерного стиля письма);
- максимально возможно достижимая
минимизированность в акте бланкетных норм, а также «резиновых» и абстрактно-декларативных норм.
Но такой подход имеет пределы своей реализации для целей достижения релевантной машиночитаемости и машиноисполняемости.
Гораздо более перспективен подход, предполагающий изначальное написание нормативного акта на некоем мета-языке (или гибридном прото-языке), с последующим автоматическим переводом на естественные (человеко-читаемые) языки.
Согласно нашему авторскому концепту, машиночитаемое и машиноисполняемое право -особые инструментальные онтология и формат (создания и представления) актов нормативно-правового и нормативного технического регулирования (и комплексов таких актов) на основе специально разрабатываемых (технологиями цифровой онто-инженерии в праве) языков, гибридизированных из стандартизированных компьютерных языков (машинных кодов) и специальных юридических метаязыков (с мета-данными (с мета-разметками, с цифровыми «заметками на полях») и с юридико-техническими конструкциями в формализованно-цифровизированных онтологиях), с трансформацией логики нормативных установлений в компьютерно-программную логику многократного использования, позволяющие достичь и обеспечить высокую степень автоматизации решения спектра задач юридического порядка (для достижения больших эффективности и эргономичности таких решений), в том числе позволяющие компьютерно-программным комплексам (компьютерным инструментам) автоматически распознавать (считывать) непосредственно в первоисточниках (а не в переводах), находить, «понимать» и интерпретировать тексты таких актов (и их комплексов), а также их исполнять или обеспечивать их исполнение (в мере, доступной для указанных компьютерно-программных комплексов).
УШ. Заключение
Закон сегодня ужасно неэффективен, отмечает Марк Лемли, и, в некотором смысле, это неэффективно по замыслу, в конце концов, юристы получают почасовую оплату, так что неэффективность вознаграждается; соответственно, по словам Мартина Каца, назрел пересмотр юридической практики с помощью технологий (цит. по: [32, с. 32]).
Цифровое право является следующим шагом в эволюции правовой системы [9, с. 8].
И решение задачи достижения полноценной, рабочей модальности машиночитаемости и машиноисполняемости права (если вовремя и должным образом учесть все существующие значимые риски) существенно повысит эффективность права.
Благодарности
Настоящим автор выражает благодарность Куприяновскому Василию Павловичу, подсказавшему эту интереснейшую тему.
Библиография
[1] Epifanova T.V., Vovchenko N.G., Toporov D.A., Pozdnyshov A.N. Development of Legal Education and Machine-Readable Law in the Conditions of Economy Digitization // Digital Economy: Complexity and Variety vs. Rationality / Editors: Elena G. Popkova, Bruno S. Sergi. - Cham (Switzerland): Springer, 2020. -xx; 1055 p. - P. 971-979.
[2] Ковалева Н.Н. Машиночитаемое право как механизм умного регулирования в области связи // Правовая политика и правовая жизнь. - 2019. - №3. - С. 158159.
[3] Зенин С.С., Ижаев О.А., Кутейников Д.Л., Япрынцев И.М. Практика применения цифровых технологий в законодательном процессе в зарубежных государствах: сравнительно-правовой анализ // Юридическое образование и наука. - 2019. - № 8. - С. 38-42.
[4] Романов А.Ю. Проблемы перевода норм права в машиночитаемый вид и автоматизации их применения судом // Круглый стол «Язык правотворчества в условиях цифровизации общественных отношений» (Москва, 25.09.2019). -М.: ИНФРА-М, 2019. - С. 218-222.
[5] Вашкевич А.М. Автоматизация права: право как электричество. - М.: Симплоер, 2019. - 256 с.
[6] Kelso L.O. Does the Law Need a Technological Revolution // Rocky Mountain Law Review. - 19451946. - Vol. 18. - P. 378-383.
[7] Loevinger L. Jurimetrics. The Next Step Forward // Minnesota Law Review (Journal of the State Bar Association). - 1949, April. - Vol. 33. - № 5. - P. 455493.
[8] Mehl L. Automation in the Legal World: From the machine processing of legal information to the «Law Machine» // Mechanization of Thought Processes: Proceedings of a Symposium Held at the National Physical Laboratory on 24-27 November 1958. -London: Her Majesty's Stationery Office, 1959. -P. 755-780.
[9] Genesereth M. Computational Law: The Cop in the Backseat // <http://logic.stanford.edu/publications/genese reth/complaw.pdf>; <https://law. stanford. edu/2016/01/13 /michael-genesereths-computational-law-the-cop-in-the-backseat/>. - 8 p.
[10] Закон США от 1993 года «О деятельности и результативности Правительства» [Government Performance and Results Act of 1993] // <https://web.archive.org/web/20070628194431/http://w ww.whitehouse.gov/omb/mgmt-gpra/gplaw2m.html>.
[11] Circular № A-11 «Preparation, submission, and execution of the Budget» / Executive office of the President; Office of management and budget, 2019, December // <https://www.whitehouse.gov/wp-content/uploads/2018/06/a 11.pdf>.
[12] Родионова О.М. Право и цифровые технологии // Вестник Саратовской государственной юридической академии. - 2019. - № 6. - С. 85-89.
[13] Вашкевич А.М., Дуюнов А. Автоматизация права: Законодательство. Публичное правоприменение. Договоры и частно-правовые нормы. Ограничения: Концепция. - М.: Симплоер, 2019. - 19 с.
[14] Шепелева О.С., СучковаМ.А., БогаповаА.В. и др. Вопросы регулирования цифровой экономики: Аналитический отчет / Фонд «Центр стратегических разработок». - М., 2019. - 491 с.
[15] Better Rules for Government: Discovery Report, March 2018 // <https://www.digital.govt.nz/dmsdocument/95-better-rules-for-government-discovery-report>. - 47 p.
[16] Морхат П.М. Право и искусственный интеллект: Тезаурус. - М.: Буки Веди, 2019. - 52 с.
[17] Arunkumar S., Chockalingam T. Genetic search algorithms and their randomized operators // Computers & Mathematics with Applications. - 1993, March. -Vol. 25. - № 5. - P. 91-100.
[18] Машиночитаемое право: возможности и проблемы // <http://www.festivalnauki.ru/meropriyatie-festivalya/81711/mashinochitaemoe-pravo-vozmozhnosti-i-problemy>.
[19] Морхат П.М. Применение искусственного интеллекта в судебном процессе // Вестник гражданского процесса. - 2019. - Т. 9. - № 3. -С. 61-85.
[20] Smarter Legal Research // <https://casetext.com>.
[21] Heller J. You're Bad at Legal Research, and Your Judge Knows It. One reason artificial intelligence is a hot topic in law: When attorneys miss precedents, the stakes are high // <https://abovethelaw.com/2018/05/artificial-confusion-youre-bad-at-legal-research-and-your-judge-knows-it/>. - 24.05.2018.
[22] How Silicon Valley Puts the 'Con' in Consent. If no one reads the terms and conditions, how can they continue to be the legal backbone of the internet? // <https ://www. nytimes.com/2019/02/02/opinion/internet-facebook-google-
consent. html?fbclid=IwAR2SWUb4rWdpkDYJ8LLshL7 jZIM96jusdG78m9RNwUxqFphsFeHkVaL-xIg>. -02.02.2019.
[23] Понкин И.В., Редькина А.И. Цифровое государственное управление: метод цифровых моделей-двойников (BIM) в праве // Государственная служба. - 2020. - Т. 22. - № 2. - С. 64-69.
[24] Понкин И.В., Редькина А.И. Использование BIM-технологий в праве // Публично-правовые средства эффективности развития экономики и финансов. Ч. 1 / Отв. ред.: Г.Ф. Ручкина, М.А. Лапина / Финансовый университет при Правительстве РФ. - М.: Кнорус, 2020. - 246 с. - С. 25-30.
[25] Понкин И.В., Редькина А.И. Цифровая формализация права // International Journal of Open Information Technologies. - 2019. - Vol. 7. - № 1. -С. 39-48.
[26] Понкин И.В., Редькина А.И. Цифровые онтологии права и цифровое правовое пространство // Пермский юридический альманах. - 2019. - С. 24-37.
[27] Mechanical Reasoning Test // <https://www.aptitude-test.com/mechanical-reasoning.html>.
[28] CEN MetaLex. Open XML Interchange Format for Legal and Legislative Resources // <http://www.metalex.eu>.
[29] About LegalXML. Overview of the OASIS LegalXML Member Section // <http://www.legalxml.org/about/index.shtml>.
[30] A brief exchange with Tim O'Reilly about «algorithmic regulation» // <http://tjm.org/2014/02/15/a-brief-
exchange-with-tim-oreilly-about-algorithmic-regulation/>. - 15.02.2014.
[31] O'Reilly T. Open Data and Algorithmic Regulation // <https://beyondtransparency.org/chapters/part-5/open-data-and-algorithmic-regulation/>.
[32] Harbert T. The Law Machine // IEEE Spectrum. -2013. - Vol. 50. - № 11. - P. 31-34, 53-54.
The concept of machine-readable and machine-executable law: relevance, purpose, place in RegTech, content, ontology and
prospects
Igor Ponkin
Abstract - The article is devoted to the research and explanation of the concept of machine-readable and machine-executable law. The author explains the place and significance of this concept as one of the directions of digital transformations in law and as one of the elements of LegalTech regulatory technologies. The article provides an overview of Russian and foreign legal acts and documents on machine-readable forms and formats. The article explains the general concept of "machine-readable format". The author provides an overview of explanations of the concept of machine-readable law presented in the scientific literature. The author substantiates that the creation of machine-readable and machine-executable law is due to quite reasonable-rational, relevant considerations (goals) of the applied order and a high degree of actualization. The authors sets out in detail the author's vision of the functional purpose of machine-readable and machine-executable law, the cases and methods of its application. The article states that despite the objectively existing limits of digital formalization and the limits of transformation of law into a machine-readable form, the translation of some parts of the law into machine-readable forms is quite possible. This is due to the law's high degree of formalization and algorithmization. The issue of real possibilities and examples of the creation of machine-readable and machine-executable law is reflected in this publication. The author's interpretation identifies the determinants of ensuring machine-readability of the law in a legal act intended for machine-readable and machine-executable operation. The article describes the author's concept of machine-readable and machine-executable law. In conclusion, the author concludes that solving the problem of achieving a full, working modality of machine readability and machine execution of law will significantly increase the effectiveness of law.
Keywords - regulatory technologies (RegTech), machine-readable and machine-executed Law, legal ontologies, automation of lawmaking and law enforcement, machine-readable format, digital onto-engineering technologies in the Law.
УДК 34:007; 34.01; 342; 341; 004.8; 004.9; 006; 007; 681.5
ББК 67:30; 67.0; 66.0; 67.4; 67.412; 67.401; 67.400.7; 67.5
References
[1] Epifanova T.V., Vovchenko N.G., Toporov D.A., Pozdnyshov A.N. Development of Legal Education and Machine-Readable Law in the Conditions of Economy Digitization // Digital Economy: Complexity and Variety vs. Rationality / Editors: Elena G. Popkova, Bruno S.
Sergi. - Cham (Switzerland): Springer, 2020. -xx; 1055 p. - P. 971-979.
[2] Kovaleva N.N. Mashinochitaemoe pravo kak mekhanizm umnogo regulirovaniia v oblasti sviazi [Machine-readable law as a mechanism for smart regulation in the field of communications] // Pravovaia politika i pravovaia zhizn' [Legal policy and legal life]. - 2019. -N 3. - P. 158-159.
[3] Zenin S.S., Izhaev O.A., Kuteinikov D.L., Yapryntsev I.M. Praktika primeneniia tsifrovykh tekhnologii v zakonodatel'nom protsesse v zarubezhnykh gosudarstvakh: sravnitel'no-pravovoi analiz [The practice of using digital technologies in the legislative process in foreign countries: a comparative legal analysis] // Iuridicheskoe obrazovanie i nauka [Legal education and science]. - 2019. - N 8. - P. 38-42.
[4] Romanov A.Yu. Problemy perevoda norm prava v mashinochitaemyi vid i avtomatizatsii ikh primeneniia sudom [Problems of translating the norms of law into a machine-readable form and automating their application by the court] // Kruglyi stol "Iazyk pravotvorchestva v usloviiakh tsifrovizatsii obshchestvennykh otnoshenii" [Round table "The language of lawmaking in the context of digitalization of public relations"] (Moscow, 25.09.2019). - Moscow: INFRA-M, 2019. - P. 218-222.
[5] Vashkevich A.M. Avtomatizatsiia prava: pravo kak elektrichestvo [Automation of law: law as electricity]. -Moscow: Simplawyer, 2019. - 256 p.
[6] Kelso L.O. Does the Law Need a Technological Revolution // Rocky Mountain Law Review. - 19451946. - Vol. 18. - P. 378-383.
[7] Loevinger L. Jurimetrics. The Next Step Forward // Minnesota Law Review (Journal of the State Bar Association). - 1949, April. - Vol. 33. - N 5. - P. 455493.
[8] Mehl L. Automation in the Legal World: From the machine processing of legal information to the «Law Machine» // Mechanization of Thought Processes: Proceedings of a Symposium Held at the National Physical Laboratory on 24-27 November 1958. -London: Her Majesty's Stationery Office, 1959. -P. 755-780.
[9] Genesereth M. Computational Law: The Cop in the Backseat // <http://logic.stanford.edu/publications/genese reth/complaw.pdf>; <https://law. stanford. edu/2016/01/13 /michael-genesereths-computational-law-the-cop-in-the-backseat/>. - 8 p.
[10] Government Performance and Results Act of 1993 // <https://web.archive.Org/web/20070628194431/http://w ww.whitehouse.gov/omb/mgmt-gpra/gplaw2m.html>.
[11] Circular № A-11 «Preparation, submission, and execution of the Budget» / Executive office of the President; Office of management and budget, 2019, December // <https://www.whitehouse.gov/wp-content/uploads/2018/06/a 11.pdf>.
[12] Rodionova O.M. Pravo i tsifrovye tekhnologii [Law and digital technologies] // Bulletin of the Saratov State Law Academy [Vestnik Saratovskoi gosudarstvennoi iuridicheskoi akademii]. - 2019. - N 6. - P. 85-89.
[13] Vashkevich A.M., Duyunov A. Avtomatizatsiia prava: Zakonodatel'stvo. Publichnoe pravoprimenenie. Dogovory i chastno-pravovye normy. Ogranicheniia: Kontseptsiia [Automation of Law: Legislation. Public enforcement. Contracts and private law. Constraints: Concept]. - Moscow: Simplawyer, 2019. - 19 p.
[14] Shepeleva O.S., Suchkova M.A., Bogapova A.V. and etc. Voprosy regulirovaniia tsifrovoi ekonomiki: Analiticheskii otchet [Regulating the Digital Economy: Analytical Report]. - Moscow, 2019. - 491 p.
[15] Better Rules for Government: Discovery Report, March 2018 // <https://www.digital.govt.nz/dmsdocument/95-better-rules-for-government-discovery-report>. - 47 p.
[16] Morkhat P.M. Pravo i iskusstvennyi intellekt: Tezaurus [Law and Artificial Intelligence: Thesaurus]. - Moscow: Buki Vedi, 2019. - 52 p.
[17] Arunkumar S., Chockalingam T. Genetic search algorithms and their randomized operators // Computers & Mathematics with Applications. - 1993, March. -Vol. 25. - N 5. - P. 91-100.
[18] Mashinochitaemoe pravo: vozmozhnosti i problemy [Machine-readable Law: opportunities and challenges] // <http://www.festivalnauki.ru/meropriyatie-festivalya/81711/mashinochitaemoe-pravo-vozmozhnosti-i-problemy>.
[19] Morkhat P.M. Primenenie iskusstvennogo intellekta v sudebnom protsesse [The use of artificial intelligence in the Litigation] // Vestnik grazhdanskogo protsessa [Civil Procedure Bulletin]. - 2019. - T. 9. - N 3. - P. 61-85.
[20] Smarter Legal Research // <https://casetext.com>.
[21] Heller J. You're Bad at Legal Research, and Your Judge Knows It. One reason artificial intelligence is a hot topic in law: When attorneys miss precedents, the stakes are high // <https://abovethelaw.com/2018/05/artificial-confusion-youre-bad-at-legal-research-and-your-judge-knows-it/>. - 24.05.2018.
[22] How Silicon Valley Puts the 'Con' in Consent. If no one reads the terms and conditions, how can they continue to be the legal backbone of the internet? // <https ://www. nytimes.com/2019/02/02/opinion/internet-facebook-google-
consent. html?fbclid=IwAR2SWUb4rWdpkDYJ8LLshL7 jZIM96j usdG78m9RNwUxqFphsFeHkVaL-xIg>. -02.02.2019.
[23] Ponkin I.V., Redkina A.I. Tsifrovoe gosudarstvennoe upravlenie: metod tsifrovykh modelei-dvoinikov (BIM) v prave [Digital Government: The Digital Twin Model (BIM) Method in Law] // Gosudarstvennaia sluzhba [Public service]. - 2020. - T. 22. - N 2. - P. 64-69.
[24] Ponkin I.V., Redkina A.I. Ispol'zovanie BIM-tekhnologii v prave [The use of BIM technologies in
law] // Publichno-pravovye sredstva effektivnosti razvitiia ekonomiki i finansov [Public law means of economic and financial development efficiency]. Part 1 / Ed. by G.F. Ruchkina, M.A. Lapina. - Moscow: Knorus, 2020. - 246 p. - P. 25-30.
[25] Ponkin I.V., Redkina A.I. Tsifrovaia formalizatsiia prava [Digital formalization of law] // International Journal of Open Information Technologies. - 2019. -Vol. 7. - N 1. - P. 39-48.
[26] Ponkin I.V., Redkina A.I. Tsifrovye ontologii prava i tsifrovoe pravovoe prostranstvo [Digital ontologies of law and digital legal space] // Permskii iuridicheskii al'manakh [Perm Legal Almanac]. - 2019. - P. 24-37.
[27] Mechanical Reasoning Test // <https://www.aptitude-test.com/mechanical-reasoning.html>.
[28] CEN MetaLex. Open XML Interchange Format for Legal and Legislative Resources // <http://www. metalex. eu>.
[29] About LegalXML. Overview of the OASIS LegalXML Member Section // <http://www.legalxml.org/about/index.shtml>.
[30] A brief exchange with Tim O'Reilly about «algorithmic regulation» // <http://tjm.org/2014/02/15/a-brief-exchange-with-tim-oreilly-about-algorithmic-regulation/>. - 15.02.2014.
[31] O'Reilly T. Open Data and Algorithmic Regulation // <https://beyondtransparency.org/chapters/part-5/open-data-and-algorithmic-regulation/>.
[32] Harbert T. The Law Machine // IEEE Spectrum. -2013. - Vol. 50. - N 11. - P. 31-34, 53-54.
