CC BY
113
Человек в условиях цифровизации права: проблемы и пути развития
Холопов Алексей Васильевич,
кандидат юридических наук, доцент, заведующий криминалистической лабораторией Санкт-Петербургского юридического института (филиал) Университета прокуратуры Российской Федерации E-mail: [email protected]
Статья посвящена современным проблемам процесса цифровизации права и его влияния на человека. Автор приводит такие факторы и предпосылки внедрения искусственного интеллекта в юриспруденции, как последствия постмодерна в праве, явление формализации права, право и проблема больших данных, научно-технических прогресс НБИКС-технологии, концепция цифровой экономики. Автор, рассматривает негативный (трансгуманистический) и позитивный (антропо-педагогиче-ский) сценарий цифровизации права. Негативный (трансгуманистический) предполагает два вектора развития цифровиза-ции права: первый - создание искусственных вычислительных систем, решающих организационные и творческие задачи независимо от человека; второй - внедрение таких систем в человеческий организм, т.е. цифровизация и кибернетизация человека. Позитивный (антропо-педагогический) сценарий цифровизации права заключается в педагогическом воздействии государства на человека и общество с целью формирования правосознания на индивидуальном и общественном уровнях, как руководящей основы в процессах социальных коммуникаций и принятия решений. Автор приходит к выводу, что в процессе цифровизации права приоритет необходимо отдавать не искусственному интеллекту, но развитию когнитивного, нравственного и творческого потенциала человека, и отдавать приоритет созданию автоматизированных систем управления как инструмента в процессе познания права человеком.
Ключевые слова: цифровизация права; искусственный интеллект; цифровая экономика; трансгуманистический сценарий; антропо-педагогический сценарий.
сч <о
Право в социальных системах можно рассматривать как язык (речь) и систему передачи (трансляции и поддержания) из поколения в поколение определенного уровня устойчивости развития социума. По сути, право можно назвать рефлексивным, мысленным диалогом коллективного субъекта (социума), направленным на противодействие социальной энтропии, представляющей собой «социокультурный феномен, воплощающий совокупность характеристик социальной реальности, сложившихся в ходе социального взаимодействия и отражающих меру ее отклонения от условно нормального (эталонного) состояния, системную социальную неопределенность в жизнедеятельности личности и социума, уровень социального порядка и социальной организации в условиях социокультурной динамики» [1, с. 137]. Данное условно нормальное (эталонное) состояние индивида и социума, имеет деонтическую (от греч^еоп - должное, правильное) природу и является образом будущего (перспективной моделью развития) социальной системы, т.е. образом долженствования.
Исходя из этого, право можно рассматривать как деонтический образ-модель развития социальной системы на индивидуальном и общественном уровнях. Полагаем, что деонтическая природа права как технологии противостояния социальной энтропии, позволяет говорить об основном смысле воспитательной функции права в социальных системах.
Также, право можно рассматривать, как огромный массив данных (Big data), трудно поддающихся изучению без применения специальных информационных моделей и инструментов. Именно в рамках этого подхода, развиваются идеи использования систем искусственного интеллекта в юриспруденции.
Отметим, что в настоящее время научные исследования в области искусственного интеллекта интенсифицированы указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации".
Можно выделить следующие, основные, на наш взгляд, факторы и предпосылки цифровизации права, например, в части внедрения в юриспруденции систем искусственного интеллекта: 1. Последствия постмодерна, выражающиеся в отказе от метафизики и кризисе когнитивных (производное от латинских терминов - cognitio и cogitation, означающих, соответственно, «познание» и «познавание») и нравственных качеств личности. В качестве иллюстрации приведем, мнение председателя Конституционного суда Российской Федерации В.Д. Зорькина, который в 2019 г. на IX Петербургском Меж-
дународном Юридическом Форуме в докладе «Право метамодерна: постановка проблемы» отметил, что «Современный кризис права, углубляющийся на наших глазах, имеет свои корни в тех вариантах философствования, которые предъявляет постмодерн. В философии постмодерна нет места таким базовым правовым понятиям, как истинность, объективность, справедливость. (...) Ничем не ограниченный плюрализм культурных и моральных норм, которые все настойчивее укореняются в социальной практике большинства развитых стран мира, неуклонно хаотизируя общественную жизнь, имеет то же «постмодернистское» происхождение. А хаос вовсе не ведет к свободе. Ведь свобода возможна лишь в четко очерченных правовых рамках. Хаос же, как учит история, всегда чреват произволом и насилием» [3].
2. Формализация права. Наблюдается тенденция превращения права в систему формализованных инструкций и правил, лишенных какого бы то ни было метафизичности, т.е. смысла, связанного с культурным, философско-религиозным наследием человеческой цивилизации. Если право в виде системы законодательства деградирует до уровня инструкций, то возможно их описать формульным языком, т.е. создать эффективные математические модели. Впоследствии, на основе таких математических моделей, возможно, создать алгоритмы и, как результат создать компьютерную программу - «оцифровать» право. Так, например, И.В. Понкин, А.И. Редькина, рассматривая явление цифровой формализации права отмечают, что «жёсткая и/или излишне подробная формализация права и интерпретации права, будет носить искусственный характер и не приведёт к позитивному эффекту. (...) Избыточная чрезмерность (редундантность) формализации права детерминирует избыточную затруднённость его прочтения, интерпретации и реализации нормы права (связанной совокупности норм права), недостаточная производительность её обработки, оперирования ею, либо, напротив, детерминирует примитивизацию, избыточно упрощённую схематизацию, приводящую к дисбалансированности и дефектности нормативного правового регулирования» [7].
В каком-то смысле, современная тенденция отказа от метафизики (высшего смысла) права и излишняя его формализация, создают предпосылки к автоматизации (оцифровке) профессии юриста, и соответственно, возможности её исчезновения в недалеком будущем.
3. Мегабитовая бомба в праве. Сложность, огромный объем правовых норм и практики их применения как массива информации - проблема больших данных (Big Data). Данную ситуацию можно описать, на примере, проблемы «мегабитовой бомбы» в науке, сформулированной писателем-фантастом С. Лемом. Суть данного явления заключается в следующем: «Посколь-
ку наука - это добывание информации, о темпе ее развития довольно точно говорит количество выпускаемых специальных журналов. Начиная с XVII века оно возрастает экспоненциально. Каждые 15 лет число научных журналов удваивается. Обычно экспоненциальный рост является переходным этапом в развитии и не длится долго. <...> Развитие науки, характеризуемое возрастанием числа научных публикаций, является единственным известным нам процессом, который в течение трехсот лет не изменяет своего поразительного темпа. <...> Сейчас выпускается около 100000 научных журналов. Если темп прироста не изменится, в 2000 году их будет выходить миллион. <...> Возрастание числа ученых увеличивало и количество добываемой информации; необходимо было "расширить" информационный канал путем "параллельного подключения" новых каналов, то есть посредством подготовки новых ученых, а это в свою очередь вызывало дальнейший рост информации, требующей передачи, и т.д. Не хватит кандидатов в ученые. Это и есть ситуация "мегабитовой бомбы", или, если угодно, "информационного барьера". Наука не может перейти этот барьер, не может справиться с обрушивающейся на нее лавиной информации. <...> Поэтому достижение предела информационной емкости науки означает существенное уменьшение вероятности совершения открытий. <...> Огромные массивы накопленных человечеством знаний превысили - при самых радикальных сокращениях - емкость мозга отдельно взятой личности. Нужно также сказать, что сама легкость доступа (не только в сети) к каким-либо данным ни в коей мере не повышает "привлекательность" знаний» [6]. Соответственно, применительно к юриспруденции (система правовых актов, судебно-следствен-ная практика, комментарии законодательства), возникает проблема поиска правовой информации и ее обработки в огромном постоянно увеличивающимся массиве данных. Исходя из этого, можно говорить о явлении правовой мегабитовой бомбы. Отметим, что С. Лем как на один из вариантов решения проблемы «мегабитовой бомбы» указывал на развитие мышления субъекта применения знаний, т.е. развитие не систем обработки больших массивов данных, но развитие когнитивного потенциала человека.
4. Современный научно-технический прогресс и технологический уклад, ориентированный на цифровые (вычислительные) технологии. НБИКС-технологии (нанотехнологий, биотехнологий, информационных технологий и когни- р тивных технологий)[10]. Д
5. Цифровая экономика, в которой необходи- Ч
т
мость «оцифровки» права и автоматизации К юридических процессов вызвана необходимо- ё стью решения проблем количества и скорости у финансово-хозяйственных операций. В дан- А
ном случае, автоматизация правовых процессов является одним из элементов организации и управления в цифровой экономике. Исходя из этого, по нашему мнению, можно спрогнозировать негативный (трансгуманистический) и позитивный (антропо-педагогический) сценарий будущего цифровизации права.
Негативный (трансгуманистический) сценарий заключается в развитии когнитивных качеств личности и совершенствовании природы человека с помощью НБИКС-технологий. В рамках данного сценария можно распознать два вектора: первый -создание искусственных вычислительных систем, решающих организационные и творческие задачи независимо от человека; второй - внедрение таких систем в человеческий организм, т.е. цифро-визация и кибернетизация человека.
Отметим, что такой сценарий практически исключает раскрытие и развитие новых творческих когнитивных качеств личности с помощью педагогических технологий, что составляет позитивный (антропо-педагогический) сценарий.
Примером решения системами искусственного интеллекта сложных задач может служить медицина, например, диагностика раковых заболеваний^; 8].
Примером разработки программы искусственного интеллекта, освоившей профессию юриста, может служить система, созданная в компании ROSS Intelligence и работающая на когнитивном компьютере IBM Watson» [5].
В России Сбербанк в 2017 году высвободил около 3 тыс. рабочих мест благодаря внедрению так называемого семейства роботов-юристов. Сбербанк в четвертом квартале 2016 года уже «запустил робота-юриста, который может сам писать исковые заявления» [9].
Приведем слова профессора Гарвардской школы права Лоуренса Лессига, выразившего уверенность, что «искусственный интеллект вытеснит огромную часть юридической практики. (...) Это будет массовое изгнание широкого пласта юристов, потому что они делают в основном именно то, в чем компьютеры очень и очень хорошо разбираются» [4].
Заметим, что это только начало, за которым можно рассмотреть в не столь отдаленном будущем ненужность человека в юридической профессии, которую, по мнению специалистов в области искусственного интеллекта, можно «оцифровать» с помощью технологии нейросетей. Сразу отметим, существенный недостаток систем искусственного интеллекта на основе нейросетей, практически исключающий их использование в юриспруденции, в частности, в уголовном судопроизводстве. Данный критический недостаток заключается в том, что если нейросеть провела вычис-— ления и выработала решение, то процесс и логику S2 принятия такого решения перепроверить не возможно. Иными словами, в принятии такого реше-° ния отсутствует рефлективность и невозможно ¡в реализовать принцип верификации (от лат. verum
«истинный» + facere «делать»), т.е. проверки объективности и беспристрастности логики принятия решения.
Использование таких систем искусственного интеллекта, по нашему мнению, - только начало, если так можно выразиться, негативного трансгуманистического (датаистского от англ. Data, т.е. представление любого явления в виде потока данных) сценария в цифровизации права. По нашему мнению, такое явление можно назвать как датаи-зм в праве или правовой датаизм.
Исходя из современных научных исследований в области искусственного интеллекта и кибернетизации человека, негативный трансгуманистический сценарий может иметь такую траекторию развития событий, как создание, так называемой, цифровой антисубъектной правовой реальности. Цифровая экономика предусматривает цифрови-зацию всего, т.е. подключение всех вещей, в том числе и человека, к глобальной сети Интернет. Иными словами, право, при таком прогрессе (циф-ровизация всего), не предусматривающим развитие человека, в частности его когнитивной природы, может стать не образом в сознании и принципом мышления личности, но функцией (системой сложных алгоритмов) искусственного интеллекта постоянно в режиме реального времени надзирающего и контролирующего деятельность техносферы, человека и социума. В данном случае, человеку нет необходимости знать и понимать право, а социуму формировать с помощью педагогических технологий в индивиде субъективную правовую реальность, т.к. глобальная цифровая правовая система будет постоянно, практически с мгновенной реакцией предупреждать человека о нарушении права и наказывать его, например, выписывать штраф. С зачатками таких технологий - системами фиксации нарушений правил дорожного движения, мы сталкиваемся на дорогах при управлении автомобилем. Но уже сегодня существуют технологии, позволяющие воплотить в реальность круглосуточное слежение за автомобилем с возможностью обратной связи.
Отметим, что если такой искусственный интеллект будет иметь обратную связь, то существует техническая возможность воздействия на объект управления. Например, в случае нарушения правил дорожного движения скорость автомобиля может быть дистанционно снижена или управление может быть перехвачено с целью перемещения автомобиля с дороги для предупреждения возникновения опасности и его блокировки до прибытия полиции.
Конечно же, вариант такого тотального цифрового контроля и принуждения к исполнению правовых норм, можно рассмотреть в качестве наказания за неоднократное нарушения закона, например, правил дорожного движения. Отметим, что частично подобное уже реализовано в применении Федеральной службой исполнения наказаний Российской Федерации электронного браслета, предназначенного для удаленного слежения за че-
ловеком, находящимся под домашним арестом либо осужденного к наказанию в виде ограничения свободы.
Позволим некоторый футурологический анализ, заключающийся в том, что, в случае кибернетизации человека - скажем, имплантации цифровых вычислительных систем (чипов) в мозг, может появиться технологическая возможность искусственного внешнего влияния на мозговую деятельность, например, снижать агрессивность с помощью воздействия на определенные зоны и поля головного мозга. Иными словами, преступление можно распознавать на основе выявления признаков агрессии в функционировании головного мозга и предотвращать, фактически, на стадии мыслительной деятельности - принятия решения.
Тотальный цифровой контроль жизнедеятельности человека системами искусственного интеллекта может привести к тому, что индивида можно механистически заставить соблюдать нормы права без их осознания и волевого исполнения. Другими словами, право для человека может стать инструкцией или алгоритмами, устанавливающими рамки поведения, в случае нарушения которых следует мгновенное наказание (например, блокировка автомобиля или снижение агрессии).
Вышесказанное прекрасно иллюстрирует работа немецкого социолога Э. Фромма «Здоровое общество», изданная в 1955 г., в которой он пишет: «В XIX в. проблема состояла в том, что Бог мёртв; в XX - проблема в том, что мёртв человек. В XIX в. бесчеловечность означала жестокость, в XX в. она означает шизоидное самоотчуждение. В прошлом опасность состояла в том, что люди становились рабами. Опасность будущего в том, что люди могут стать роботами. Правда, роботы не восстают. Однако если им придать человеческий характер, то они не могут жить и оставаться здоровыми, они становятся «Големами», они разрушают свой мир и самих себя, так как более не могут выносить бессмысленную скуку» [11, с. 410].
При таком сценарии, можно говорить об отсутствии необходимости какого-то ни было педагогического воздействия социальной системы на индивида и вообще развития человека как социального существа. Категорично скажем, что трансгуманистичный сценарий останавливает развитие человека. Более того, такой сценарий является отказом от педагогической воспитательной функции права.
Кроме этого, нет необходимости формирования субъективной правовой реальности, поскольку все можно компенсировать технологиями тотального цифрового управления и созданием «кибернетического» цифрового правосознания. В данном случае, искусственный интеллект не будет способствовать развитию правосознания как проявления духовных, когнитивных и нравственных качеств личности.
В этом смысле, правовое государство должно стать не результатом цифровых (кибернетических) технологий автоматизации принуждения че-
ловека к бессознательному подчинению нормам закона, но результатом развития его личности. Иначе, осознания права как руководящей основы в процессах социальных коммуникаций и принятия решений, а также фундамента системы морально-нравственных (этических) принципов и ценностей человека как элемента социальной системы.
По нашему мнению, никакая система искусственного интеллекта не должна познавать и решать за человека, т.к. существование права как феномена в историческом процессе определяет смысл человека как социального существа. Поэтому считаем, что результаты цифровизации права должны не заменять человека, но быть инструментами в его познании.
Таким образом, в процессе цифровизации права приоритет необходимо отдавать не искусственному интеллекту, но развитию когнитивного, нравственного и творческого потенциала человека, а также различных автоматизированных систем управления как инструментов в процессе познания.
В заключение отметим, что существует необходимость рассмотрения данных проблем в рамках гуманитарных наук, т.е. проведения с позиции философии, антропологии, психологии, социологии и педагогики глубокого научного системного анализа по влиянию цифровизации права на развитие человека и социальных систем.
Литература
1. Воробьев Г.А. Теоретико-методологический конструкт философского изучения социальной энтропии в процессах воспроизводства социальной реальности // Гуманитарий Юга России. 2016. Том. 22. № 6. - С. 134-141.
2. Ганцев Ш.Х., Франц М.В. Искусственный интеллект как инструмент поддержки в принятии решений по диагностике онкологических заболеваний // Медицинский вестник Башкортостана.- 2018.- № 4 (76). URL: https://cyberleninka. ru/article/n/iskusstvennyy-intellekt-kak-instrument-podderzhki-v-prinyatii-resheniy-po-diagnostike-onkologicheskih-zabolevaniy (дата обращения: 25.06.2020).
3. Зорькин В.Д. Право метамодерна: постановка проблемы. // URL: http://www.ksrf.ru/ru/News/ Speech/Pages/ViewItem.aspx? ParamId=86 (дата обращения: 25.06.2020).
4. Искусственный интеллект приведет к массовому изгнанию широкого пласта юристов // Интервью с Лоуренсом Лессигом. URL: https:// zakon.ru/discussion/2019/05/22/iskusstvennyj_ intellekt_privedyot_k_massovomu_izgnaniyu_
shirokogo_plasta_yuristov__intervyu_s_louren
(дата обращения: 25.06.2020).
5. Когнитивный суперкомпьютер IBM Watson освоил профессию юриста Ross - первый в мире искусственный адвокат. // URL: https:// www.ixbt.com/news/2016/05/13/kognitivnyj-superkompjuter-ibm-watson-osvoil-professiju-jurista.html (дата обращения: 25.06.2020).
5 -а
сз
<
6. Лем С. Сумма технологии: [Пер. с пол.] / Пре-дисл. В.В. Парина; Ред. и послесл. [с. 538-605] Б.В. Бирюкова и Ф.В. Широкова. - Москва: Мир, 1968.- 608 с.
7. Понкин И.В., Редькина А.И. Цифровая формализация права // International Journal of Open Information Technologies. 2019. № 1. URL: https:// cyberleninka.ru/article/n/tsifrovaya-formalizatsiya-prava (дата обращения: 25.06.2020).
8. Рак и робот: как искусственный интеллект ставит диагноз. // URL: https://www.forbes.ru/ tehnologii/367683-rak-i-robot-kak-iskusstvennyy-intellekt-stavit-diagnoz (дата обращения: 25.06.2020);
9. Сбербанк передаст работу 3 тыс. сотрудников роботам-юристам // URL: https://www.rbc.ru/rbc freenews/5877b2979a79478752358fb9 (дата обращения: 25.06.2020).
10. Указ Президента РФ от 7 июля 2011 г. N899 «Об утверждении приоритетных направлений развития науки, технологий и техники в Российской Федерации и перечня критических технологий Российской Федерации».
11. Фромм, Э. Здоровое общество / Эрих Фромм; [пер. с англ. Т.В. Банкетовой, С.В. Карпуши-ной]. - М: АСТ: Астрель, 2011.- 446, [1] с.
a person in the conditions of digitalization of law: problems and ways of development
Kholopov A.V.
University of the Prosecutor of the Russian Federation
The article is devoted to modern problems of the digitalization of law and its impact on humans. The author gives such factors and prerequisites for the introduction of artificial intelligence in jurisprudence as the consequences of postmodernism in law, the phenomenon of formalization of law, the law and the problem of big data, the scientific and technological progress of NBIKS technology, the concept of the digital economy. The author considers the negative (transhumanistic) and positive (anthropo-pedagogical) scenario of digitalization of law. Negative (transhumanistic) involves two vectors of the development of digitalization of law: the first is the creation of artificial computing systems that solve organizational and creative tasks independently of a person; the second is the introduction of such systems into the human body, i.e. digitalization and cyberneti-zation of man. The positive (anthropo-pedagogical) scenario of digi-talization of law consists in the pedagogical impact of the state on a person and society with the aim of forming legal awareness at the individual and public levels, as a guiding basis in the processes of so-
cial communication and decision-making. The author comes to the conclusion that in the process of digitalization of law, priority should not be given to artificial intelligence, but to the development of a person's cognitive, moral and creative potential, and priority should be given to creating automated control systems as a tool in the process of knowing human rights.
Keywords: digitalization of law; Artificial Intelligence; digital economy; transhumanistic scenario; anthropo-pedagogical scenario.
References
1. Vorobiev G.A. Theoretical and methodological construct of the philosophical study of social entropy in the processes of reproduction of social reality // Humanitarian of the South of Russia. 2016. Vol. 22. No. 6. - S. 134-141.
2. Gantsev Sh. Kh., Franz M.V. Artificial intelligence as a support tool in decision-making on the diagnosis of oncological diseases // Medical Bulletin of Bashkortostan.- 2018. - No. 4 (76). URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-in-strument-podderzhki-v-prinyatii-resheniy-po-diagnostike-onko-logicheskih-zabolevaniy (accessed: 06.25.2020).
3. Zorkin V.D. The right of metamodern: statement of the problem. // URL: http://www.ksrf.ru/ru/News/Speech/Pages/ViewItem.as-px? ParamId=86 (accessed: 06/25/2020).
4. Artificial intelligence will lead to the massive expulsion of a wide layer of lawyers // Interview with Lawrence Lessig. URL: https://zakon.ru/discussion/2019/05/22/iskusstvennyj_intellekt_ privedyot_k_massovomu_izgnaniyu_shirokogo_plasta_yuris-tov_intervyu_s_louren (accessed: 06.25.2020).
5. Cognitive supercomputer IBM Watson mastered the profession of lawyer Ross - the world's first artificial lawyer. // URL: https://www.ixbt.com/news/2016/05/13/kognitivnyj-superkomp-juter-ibm-watson-osvoil-professiju-jurista.html (accessed: 06/25/2020).
6. Lem S. Amount of technology: [Per. from the floor.] / Preface V.V. Parina; Ed. and after [from. 538-605] B.V. Biryukov and F.V. Shirokov. - Moscow: Mir, 1968.- 608 p.
7. Ponkin I.V., Redkina A.I. Digital formalization of law // International Journal of Open Information Technologies. 2019. № 1. URL: https://cyberleninka.ru/article/n/tsifrovaya-formalizatsi-ya-prava (accessed: 06.25.2020).
8. Cancer and robot: how artificial intelligence makes a diagnosis. // URL: https://www.forbes.ru/tehnologii/367683-rak-i-ro-bot-kak-iskusstvennyy-intellekt-stavit-diagnoz (accessed date: 06/25/2020);
9. Sberbank will transfer the work of 3 thousand employees to robotic lawyers // URL: https://www.rbc.ru/rbcfree-news/5877b2979a79478752358fb9 (accessed: 06/25/2020).
10. Decree of the President of the Russian Federation of July 7, 2011 N899 «On the approval of priority areas for the development of science, technology and technology in the Russian Federation and the list of critical technologies of the Russian Federation.»
11. Fromm, E. Healthy Society / Erich Fromm; [trans. from English T.V. Banquetova, S.V. Karpushina]. - M: AST: Astrel, 2011.- 446, [1] p.
CM CO
