CC BY
36
Соколова Алла Анатольевна
кандидат юридических нспк, доцент, доцент кафедры «Экономика и право» Белорусского национального технического университета (Минск, Беларусь), профессор-эмеритус Европейского гуманитарного университета (Вильнюс, Литва)
So ко!ova Alia Anatolyevna
candidate of law, associate professor, associate professor of the department of economics and law of the BeJarusian national technical university (Minsk, Belarus), emeritus professor of the European humanities university (Vilnius, Lithuania)
E-mail: alla.sokolova@ehu.lt
Вызовы искусственного интеллекта в юриспруденции: междисциплинарная модель познания
The Challenges of Artificial Intelligence in Jurisprudence: an Interdisciplinary Model of Cognition
Аннотация. Современный мир столкнулся с новыми вызовами, один из которых проявляется в возникновении «новой технологической революции» и связанным с ней преобразованием человечества1. Можно по-разному определять характер происходящих трансформаций (промышленная, технологическая, информационная революция), но суть их одна — мир становится иным. Как реагировать на вызовы современной революции, порождающей как позитивные для общества изменения, так и негативные, последствия которых в целом человечеством пока не оценены? Как относиться к гуманитарному вмешательству искусственного интеллекта в правовую систему, предвидя его угрозы и риски? Следует пи выйти за рамки исследовательского поля гуманитарных наук, и каким видится оптимальный формат «диалога» между технологией и обществом? Осмысление этих необычных для человечества явлений требуют новой познавательной модели, иных методологических подходов. По мнению автора, речь может идти о новой исследовательской парадигме — междисципли-нарности нового порядка. Информационные технологии и юриспруденция станут, таким образом, объектами исследования «пограничных» наук — гуманитарных и технических. Попытка представить образ этой модели и описать ее достоинства представлена в предлагаемой статье.
Ключевые слова: искусственный интеллект, юриспруденция, междисциплинарная модель познания, технико-социальные отношения, подход, основанный на правах человека.
Abstract. The modern world is faced with new challenges, one of which is manifested in the emergence of a "new technological revolution" and the associated transformation of humanity2. You can define the nature of the ongoing transformations in different ways (industrial, technological, information revolution), but their essence is the same — the world is becoming different. How to respond to the challenges of the modern revolution, which generates both positive changes for society, and negative ones, the consequences of which have not yet been assessed by humanity as a whole? How to deal with the humanitarian intervention of artificial intelligence in the legal system, anticipating its threats and risks? Should we go beyond the research field of the humanities, and what is the optimal format of the "dialogue" between technology and society? Comprehension of these phenomena, unusual for mankind, requires a new cognitive model, different methodological approaches. According to the author, we can talk about a new research paradigm — a new order of interdisciplinary. Thus, information technology and jurisprudence will become the objects of
1 См.: Шваб К. Четвертая промышленная революция. М.: Эксмо, 2016. [Электронный ресурс]. Режим доступа: https:ffwww.litres.ru/static/or4/view/or.html7baseurH
21240265&trials=1 &user=0&file=32764712&trial=1 &price=499.00&texttrialbutton=%D0%9A%D1 %83%DO%BF%DO%B8%D 1%82%D1%8C%2O%D0%BF%D0%BE%DO%BB%D0%BD%D1%83%D1%8E%20%D0%B2%DO%B5%D1%8O%D1%81% DO%B8%D1%8E%20%DO%B7%DO%BO%20499.00&ullang=ru&catalit2&half=1&track_readlng
2 See: Шваб К. Четвертая промышленная революция. М.: Эксмо, 2016. [Электронный ресурс]. Режим доступа: https:ffwww. litres. ru/static/or4/view/or.html?baseurl=/pub/t/21240265.&uuid=981e89bc-7Ь5а-11e6-a56b-0cc47a520474&art= 21240265&trials=1 &user=0&file=32764712&trial=1 &price=499.00&texttrlalbutton=%D0%9A%D1 %83%DO%BF%DO%B8%D 1%82%D1%8C%20%D0%BF%D0%BE%D0%BB%D0%BD%D1%83%D1%8E%20%D0%B2%D0%B5o/0D1%80%D1%81% DO%B8%D1%8E%20%DO%B7%DO%BO%20499.00&uilang=ru&catalit2&half=1&track_readlng
research of the "frontier" sciences — humanitarian and technical. An attempt to present an image of this model and describe its merits is presented in this article.
Key words: artificial intelligence, jurisprudence, interdisciplinary model of cognition, technical and social relations, human rights based approach.
Являясь свидетелями процессов гуманитарной «интервенции» искусственного интеллекта в правовую сферу (многие факты зарубежной и отчасти отечественной юридической практики подтверждают это1}, мы задумываемся над вопросами нашей личностной безопасности. С одной стороны, разумный научный оптимизм позволяет нам воспринимать внедрение новых технологий и искусственного интеллекта в юриспруденцию как современное достижение, задающее новый вектор ее модернизации и придающее новый смысл юридической деятельности. С другой стороны, необозримость, неопределенность, своеобразная «тайность» последствий их внедрения в нашу правовую жизнь мотивирует академическое сообщество к активизации исследовательской, прогностической, познавательной функций, опережающей наступление неблагоприятных для человечества изменений.
Уникальные явления, являющиеся проявлениями и результатами новейших технологий, требуют глубокого осмысления и оценки с позиции не только социальных и гуманитарных наук — философии, этики, политологии, экономики, социологии, юриспруденции, но и с позиции технических наук. Известный мыслитель Мишель Фуко своими трудами доказывал необходимость построения связей между философией, социологией, историей, наукой и техникой. Как распознавать правовые отношения, возникающие в области медицины (коронакризис, эвтаназия, трансплантация органов, смена пола), финансов (новые виды валют — блокчейны, биткоины), экологии (изменение климата, охрана окружающей среды), других сфер? Как определить круг субъектов этих правовых отношений? Многие из них имеют интегративную природу, находятся в пространстве социального взаимодействия технологии, этики, экономики, политики, права, религии, гуманитарный язык которого может быть вытеснен расширением сферы использования «языка алгоритмов», «цифровых технологий». Современная научно-технологическая повестка требует системного многопрофильного исследования и формирования интегрального мышления, синтезированного на основе взаимодействия, взаимопроникновения гуманитарных, социальных и технических наук. Формирующаяся новая технологическая культура не может отвергать накопленную мудрость гуманитарного знания, напротив, она должна оставаться основой для грядущих культурно-технологических трансформаций. Современные запросы жизненного мира, тесное взаимовлияние всех его составляющих, социальных и природных, требуют интеграции научного знания и формирования целостного мировоззрения. Речь идет о разработке единой интегративной концепции, позволяющей сканировать воздействия технологических процессов на облик современного общества, контролировать их и предупреждать негативные последствия. Необходимо объединение усилий представителей гуманитарного и технического знания, поиск языка их общения, координации, создание интегративных познавательных подходов. На мой взгляд, речь должна идти о новой исследовательской парадигме — меж-дисциплинарности нового порядка, создании междисциплинарной познавательной модели. Познавательная технология в этом формате не ограничивается рамками отраслей правового знания или диапазоном правовых и иных гуманитарных и социальных наук, а проникает «в пограничье» гуманитарного, социального и новейшего технического знания.
Внедрение новейших компьютерных технологий, искусственного интеллекта в сферу юридической деятельности, автоматизация работы юридических компаний подтверждены множеством фактов мировой практики, иллюстрирующих их эффективность как современных инструментов, существенно упрощающих решение юридических вопросов, освобождающих юристов от рутинного мышления и технических операций, и в целом способных преобразить юридическую профессию. Бесспорно, это — проявление развития цивилизации, вступление ее в новую эру технологического прогресса. Возникает вопрос, будет ли он безопасен для человечества? Как реагировать на вызовы искусственного интеллекта в правовой среде, возможно ли предвидеть риски его внедрения и как их минимизировать? Ответы на эти вопросы — крайне важны и требуют всестороннего академического обсуждения.
Мировое сообщество находится в состоянии турбулентности — мир вокруг нас, правовая среда, в которой мы существуем, становятся порой непредсказуемыми. Внимание ученых-юристов в текущем году переключилось на другое явление нашей жизни — пандемию коронавируса и вызванного ею принятие в ряде стран чрезвычайного законодательства, ограничивающего права человека. Не случайно Ин-
1 См., например, Katz D. М; Bommarito М. J, Blackrman J. A general approach for predicting the behavior of the Supreme Court of the United States //PLOS ONE. April 12, 2017, available at: https://journals.plos.org/plosone/article/file?id=10.1371/ journal, pone. 0174698&type=printable; Робот-юрист, который выигрывает судебные дела. 2016. [Электронный ресурс]. Режим доступа: https://robo-hunter.com/news/sozdan-robot-kotorii-viilgrivaet-sudebnie-dela; Бевзенко Р. Как я победил судебного робота-юр и ста; и почему это будет длиться недолго. Май 2018. [Электронный ресурс]. Режим доступа: https: //www. pg pla w. г u/news/arti cle/ roma n- be vze n ко- h ow- I-beat-trial-of-robot-l awyer-an d-wh y-it-wi 11- not-1 a st- lo n g
ститут перспективных юридических исследований (1А1_5) и Вестминстерский фонд демократии (\ZVFD) организовали видео-конференцию «Являются ли экстренные меры в ответ на СО\/ГО-19 угрозой демократии? Факт и вымысел», посвященную природе чрезвычайного законодательства, принятого в различных странах в ответ на пандемию коронавируса1.
Тем не менее, новейшие информационные технологии продолжают свое проникновение в социальное и правовое пространство, и задача ученых различных направлений найти способы оценивания их последствий. Самым существенным вызовом искусственного интеллекта, на мой взгляд, является его воздействие на природу человеческого бытия, измерение личностного пространства, свободу и безопасность жизни человека. Это, на мой взгляд, и есть системный индикатор оценивания последствий современной технологической революции.
Попытаюсь представить свои аргументы и доводы. Проникновение искусственного интеллекта в сферу юриспруденции осуществляется в двух основных направлениях: компьютерной автоматизации определенных видов технико-юридических операций и выполнения определенных функций роботом-ботом, «самостоятельно» обозначающим цели и задачи. В последнем речь идет о развитии новых поколений информационных систем, которые способны заменить человека, действовать автономно, учиться на своем опыте, адаптироваться к окружающей среде, самостоятельно принимать решения. Резонное беспокойство вызывает именно второе направление, которое в большей степени связано с риском для безопасной, с точки зрения человека, правовой деятельности, наиболее уязвимыми из которой являются судебная практика и законопроектная деятельность. С одной стороны, при выборе между роботом-юристом и человеком-юристом с набором человеческих слабостей и страстей (законодателем, судьей, прокурором) общество выберет беспристрастного робота. Можно согласиться с мнением доктора юридических наук, профессора Игоря Николаевича Глебова: в качестве постановочной проблемы он определяет переход «от юриспруденции человеческих ошибок, слабостей и страстей к беспристрастной математически точной юриспруденции — неотвратимой, единообразной, повсеместной и безупречной законности»2. С другой стороны, в той же статье Игорь Николаевич отмечает, что при умелом содержании техника не делает ошибок, она безупречна. Но безупречна ровно настолько, «насколько человек о ней позаботился, обезопасит и настроит ее». В этом дополнении мне видится обозначение основного риска — риска доверия к человеку, естественному интеллекту, который создает искусственный: разрабатывает программу, задает роботу систему компетенций, функций, определяет задачи, иными словами, «настраивает» его. Во всех ли случаях работа 1Т-специалистов безупречна? Не таится ли на этом пути риск произвести продукт с изначальными дефектами, которые впоследствии скажутся на результате?3.
Одним из способов преодоления негативных последствий использования искусственного интеллекта в правовой сфере является, на мой взгляд, своевременное правовое регулирование коммуникации между всеми акторами, участвующими в создании цифровой программы: программистами-разработчиками, работающими на стыке кибернетики, психологии и бихевиоризма; инженерами, составляющими алгоритмы для роботов; юристами-консультантами, правоприменителями. Их правовой статус, функции, ответственность, иные элементы правового регулирования должны быть изначально установлены в каком-либо нормативно-правовом акте, например, Регламенте. Кроме того, обязательное требование внедрения программного продукта — проведение технико-правовой экспертизы разработанной программы на предмет соответствия ее содержания, предназначенного для выполнения роботом-ботом, базовым правам и свободам человека, его безопасности.
В связи с практическим освоением достижений искусственного интеллекта может возникать институциональный кризис ряда традиционных правовых наук, избыточный формализм которых следует преодолеть методологическими новациями, в частности, междисциплинарным подходом. Смысловое объяснение таких понятий, как «производитель», «оператор», «пользователь» робототехники невозможно в полном объеме без технических знаний, а признание/непризнание робота в качестве субъекта права/квазисубъекта, использование устоявшихся юридических конструкций требуют эластичности/гибкости правового мышления, отхода от традиционной интерпретации правовых понятий. Междисциплинарность нового порядка, совмещающая ресурсы социальных, гуманитарных и технических наук позволит комплексно осмыслить новые явления и создать предпосылки для формирования правовых моделей поведения, совмещающих реалии информационного процесса с идеями и принципами, гуманизирующих его. Более глубокое проникновение искусственного интел-
1 IALS/WFD Digital Conférence: Are Emerge псу Measures in Response to COVID-19 a Threat to Democracy? F a et and Fiction. 10 September 2020. [Электронный ресурс]. Режим доступа: https://ial-online.org/reminder-digital-conference-are-emergency-measures-in-response-to-covid-19-a-threat-to-democracy-fact-and-fiction-ials-wfd/
2 См.: Глебов И. Н. Искусственный юридический разум //Сетевой научный юридический журнал «Гуманитарное право». 1 января 2018. [Электронный ресурс]. Режим доступа: https://humanlaw.ru/9-article/26-artificial-intelligence.html
3 См. подробно: Соколова А. А. Искусственный интеллект в юриспруденции: риски внедрения // Юридическая техника. Ежегодник. «Риски в законотворчестве, правореапизации, юридической науке: техника формирования и функционирования системы управления». Изд-во: Нижегородская академия МВД РФ. Нижний Новгород. —2019. — № 13.
лекта в правовую сферу потребует концептуальное обоснование новых правовых понятий и категорий, широкое применение института аналогии, основанного на использовании уже имеющихся инструментов юридической техники, творческий поиск новых правовых идей и концепций, отражающих технико-социальные трансформации.
Модернизация социальных отношений вызовет появление новых форм их правового регулирования и обеспечения, а значит, задаст новые импульсы развитию юриспруденции. Изменится и природа этих отношений, они, на мой взгляд, приобретут технико-социальный характер, обоснованный интегриро-ванностью технических норм и норм социальных {к примеру, отношение робота с человеком). Дирк Хел-бинг, профессор социологии Швейцарского Федерального технологического института (Цюрих), рассматривая общество и будущие технологические системы, как социально интерактивные, призывает к поиску новых методов и инструментов для изучения «техно-социо-экономико-экологических» систем, как социально интерактивных, с тем, чтобы дать лицам, принимающим решения, более четкую, комплексную картину их видения, представить различные позиции по их проектированию и управлению «на устойчивой основе, чтобы свести к минимуму серьезные нестабильности, неконтролируемые системные изменения, конфликты, преступность и войны»1.
Практическая целесообразность ускорит процесс интеграции социогуманитарных и технических наук и их совместное участие в преобразовании культуры жизненного мира. Как достижения современной технологической революции, так ее и неудачи потребуют объединения интеллектуальных усилий специалистов различного профиля и разных правовых культур для создания «позитивной, единой и многообещающей концепции» (в терминах К. Шваба), позволяющей мировому сообществу преобразовывать мир. Международное сотрудничество в этом творческом процессе крайне необходимо: мировой порядок взаимодействия требует единых методологических оснований и подходов.
Как с позиции высшей школы реагировать на происходящие и набирающие невиданный темп компьютерные инновации? Каков профессиональный портрет юриста эпохи искусственного интеллекта? Ответы на эти вопросы требуют пристального внимания и всестороннего обсуждения.
Одно из направлений модернизации юридической профессии видится в формировании междисциплинарных образовательных программ, находящихся в непривычной для нас среде — юридической науки и IT-технологии. Освоение познавательного междисциплинарного алгоритма требует акцентировать внимание на подготовке специалистов с двойными компетенциями: юриста и IT-специалиста. Развитие технико-гуманитарной подготовки юристов-интеллектуалов усилит их вклад в филигранную сферу юриспруденции и будет минимизировать риски, связанные с внедрением в жизненный мир искусственного интеллекта.
Если исходить из посылки, что мера всех вещей — человек, признавать индикатором оценивания последствий использования современных информационно-технологических достижений — права и свободы человека, то профессиональный портрет современного юриста следует дополнить новым компонентом юридического образования. Речь идет о подходе международной и европейской политики, предписывающем осуществлять все виды государственной деятельности, в том числе образовательную, с позиции соблюдения принципа прав человека, о «подходе. основанном на правах человека» (англ.: «human rights based approach»). Это понятие было включено в программы Организации Объединенных Наций (ООН)2. В программных документах ООН провозглашена задача формирования культуры прав человека. Определение понятия «культура прав человека» сформулировано во Всемирной программе образования в области прав человека и включает следующие признаки: укрепление уважения к правам человека; наиболее полное развитие человеческой личности и чувства достоинства; создание условий для активного участия индивида в свободном и демократическом обществе; развитие общества и социальной справедливости, ориентированных на человека. Особый посыл направляется в сферу юридического образования: современный юрист, в какой бы сфере юридического мира он не работал, должен обладать культурой прав человека, использовать правовой арсенал международных и национальных инструментов для реализации и защиты прав человека. Использование подхода, основанного на правах человека («human rights based approach») в оценивании последствий внедрения искусственного интеллекта в юриспруденцию, может предотвратить или ослабить негативные последствия, связанные с нарушением прав человека, и в целом сохранить мирную безопасность социальной среды.
1 Helbing Dirk. The FuturlCT Knowledge Accelerator to Explore and Manage our Future. 2011, available at: http://www.connplex-systems.nneduniwien.ac.at/events/FuturlCTAustria201106/WhatFuturlCTWillDo4Media.pdf
2 The Human Rights Based Approach to Development Cooperation. Towards a Common Understanding Among UN Agencies. [Электронный ресурс]. Режим доступа: https://undg.org/about/, Report by the Director-General on the Implementation of the Programme and Budget (34 C/5) and on Results Achieved In the Previous BIENNIUM (2008-2009) (Draft 36 C/3). [Электронный ресурс]. Режим доступа: http://unesdoc.unesco.org/lmages/0018/001873/187379e.pdf, Report of the Expert Meeting on Maximizing the Development Impact of Remittances, Trade and Development Commission, Held at the Palais des Nations, Geneva, on 14 and 15 February 2011. [Электронный ресурс]. Режим доступа: https://documents-dds-ny.un.org/doc/UNDOC/GEN/G11/505/85/PDF/G1150585.pdf?OpenElement и другие.
Вызовы информационной эпохи заставляют по-иному осмысливать процессы и явления, оценивать и прогнозировать их последствия. Интеграция социальных и гуманитарных наук уже не является самодостаточной, техническое знание опережает «рефлексию» гуманитарного. Познавательная технология проникает «в пограничье» гуманитарного, социального и новейшего технического знания и, как следствие, требует изменения исследовательской парадигмы — междисциплинарности нового порядка. Междисциплинарная познавательная модель позволит гуманизировать технологические процессы и сохранить накапливаемые веками ценности как основу цивилизованного общества.
