CC BY
154
DOI: 10.12737/jrl.2020.103
Влияние искусственного интеллекта на правовую деятельность человека
ПЕВЦОВА Елена Александровна, и. о. ректора Московского государственного областного университета, профессор кафедры государственных правовых дисциплин Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, доктор юридических наук, профессор
Россия, 117218, г. Москва, ул. Большая Черемушкинская, 34
E-mail: [email protected]
Актуальность исследуемой проблемы обусловлена рядом обстоятельств: во-первых, активным проникновением искусственного интеллекта в общественную жизнь современного человека, требующим от последнего поиска новых путей сосуществования в современном VUCA-мире и эпохе Big Data; во-вторых, фактическим отсутствием достаточного количества нормативных актов, регулирующих деятельность человека в тех сферах, где он напрямую конкурирует с миром автоматизированных механизмов, искусственного интеллекта; в-третьих, недостаточной изученностью и решенностью проблемы взаимоотношений искусственного интеллекта и этики как таковой, морали и нравственности, которые являются атрибутами в поведении человека, но абсолютно индифферентны, по мнению большинства ученых, к искусственному интеллекту. Тема имеет глобальный характер, не обоходя стороной ни одну правовую систему современности, и поэтому требует включения в разработку проблемы научных данных, полученных современными компаративистами.
Цель статьи — проанализировать современные тенденции взаимоотношений человека и искусственного интеллекта в правовом пространстве и определить пути наиболее эффективного правового регулирования поведения человека, сталкивающегося с искусственным интеллектом.
Ведущим методом к исследованию данной проблемы стал системный анализ сложившейся практики в правовом пространстве и нормативных актов, регулирующих общественные отношения, в которые активно вторгается автоматизация.
Выводы: искусственный интеллект постепенно вытесняет многие компетенции человека в правовом пространстве, но не способен взять на себя важные функции обеспечения сохранения человеческих ценностей в обществе, принципов справедливости, морали и нравственности. Усиление его роли в правовой сфере не может заменить важную функцию права — воспитательную, которая влияет на правовое сознание людей, формируя уважение к ценностям права, закрепленным в нем именно человеком.
Ключевые слова: правовое поведение, искусственный интеллект, правовое сознание личности, правомерное поведение, противоправное поведение, роботизация, цифровая экономика, промышленная революция, юридическая деятельность.
Для цитирования: Певцова Е. А. Влияние искусственного интеллекта на правовую деятельность человека // Журнал российского права. 2020. № 9. С. 19—31. DOI: 10.12737/ jrl.2020.103
Введение. Правовая деятельность человека всегда вызывала большой интерес в юридической науке. Во-первых, это обусловлено тем, что, попадая в сферу правового влияния, люди должны были выстраивать отношения друг с другом, сообразуясь с теми правилами, которые ими же выработаны и позволяют жить в организованном об-
ществе. Мир права — особый мир, в котором жизнь субъектов регулируется юридическими нормами, выраженными в различных источниках. И многое зависит от того, какие это нормы, отражают ли они интересы людей, соотносятся ли с их психикой, принципами справедливости, комфортны ли они для человека. Юридические правила, опре-
деляющие нашу жизнь, прежде чем стать таковыми, предварительно структурируются в мозге человека, где происходит операция их осмысления и прогнозирования результативности использования, т. е. организации правореализационного процесса. Долгое время считалось, что только мозг человека способен спрогнозировать эффективность юридических норм в правовом поведении. Но так ли это сегодня на самом деле?
Во-вторых, правовая деятельность неоднозначно определена в юриспруденции. Деполяризация суждений может быть представлена двумя позициями. Согласно первой правовая деятельность включает любую деятельность человека в правовом пространстве, а потому она может выступать как правомерной, так и противоправной. Согласно второй точке зрения, правовая деятельность рассматривается исключительно как правомерная, сообразная праву, а не существующая вопреки ему. В научной литературе встречаются и другие позиции, в которых признается синонимичность правовой и юридической деятельности, с чем, на наш взгляд, нельзя согласиться. Однако это лишь некая игра слов в профессиональном тезаурусе, которая не влияет на осмысление и понимание сути поведения человека в пространстве, регулируемом правом при активном проникновении в него искусственного интеллекта.
В-третьих, в последние годы человек все больше стал испытывать конкуренцию со стороны искусственного интеллекта. Бесспорно, это чувство не является новым для современных людей. В истории XX столетия (и даже ранее) вмешательство в жизнь человека искусственного интеллекта, внедренного в робота, вызывало активную реакцию окружающих, не желающих терпеть рядом кого-то другого (не человека), что позволяло фантазировать о будущем даже в детских фильмах, как это сделал, например, режиссер К. Бром-берг в фильме «Приключения Элек-
троника» (1979 г.), снятом по мотивам фантастических повестей Е. Велти-стова.
В настоящее время тема влияния искусственного интеллекта на деятельность человека стала привлекать особое внимание юристов. Проблема попала в сферу научных интересов юристов-практиков, работающих в разных областях права. Но за бортом остались теоретико-правовые исследования правовой деятельности человека. Подчеркнем, что речь идет именно о правовой, а не о профессиональной деятельности юристов и влиянии на нее искусственного интеллекта. А это гораздо больший охват аудитории, которая оказывается вовлеченной в сферу права и искусственного интеллекта. Кроме того, человек, не обладающий юридической компетентностью, ведет себя по-другому в правовом пространстве.
Таким образом, актуальность исследуемой проблемы обусловлена рядом обстоятельств: во-первых, активным проникновением искусственного интеллекта в общественную жизнь современного человека, требующим от последнего поиска новых путей сосуществования в современном VUCA-мире нестабильности (volatility), неопределенности (uncertainty), сложности (complexity), неоднозначности (ambiquity) и эпохе Big Data; во-вторых, фактическим отсутствием достаточного количества нормативных актов, регулирующих деятельность человека в тех сферах, где он напрямую конкурирует с миром автоматизированных механизмов, искусственного интеллекта; в-третьих, недостаточной изученностью и ре-шенностью проблемы взаимоотношений искусственного интеллекта и этики как таковой, морали и нравственности, которые являются атрибутами в поведении человека, но абсолютно индифферентны к искусственному интеллекту (наиболее распространенная, но не единственная позиция в науке).
Материалы и методы. При исследовании проблемы были использованы разнообразные методы, в том числе диалектический подход в сочетании с системным и структурным подходами, которые определили использование таких методов, как сравнительно-правовой, социологический, формально-логический, исторический, а также метод правового моделирования.
Дискуссия. В юридической литературе российского дореволюционного периода (до 1917 г.) содержатся интересные размышления о правовой деятельности личности в сопряжении с теми пониманиями права, которые отстаивались исследователями. Научные основы понимания правовой деятельности в современном контексте можно найти у таких авторов, как И. А. Ильин, Д. И. Мейер, Л. И. Петражицкий, Г. Ф. Шершеневич и др. Учеными более поздней эпохи ХХ столетия (советский период) уделялось немалое внимание изучению деятельности человека в сфере права. Достаточно вспомнить исследования В. Н. Кар-ташова, В. Н. Кудрявцева, А. П. Вершинина, Г. В. Мальцева, Р. В. Раска-това, Ю. С. Решетова, Ю. Г. Ткаченко, Ф. Н. Фаткуллина и др. В их трудах с позиции марксистских подходов оценивалась правовая деятельность личности в целом в соотнесении ее с развитием общественно-экономических формаций. В последние годы также не исчез интерес исследователей к рассматриваемой теме и появились интересные размышления в научных трудах И. Л. Ба-чило, В. В. Лазарева, А. Б. Мицкевича, А. В. Морозова, В. Д. Перева-лова, И. М. Рассолова, В. М. Сырых, Р. В. Шагиевой и др. Следует признать, что за рубежом также существует немало научных школ, внесших существенный вклад в теорию правовой деятельности. Для исследования вопроса интерес представляют подходы таких ученых, как Ж. Л. Бержель, Г. Дж. Берман, Р. Давид, Л. Фридмен и др. Однако в боль-
шинстве случаев ученые не рассматривали тему влияния искусственного интеллекта на правовое поведение человека с позиции теории права.
Вместе с тем еще в XVIII в. С. Н. Корсаков разработал идеи об усилении разума людей с помощью специальных машин. Эти идеи стали основой многочисленных научных изысканий ученых XX столетия (достаточно вспомнить труды Д. А. Поспелова, работы ученых МГУ им. М. В. Ломоносова, РАН). Потребность в укреплении профессионального языка в области искусственного интеллекта заставила ученых обратить внимание на необходимость разработки специального юридического тезауруса. Так, в 1970-е гг. в СССР создается Толковый словарь по искусственному интеллекту, который стал основой построения некоторых современных юридических конструкций. Немало интересных научных позиций по теме появилось и в последние годы1.
В мире над проблемой влияния искусственного интеллекта на поведение человека, в том числе в сфере права, начали активно работать многочисленные группы ученых. Например, специальные центры по изучению влияния искусственного интеллекта на жизнь человека созданы в США (Массачусетский технологический институт, Исследовательский институт машинного интеллекта), Германии (Исследовательский центр по искусственному интеллекту), Японии (Национальный институт промышленной науки
1 См.: Хабриева Т. Я., Черногор Н. Н. Право в условиях цифровой реальности // Журнал российского права. 2018. № 1; Хабриева Т. Я. Право перед вызовами цифровой реальности // Журнал российского права. 2018. № 9; Зорькин В. Д. Право в цифровом мире. Размышления на полях Петербургского международного юридического форума. URL: https//rg.ru/2018/05/29/zorkin-zadacha-gosudarstva-priznavat-i-zashchishchat-cifrovye-prava-grazhdan.html/.
и технологии), Индии (Мадрасский технологический институт), России (Научный совет по методологии искусственного интеллекта РАН)2.
В 2019 г. Президент России В. В. Путин поставил задачу создания Национальной стратегии по искусственному интеллекту и разработки специальной федеральной программы. В соответствии с Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 г.) в нормах права закрепляется современная дефиниция искусственного интеллекта. С позиции законодателя под этой теперь уже юридической конструкцией понимается комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает информационно-коммуникационную инфраструктуру, программное обеспечение (в котором в том числе используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. Кроме того, юридически определены технологии искусственного интеллекта как технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта. Законодатель четко зафиксировал перспективные методы искусственного
2 См.: Юридическая концепция роботизации: монография / под ред. Ю. А. Тихомирова, С. Б. Нанбы. М., 2019.
интеллекта как методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы). Закрепляя факт вторжения искусственного интеллекта в правовую деятельность человека в нормативном документе, провозглашены принципы его использования в жизни людей.
В первую очередь речь идет о защите прав и свобод человека, в том числе права на труд, получение знаний и навыков для успешной адаптации в условиях внедрения искусственного интеллекта в деятельность людей. Кроме того, названным выше Указом сформулирован принцип безопасности, предполагающий защиту человека от умышленного причинения вреда в результате использования искусственного интеллекта. Важным является принцип прозрачности, позволяющий обеспечивать пояснение, понимание работы искусственного интеллекта в деятельности людей и достижении результатов.
Внедрение искусственного интеллекта в правовую деятельность людей сопряжено с необходимостью сохранения технологического суверенитета страны. Это предполагает использование российских наработок в данной области. Принцип целостного инновационного цикла обеспечивает взаимодействие научных наработок в области искусственного интеллекта с реальным сектором экономики. При этом важно соблюдать принцип поддержки конкуренции различных научных школ, организаций по совер-
шенствованию искусственного интеллекта, что позволяет развивать экономику страны в этой области, и, наконец, принцип разумной бережливости, предполагающий адаптацию мер для реализации государственной научно-технологической политики в приоритетном порядке.
Бесспорно, использование искусственного интеллекта направлено на повышение качества услуг в социальной сфере (здравоохранении, образовании), предоставления муниципальных, государственных услуг. Главными целями внедрения искусственного интеллекта в жизнь России провозглашены рост благосостояния и качества жизни человека, обеспечение национальной безопасности и правопорядка, достижение конкурентоспособности российской экономики, обеспечение ее лидирующих позиций в мире. В связи с этим важными целями государственной политики России стали приоритетная поддержка научных исследований в области искусственного интеллекта, стимулирование инвестиций в разработку технологий искусственного интеллекта.
Результаты. Констатируя изменения в правовом поведении человека при активном проникновении в сферу права искусственного интеллекта, необходимо определить, в чем их суть и что следует сделать для обеспечения безопасности и защиты человека. При этом важно исходить из того, что под юридической конструкцией «правовое поведение человека» по-прежнему понимается лишь совокупность поступков физических лиц и их объединений в сфере права.
Правовая деятельность человека есть разновидность его социальной деятельности, причем не важно, в какой роли в ней выступает этот субъект. В любом случае она определяется совокупностью действий или бездействия и отражает волю человека. При этом правовая деятельность, по нашему мнению, не может носить исключительно правомер-
ный характер, как утверждается в научных исследованиях теоретиков права последних лет. Обосновывая тезис о тождественности правомерной и правовой деятельности, авторы таких высказываний утверждают, что слово «правовая» сопряжено с понятиями «правильный» и «правомерный». Однако такой тезис оспорим. Любая деятельность человека в правовом пространстве (будь то правомерная или противоправная) всегда может быть отнесена к категории «правовая», ибо на нее «направлен взор» со стороны права, которое и определяет эту деятельность с позиций правомерности или неправомерности.
Именно в правовое пространство, где выстраивалась с позиции права монопольная деятельность человека и его объединений, движимая человеческим сознанием и волей, сегодня стал все больше проникать искусственный интеллект. Человечество вступило в новый этап цивилизации, который не похож ни на какие аналоги прошлого. Ведущим риском ее развития становится «расчеловечение» и повышение значимости гуманитарного, в том числе юридического, знания. Человек, захотевший освободить себя от рутинной правовой деятельности (заполнять документы для совершения различных сделок, оплачивать налоги и проч.) и вести более свободную жизнь, вдруг столкнулся с тем, что придуманный им искусственный интеллект начинает побеждать его. До определенного времени ученые были уверены в том, что искусственный интеллект, внедренный в машину, никогда не создаст своих целей, не сможет думать автономно от человека, а будет лишь выполнять заложенные в него алгоритмы действий. В науке доказывали, что искусственный интеллект лишен эмоций и самосознания, а также никогда не будет обладать сознанием, присущим человеку.
Но исследования взаимоотношений машин и человека сегодня прогнозируют обратное. Человек, пере-
стающий думать и воспитываться на произведениях искусства, литературы, музыки, всего того, что формирует личность и его ответственность, имеет риск потерять самого себя. Такие аргументы уже поддержаны ведущими нейролингвистами, биологами (Т. В. Черниговская и др.).
В правовом поведении личность руководствуется своим правосознанием. Но что есть правовое сознание человека сегодня в сравнении с возможностями искусственного интеллекта? Как искусственный интеллект, заменяя человека в правовом поведении, влияет на изменение его правового сознания? С позиции описательного подхода традиционная теория права выделяла два блока правового сознания: правовую идеологию как уровень информированности, обученности субъекта и правовую психологию, предполагающую отношение к праву и правовым институтам. Кстати, правовое сознание никто никогда не видел и ощутимо оно только в виртуальном воображении человека. Проводя исследования правосознания, предлагаем защищать конструктивный подход, в рамках которого выделено существование весьма подвижных блоков правового сознания: логико-нормативного, эмоционально-образного, мотивационного, который и определяет поведение личности.
В большинстве случаев в правовом поведении человек, не имеющий юридического образования, руководствуется обыденным уровнем правосознания, который не порождает и не позволяет проявить профессиональные юридические компетенции в деятельности. Последние сегодня с легкостью заменяет искусственный интеллект, совершая пра-вореализационные поступки, запрограммированные в нем. Но имеет ли он правосознание, которое определяет его мотивацию и поступки?
В начале XX в. в научной среде появилась идея о том, что правовое сознание человека можно определить как некую функцию специально ор-
ганизованной материи, которая отражает явления правовой действительности и целенаправленно регулирует свое взаимодействие с ней. Различные составляющие и уровни правосознания по-разному влияют на поведение человека. Обыденное правосознание переводит требования правовых норм к их практической реализации в повседневной правовой жизни людей. Оно выполняет функцию осознания и детализации субъективных прав и обязанностей субъектов, влияет на выбор их целей и средств, распределяет желания, идеи (мотивирующие поведение человека) на определенные поступки, которые могут оцениваться с позиции права как правомерные, так и противоправные. В науке определено, что свойствами уровней правосознания стали тесная связь с носителем правосознания, уникальность, обеспечивающий характер3. В процессе правовой деятельности человек демонстрирует свою активность, которая может быть названа правовой активностью и стать самостоятельным правовым явлением. Таким образом, от состояния правового сознания, закладывающегося в мозге человека, зависит правовая деятельность.
Чтобы систематизировать направления влияния искусственного интеллекта на правовую деятельность человека в настоящее время, необходимо иметь в виду, что правовая деятельность людей, независимо от того, что выстраивается сообразно или в противоречие с нормами права, имеет творческий характер, как, впрочем, и создание норм права с помощью природного интеллекта человеческой цивилизации. Но ведь искусственный интеллект также представляет собой некое свойство специальных машинных систем, выдуманных челове-
3 См.: Бреднева В. С. Место и роль мас-
сового правосознания в информационной сфере // Информационное право. 2008. № 2 (13). С. 30—33.
ком, которые призваны выполнять именно творческие функции.
Первоначально так называемый искусственный интеллект имел слишком узкие формы воплощения (например, использовался в шахматных играх). Сегодня многие нейрофизиологи и психологи не могут точно ответить на вопрос о возможностях искусственного интеллекта. Еще в середине XX в. появилась известная работа англичанина А. Тьюринга "Computing Machinery and Intelligence"4, в которой он представил тест, позволяющий понять, когда машина способна достичь уровня человеческого разума (см. схему пересечения возможностей поступков интеллекта в рамках разумного и неразумного правового поведения (рис.)).
Человеческое Разумное
Рис. Взаимодействие правового поведения человека и искусственного интеллекта
На схеме видно, что разумное правовое поведение и правовое поведение человека имеют много общего (овал пересечения). Тест позволяет понять, где может пересекаться неразумное правовое поведение человека и разумное правовое поведение искусственного интеллекта, при этом явно не свойственное поведению человека. Ученые, пользуясь идеями Тьюринга, стали доказывать, что машина в обычных условиях все-таки
4 cm.: Turing A. M. Computing Machinery and Intelligence. 1950. Mind 49: 433-460. URL: https://www.csee.umbc.edu/courses/471/ papers/ turing.pdf.
способна вести себя точно так же, как человек. Но способна ли машина при этом иметь и проявлять интуицию, эмоции и чувства? Первоначально казалось, что нет. Однако дальнейшие исследования поведения человека и искусственного интеллекта в правовом пространстве поставили под сомнение такой категоричный ответ. Прогнозирование влияния искусственного интеллекта на правовое поведение человека основывается на разработанных нейролингвистами, психологами подходах к реализации задач искусственного интеллекта в правовом пространстве. Таких подходов много. Приведем некоторые из них.
Первый язык символьных вычислений «Лисп» спровоцировал появление идей о реализации искусственного интеллекта с помощью определенных символов. Однако в процессе исполнения запрограммированного поведения стали создаваться новые правила. Ученые пришли к выводу, что новые возможности, которые открывались в процессе такого подхода, стали восприниматься человеком как отсутствие инструментов для реализации программы.
В науке был предложен и так называемый логический подход к созданию искусственного интеллекта, в основе которого использовались законы логики. Учеными разработан специальный язык «Пролог», в котором систематизируются факты (информация) и правила логического вывода из системы этих фактов, без жестких алгоритмов.
Исследование таких подходов позволило увидеть, что существуют как минимум две возможности эволюции искусственного интеллекта и его влияния на правовое поведение человека5. Первая спрогнози-
5 cm.: Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World // International Journal of Innovative Technology and Exploring Engineering. 2019.
рована как Top-Down, в рамках которого формируются базы знаний (информации) и схемы логических выводов, являющихся тождественными человеческим процессам, происходящим в головном мозге: речь, творчество, размышление и рассуждение, эмоции (психические процессы высшего уровня). Вторая — Bottom-Up — представляет собой исследование сложных нейронных процессов и сетей, которые фактически моделируют интеллектуальные процессы и выстраивают поведение человека (это позволяет создать нейрокомпьютеры).
В конце XX в. появился агенто-ориентированный подход. Ученые стали задумываться над тем, что вычислительная функция искусственного интеллекта реализуется успешно, если в машину запрограммированы четкие цели, которые она и достигает. Значит, машина может выступать как интеллектуальный агент мира, воспринимать из окружающей действительности необходимую информацию через специальные устройства — датчики. Далее она способна сама влиять на мир с помощью исполнительных механизмов, которые закладывает в нее человек. Гибридный подход исходит из необходимости обеспечения взаимодействия нейронных и символьных моделей, которые способны продуцировать когнитивные и вычислительные возможности интеллекта. Моделирование рассуждений предполагает создание символьных систем, которым ставится задача, и они ее решают.
О том, что в действительности представляет собой искусственный
Vol. 9. No. 1. P. 5159—5162; Khisamova Z. I., Begishev I. R., Sidorenko E. L. Artificial Intelligence and Problems of Ensuring Cyber Security // International Journal of Cyber Criminology. 2019. Vol. 13. Iss. 2. P. 564—577; Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. 2017. Vol. 25. Iss. 2. P. 155—179.
интеллект, никто точно не знает. И чем больше определений в науке, тем более неясным становится ответ на вопрос: что такое искусственный интеллект и как он может влиять на поведение человека? Например, И. В. Понкин, А. И. Редькина6 пишут, что искусственный интеллект — это сложная кибернетическая система, которая обладает когнитивно-функциональной архитектурой, мощностями. При этом такая система имеет свою субъектность, является интеллектуальным агентом, обладает автономностью, а также элаборатив-ной операциональностью (т. е. может совершенствоваться). Значит, искусственный интеллект обладает возможностями воспринимать, анализировать, оценивать, моделировать окружающие образы, отношения, процессы, ситуации. Он способен воспроизводить когнитивные функции, которые присущи человеку, адаптировать свое поведение, автономно самообучаться, вырабатывать языки коммуницирования внутри себя с другими искусственными интеллектами7. Он способен накапливать и воспроизводить опыт человека в определенной деятельности. Но он работает по алгоритмам. В любом случае искусственный интеллект — это не что иное, как результат деятельности человека, который обладает способностью логи-
6 См.: Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91—109.
7 См.: Ястребов О. А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: сб. матер. к XII ежегод. науч. чтениям памяти проф. С. Н. Братуся. М., 2017. С. 271—283; Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права Российской академии наук. 2018. Т. 13. № 2. С. 36—55.
чески мыслить, управлять своими действиями, а также корректировать свои решения в случае изменения внешних условий.
Правовая деятельность, которая теперь передается от человека к искусственному интеллекту, предполагает, что участвующие в ней субъекты наделены ответственностью за совершаемые деяния в правовом пространстве. Значит, ответственность, которую до настоящего времени нес человек в правовом поведении, следует передать искусственному интеллекту. В литературе ведутся споры о применимости к искусственному интеллекту словосочетания «юридическая ответственность», т. е. может ли машина нести ответственность за совершаемые поступки. Большинство юристов эту возможность категорично отрицают. Так, утверждается, что искусственный интеллект не осознает свою вину за содеянное, а потому сразу выпадает важный элемент состава правонарушения — вина (отношение к содеянному искусственный интеллект не проявляет)8. В то же время ученые констатируют, что
8 cm.: Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford, 2014. 390 p.; Ernest N, Carroll D, Schumacher C., Clark M. et al. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions // Journal of Defense Management. 2016. Vol. 6. Iss. 1. P. 1—7; Gerla M., Lee E, Pau G, Lee U. Internet of vehicles: From intelligent grid to autonomous cars and vehicular clouds // IEEE World Forum on Internet of Things (WF-IoT). 2014. P. 241— 246; Hallevy G. Liability for Crimes Involving Artificial Intelligence Systems. Dordrech, 2015. 262 p.; Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. Op. cit. P. 5159 — 5162; Khisamova Z. I., Begishev I. R, Sidorenko E. L. Op. cit. P. 564—577; Solaiman S. M. Op. cit. P. 155—179; White P. J. F, Podaima B. W, Friesen M. R. Algorithms for Smartphone and Tablet Image Analysis for Healthcare Applications // IEEE Access. 2014. Vol. 2. P. 831—840.
искусственный интеллект в определенной степени проявляет свои интересы, показывает автономную волю, которая формирует эти интересы. Однако законодатель и наука в целом этого пока не признают.
Многие зарубежные авторы изначально возлагали ответственность за поведение искусственного интеллекта на его создателя. Такой подход положительно был воспринят юристами. Ответственность за неправомерные действия машины была возложена на производителя или оператора. Эти позиции отстаивает и Парламентская Ассамблея Совета Европы. При этом неважно, принято ли решение о таком поступке искусственным интеллектом или нет. Мозг человека также способен, но не всегда, что важно, работать по алгоритмам, как это привык делать искусственный интеллект.
Так случилось, что мир искусственного интеллекта в некоторых сферах почти полностью заменяет человека, например на бирже, в управлении собственностью и в других сферах. И при этом в части его влияния на правовое поведение человека спорным остается вопрос о соотношении таких понятий, как «этика поведения в мире права» и «искусственный интеллект». Представляется, что в правовом поведении искусственный интеллект в настоящее время заменяет исключительно техническую составляющую тех действий, операций, которые всегда производил человек. Вместе с тем правовая деятельность, как и право в целом, в цивилизованном обществе опирается на принципы и ценности, которые отражают не только строгие формулы законов, но и человеческие чувства, эмоции, душевные страдания и прочие психические проявления, способствующие в рамках закона достижению необходимых целей. Такие действия, не подвластные запрограммированным алгоритмам, остаются прерогативой человека думающего, понимающего, имеющего высокий уро-
вень образованности и культуры. Человек не может и не должен упустить эту важную составляющую правового поведения, ибо в противном случае реализация права (соблюдение, исполнение, использование) потеряет ценностный смысл и превратится в сухой набор шагов по выполнению конкретных правил.
Заключение. Все более активное внедрение искусственного интеллекта в сферу «некогда монопольной» правовой деятельности человека приведет к кардинальному изменению сущности этой правовой деятельности (признаки этих изменений уже ощутимы сегодня). Институционализируется так называемая цифровая правовая деятельность человека (одновременно с признанием человека цифрового (homo numericus)), которая отличается следующими характеристиками: созданием цели и прогнозированием итога правовой деятельности не человеком, а от его имени машиной; выполнением промежуточных правовых действий до достижения результата на основе предписанного алгоритма, что уже сегодня обусловливает необходимость жесткого контроля за подобной правовой деятельностью со стороны человека, возможной корректировки процессных (промежуточных) поступков в соответствии с высшими ценностями общества, которые обязательно должны быть закреплены на уровне Основного закона государства и федеральных законов, регулирующих конкретную сферу общественных отношений.
В Указе Президента РФ «О развитии искусственного интеллекта в Российской Федерации» четко обозначены направления развития нормотворчества в указанной области. Однако разработка конкретных юридических норм, законодательных актов должна обеспечиваться с учетом этических правил взаимодействия человека и искусственного интеллекта. Представляется важным предложить пути наиболее эффективного правового регулиро-
вания поведения человека, сталкивающегося с искусственным интеллектом в правовой деятельности, посредством принятия следующих новелл в отечественном и международном праве:
1) на международном уровне должна быть принята Конвенция о запрете использования технологий искусственного интеллекта в военных целях, а также в целях установления геополитической гегемонии какого-либо государства либо иных целях, направленных против прав и законных интересов человека;
2) необходима Международная правовая конвенция о невозможности наделения систем искусственного интеллекта правосубъектностью;
3) в национальном отраслевом законодательстве следует закрепить этические принципы развития технологий искусственного интеллекта (возможно, по аналогии с соответствующими разработками на уровне Евросоюза);
4) необходимы запретительные нормы конституционного права на использование технологий искусственного интеллекта в политических избирательных процессах в целях воздействия на избирателей и результаты избирательной компании;
5) необходима профессиональная с позиции юридической техники имплементация законов робототехники в правовую сферу;
6) в гражданском законодательстве должны быть закреплены нормы, обеспечивающие защиту от использования технологий искусственного интеллекта в качестве средства недобросовестной конкуренции;
7) необходимы корректировки образовательного законодательства, в первую очередь внесение изменений в Федеральный закон «Об образовании в Российской Федерации» в части защиты психологического и духовного здоровья участников образовательного процесса, которое подвержено нарушениям в связи с
развитием информационных технологий и технологий искусственного интеллекта в сфере образования и массовых коммуникаций (данная проблема особенно остро дала о себе знать в период пандемии, охватившей различные регионы страны. Неурегулированность на уровне образовательного права вопросов использования электронных средств коммуникации участников образовательного процесса вызвало социальные недовольства со стороны родительской общественности, академического научного сообщества);
8) следует четко зафиксировать в законодательстве, регулирующем вопросы медицины, правовые границы допустимых имплантаций в организм человека, а именно вживление имплантов, связанных с технологиями искусственного интеллекта;
9) искусственный интеллект оказывает влияние на правовую деятельность в части замены многих функций человека, что приведет к росту безработицы населения страны, а потому необходима разработка комплекса норм трудового права, предусматривающих защиту населения от безработицы в свете перспективы развития технологий искусственного интеллекта;
10) право в целом должно закрепить «ниши общественных отношений», в которых использование технологий искусственного интеллекта недопустимо (например, в части не-
допущения ограничения свобод человека в связи с появлением средств цифрового контроля; недопущения ментального сканирования человека и проч.). Не секрет, что в последние годы с помощью отдельных технологий искусственного интеллекта предпринимались попытки манипулирования пользователями в открытом виртуальном пространстве, распространились кликбейт, а также навязывание определенных мнений, лживой информации. Неслучайно в практике Европейского суда по правам человека9 участились жалобы из европейских стран по факту нарушения прав Конвенции о защите прав человека и основных свобод, в том числе в части уважения частной и семейной жизни, права на свободу выражения мнения, а также по вопросам использования электронных технологий слежки за человеком, его личными данными и поступками, бессрочного хранения в электронных банках отпечатков пальцев, профилей ДНК и проч.
Таким образом, теоретико-правовое исследование темы позволяет определить направления дальнейших исследований для ученых, занимающихся развитием отраслевого законодательства.
9 См.: Ковлер А. И. Права человека в цифровую эпоху // Бюллетень Европейского суда по правам человека. Российское издание. 2019. № 6. С. 146—150.
Библиографический список
Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford, 2014.
Ernest N., Carroll D., Schumacher C., Clark M. et al. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions // Journal of Defense Management. 2016. Vol. 6. Iss. 1.
Gerla M., Lee E., Pau G., Lee U. Internet of vehicles: From intelligent grid to autonomous cars and vehicular clouds // IEEE World Forum on Internet of Things (WF-IoT). 2014.
Hallevy G. Liability for Crimes Involving Artificial Intelligence Systems. Dordrech, 2015. 262 p.
Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World // International Journal of Innovative Technology and Exploring Engineering. 2019. Vol. 9. No. 1.
Khisamova Z. I., Begishev I. R., Sidorenko E. L. Artificial Intelligence and Problems of Ensuring Cyber Security // International Journal of Cyber Criminology. 2019. Vol. 13. Iss. 2.
Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. 2017. Vol. 25. Iss. 2.
Turing A. M. Computing Machinery and Intelligence. 1950. Mind 49: 433-460. URL: https:// www.csee.umbc.edu/courses/471/papers/turing.pdf.
White P. J. F., Podaima B. W., Friesen M. R. Algorithms for Smartphone and Tablet Image Analysis for Healthcare Applications // IEEE Access. 2014. Vol. 2.
Бреднева В. С. Место и роль массового правосознания в информационной сфере // Информационное право. 2008. № 2 (13).
Зорькин В. Д. Право в цифровом мире. Размышления на полях Петербургского международного юридического форума. URL: https//rg.ru/2018/05/29/zorkin-zadacha-gosudarstva-priznavat-i-zashchishchat-cifrovye-prava-grazhdan.html/.
Ковлер А. И. Права человека в цифровую эпоху // Бюллетень Европейского суда по правам человека. Российское издание. 2019. № 6.
Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. № 1.
Хабриева Т. Я. Право перед вызовами цифровой реальности // Журнал российского права. 2018. № 9.
Хабриева Т. Я., Черногор Н. Н. Право в условиях цифровой реальности // Журнал российского права. 2018. № 1.
Юридическая концепция роботизации: монография / под ред. Ю. А. Тихомирова, С. Б. Нанбы. М., 2019.
Ястребов О. А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: сб. матер. к XII ежегод. науч. чтениям памяти проф. С. Н. Бра-туся. М., 2017.
Ястребов О. А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права Российской академии наук. 2018. Т. 13. № 2.
The Impact of Artificial Intelligence on Legal Activity of a Person
E. A. Pevtsovaab
a Institute of Legislation and Comparative Law under the Government of the Russian Federation, Moscow 117218, Russian Federation
b Moscow Region State University, Mytishchi 141014, Moscow Region, Russian Federation
E-mail: [email protected]
DOI: 10.12737/jrl.2020.103
The relevance of the problem under study is due to a number of circumstances. Firstly, the active penetration of artificial intelligence into the public life of modern man requires the search for new ways of coexistence in modern VUCA world and the Big Data era. Secondly, the actual absence of a sufficient number of regulatory acts regulates human activities in those areas where a person directly competes with the world of automated mechanisms and artificial intelligence. Thirdly, there is insufficient knowledge and resolve of the problem of the relationship between artificial intelligence and ethics per se, morality. The latter attributes in the behavior of man, but is absolutely indifferent to artificial intelligence according to most scientists. The topic is global in nature and don't bypass any legal system of our time, and therefore requires the inclusion in the development of the problem the scientific data obtained by modern comparativists.
The article aims to analyze the current trends in the relationship between a person and artificial intelligence in the legal space and to determine the ways of the most effective legal regulation of the behavior of a man faced with artificial intelligence. The leading method in this paper is a systematic analysis of the prevailing practice in the legal space and regulations governing social relations, into which automation is actively intruding.
The article concludes that artificial intelligence is gradually crowding out many human competences in the legal space, but is not able to take on important functions of ensuring the preservation of human
values in society, the principles of justice and morality. Strengthening its role in the legal sphere cannot replace the important function of law — the upbringing, what affects the legal consciousness of people and reinforces respect for the values of law enshrined in it by a man. The article may be useful for lawmakers and law enforcement agencies in the development of new regulations governing the behavior of people in the areas served by artificial intelligence.
Keywords: legal behavior, artificial intelligence, legal consciousness of a person, lawful behavior, illegal behavior, robotics, digital economy, industrial revolution, legal activity.
For citation: Pevtsova E. A. The Impact of Artificial Intelligence on Legal Activity of a Person. Zhurnal rossijskogo prava = Journal of Russian Law, 2020, no. 9, pp. 19—31. DOI: 10.12737/ jrl.2020.103 (In Russ.)
References
Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford, 2014. 390 p.
Bredneva V. S. Place and role of mass consciousness in the information sphere. Informatsionnoe pravo, 2008, no. 2 (13). (In Russ.)
Ernest N., Carroll D., Schumacher C., Clark M. et al. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions. Journal of Defense Management, 2016, vol. 6, iss. 1.
Gerla M., Lee E., Pau G., Lee U. Internet of vehicles: From intelligent grid to autonomous cars and vehicular clouds. IEEE World Forum on Internet of Things (WF-IoT). 2014.
Hallevy G. Liability for Crimes Involving Artificial Intelligence Systems. Dordrech, 2015. 262 p.
Khabrieva T. Y. Law Facing the Challenges of Digital Reality. Zhurnal rossijskogo prava = Journal of Russian Law, 2018, no. 9, pp. 5—16. DOI: 10.12737/art_2018_9_1 (In Russ.)
Khabrieva T. Y., Chernogor N. N. The Law in the Conditions of Digital Reality. Zhurnal rossijskogo prava = Journal of Russian Law, 2018, no. 1, pp. 85—102. DOI: 10.12737/art_2018_1_7 (In Russ.)
Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World. International Journal of Innovative Technology and Exploring Engineering, 2019, vol. 9, no. 1.
Khisamova Z. I., Begishev I. R., Sidorenko E. L. Artificial Intelligence and Problems of Ensuring Cyber Security. International Journal of Cyber Criminology, 2019, vol. 13, iss. 2.
Kovler A. I. Human rights in the digital age. Byulleten Evropeyskogo suda po pravam cheloveka. Rossiyskoe izdanie, 2019, no. 6.
Ponkin I. V., Red'kina A. I. Artificial intelligence from a legal perspective. Vestnik Rossiiskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki = RUDN Journal of Law, 2018, vol. 22, no. 1. (In Russ.)
Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy. Artificial Intelligence and Law, 2017, vol. 25, iss. 2.
Turing A. M. Computing Machinery and Intelligence. 1950. Mind 49: 433-460. Available at: https://www.csee.umbc.edu/courses/471/papers/turing.pdf.
White P. J. F., Podaima B. W., Friesen M. R. Algorithms for Smartphone and Tablet Image Analysis for Healthcare Applications. IEEE Access, 2014, vol. 2.
Yastrebov O. A. Artificial intelligence in the legal space: conceptual and theoretical approaches. Legal personality: the collection of materials for the XII Annual Scientific Readings in memoriam of Professor S. N. Bratus. Moscow, 2017. (In Russ.)
Yastrebov O. A. Legal personality of an electronic person: theoretical and methodological approaches. Trudy Instituta gosudarstva i prava Rossiyskoy akademii nauk, 2018, vol. 13, no. 2. (In Russ.)
Legal Concept of Robotization. Ed. by Yu. A. Tikhomirov, S. B. Nanba. Moscow, 2019. 240 p. (In Russ.)
Zor'kin V. D. Law in the digital world. Reflections on the sidelines of the St. Petersburg International Legal Forum. Available at: https//rg.ru/2018/05/29/zorkin-zadacha-gosudarstva-priznavat-i-zashchishchat-cifrovye-prava-grazhdan.html/. (In Russ.)
