CC BY
98
УДК 34:002.6
DOI: 10.26140/bgz3-2019-0804-0083
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ПРОФЕССИОНАЛЬНОЙ ЮРИДИЧЕСКОЙ ДЕЯТЕЛЬНОСТИ: ИНСТРУМЕНТ РАЗВИТИЯ ИЛИ УГРОЗА СУЩЕСТВОВАНИЮ?
© 2019
AuthorID: 726593
SPIN-код: 9630-3761
ResearcherlD: М-1416-2014
Мирошниченко Ольга Игоревна, кандидат юридических наук, доцент кафедры теории и истории государства и права, Юридическая школа Сафин Никита Игоревич, студент 3 курса Юридической школы Хохлова Мария Сергеевна, студент 3 курса Юридической школы
Дальневосточный федеральный университет (690922, Россия, Владивосток, п. Аякс, e-mail: [email protected])
Аннотация. В рамках данного исследования авторы сужают понятие современных информационных технологий до технологий искусственного интеллекта (в большей степени - сильного искусственного интеллекта) для рассмотрения перспектив, угроз и рисков, связанных с внедрением указанных технологий в рамках системы Legal Tech в юридические процессы. В связи с чем, целью настоящего исследования является рассмотрение основных сфер применения системы Legal Tech, в частности, smart-контрактов и сферы судопроизводства. В результате проведенного анализа авторы приходят к выводу, что Legal Tech вполне может стать следующей ступенью развития практической юриспруденции в целом, но в то же время предостерегают от попытки увидеть в данной системе потенциальную замену юристу-человеку. В правовой сфере даже сильный искусственный интеллект сможет выполнять лишь технологическую функцию, призванную упростить рабочий процесс. Рациональное внедрение данной системы демократизирует и дебюрократизирует систему в целом, а также в перспективе сведет к минимуму рутинную составляющую работы конкретного юриста, позволив ему сконцентрироваться на поиске нестандартных решений в рамках своей специализации.
Ключевые слова: Legal Tech, искусственный интеллект, smart- контракт, судопроизводство, робототехника, цифровые технологии, киберсуд.
ARTIFICIAL INTELLIGENCE IN THE LEGAL PROFESSION: A TOOL FOR DEVELOPMENT OR A THREAT TO EXISTENCE?
© 2019
Miroshnichenko Olga Igorevna, candidate of legal science, associate professor Safin Nikita Igorevich, 3th course student, School of law Khohlova Maria Sergeevna,3th course student, School of law
Far Eastern Federal University (690922, Russia, Vladivostok, e-mail: [email protected])
Abstract. In this study, the authors narrow the concept of modern information technologies to artificial intelligence technologies (to a greater extent - strong artificial intelligence) to consider the prospects, threats and risks associated with the introduction of these technologies within the Legal Tech system in legal processes. In this regard, the purpose of this study is to consider the main areas of application of the Legal Tech system, in particular, smart-contracts and the sphere of legal proceedings. As a result of the analysis, the authors come to the conclusion that Legal Tech may well become the next step in the development of practical jurisprudence as a whole, but at the same time warn against trying to see in this system a potential replacement for a human lawyer. In the legal sphere, even a strong artificial intelligence can only perform a technological function designed to simplify the workflow. The rational implementation of this system democratizes and de-bureaucratizes the system as a whole, and in the future will minimize the routine component of the work of a particular lawyer, allowing him to concentrate on finding non-standard solutions within his specialization.
Keywords: Legal Tech, artificial intelligence, smart - contract, legal proceedings, robotics, digital technologies, cyber-court.
ВВЕДЕНИЕ
Система Legal Tech - современный метод автоматизации различных юридических услуг и процессов с помощью внедрения современных информационных технологий [13, с. 6]. Искусственный интеллект (далее по тексту - ИИ) является широкой категорией, к пониманию которой существует множество подходов. Джон Маккарти в 1956 году на конференции в Дартмутском университете заявил, что ИИ есть наука и техника создания интеллектуальных машин, а именно интеллектуальных компьютерных программ. Сам интеллект он определил как вычислительную составляющюю способности по достижению конкретных целей, и отмечал, что особенность этой способности ИИ в том, что в перспективе она будет реализовывать цели, достижение которых не ограничивается биологическими рамками человеческих возможностей [19, с. 1].
Эндрю А. М., известный специалист в области кибернетики, утверждает, что ИИ - это область исследований, направленных на то, чтобы заставить машины выполнять функции, которые в настоящее время для них слишком трудны, в первую очередь те функции, которые способны выполнять люди, чтобы облегчить их
существование. Он полагал, что ИИ может стать исключительно биологическим феноменом, то есть апогеем самого конструкта ИИ должен явиться интеллект, абсолютно не отличимый от человеческого. Также он отмечал, что определение ИИ зависит от уровня развития техники и от того, как будет с годами меняться представление людей о «думающей машине» [5, с. 18].
Мы полагаем, что в рамках данного исследования логично будет воспринимать ИИ как науку и технику создания машин и компьютерных программ, которые будут способны полностью заменять человека при осуществлении некоторых конкретных функций (в рамках данной статьи под таковыми имеются в виду профессиональные функции юриста). То, какие именно функции может в рамках системы Legal Tech осуществлять ИИ, мы попробуем выявить на основании концепции слабого и сильного искусственного интеллекта [22, с. 417-420].
МЕТОДОЛОГИЯ
Целью настоящего исследования является рассмотрение основных сфер применения системы Legal Tech, в частности, smart-контрактов и сферы судопроизводства. Методы: исследование основано на применении логического, диалектического приемов научного позна-
ния, сравнительно-правового метода и юридико-техни-ческого анализа текстов нормативных актов. В результате проведенного анализа авторы приходят к выводу, что Legal Tech вполне может стать следующей ступенью развития практической юриспруденции в целом, но в то же время предостерегают от попытки увидеть в данной системе потенциальную замену юристу-человеку. В правовой сфере даже сильный искусственный интеллект сможет выполнять лишь технологическую функцию, призванную упростить рабочий процесс. Рациональное внедрение данной системы демократизирует и дебюрократизирует систему в целом, а также в перспективе сведет к минимуму рутинную составляющую работы конкретного юриста, позволив ему сконцентрироваться на поиске нестандартных решений в рамках своей специализации.
РЕЗУЛЬТАТЫ
Итак, слабый ИИ является инструментом, способным действовать на основании заданного человеком конкретного алгоритма, тем самым упрощая деятельность своего создателя или владельца, но не заменяя его. Именно человеческий разум в данном случае выступает обязательной базой и сердцевиной деятельности роботизированного юнита.
Сильный же ИИ, в абстрактной перфекции, не только инструмент, действующий в строго заданных рамках, помощник человеческому разуму. Это - в буквальном смысле искусственно созданный разум, который будет способен на основании собственных знаний (под ними мы подразумеваем как вложенную создателем информацию, так и полученную самим объектом (или в данном случае разумнее говорить потенциальным субъектом 3-го тысячелетия?) в процессе существования, ведь юниты, обладающие такого рода возможностями, способны самостоятельно принимать решения, а также самообучаться. По сути, если верить инженерам и программистам, юниты на основе сильного ИИ, будут обладать способностями, по результату равнозначными тем, которые реализуют люди в процессе когнитивной деятельности, в то время как программы слабого ИИ будут лишь упрощать работу человеческого разума, но отнюдь не развивать свой собственный.
Таким образом, в рамках данного исследования под системами слабого ИИ будут пониматься технологии, которые упрощают работу профессионала в пределах конкретной сферы юридической деятельности, в то время как под сильным ИИ - те системы, которые реально или потенциально будут способны полностью заменить юриста в рамках конкретной сферы деятельности, при этом не нарушая сам порядок и не меняя содержания этой деятельности.
В августе 2016 года Комиссия по вопросам будущего юриспруденции при Американской ассоциации юристов опубликовала Доклад о будущем юридических услуг [7, с. 7] в США, где подробно описываются выводы и рекомендации данной комиссии по внедрению ИИ в различные сферы юридической деятельности. Наиболее глобальными сферами автоматизации юридических процессов, в соответствии с данным Докладом, являются судопроизводство и сфера регулирования договорных отношений.
Надо полагать, что практическое внедрение Legal Tech в массовом масштабе будет способно составить конкуренцию специалистам в сфере юриспруденции. Результаты исследования Boston Consulting Group показывают, что Legal Tech может выполнять до 30-50 процентов задач, выполняемых сегодня младшими юристами или помощниками юристов [28, с. 3].
Чтобы сделать вывод о конкурентоспособности данной системы, необходимо проанализировать основные перспективы, риски и угрозы, связанные с ее внедрением в те сферы юридической деятельности, которые были упомянуты ранее.
Так, одним из инструментов внедрения Legal 360
Tech в сферу договорных отношений являются smart-контракты. Это - цифровые соглашения, включающие в себя условия, основанные на независимом договоре сторон, которые являются защищенными от несанкционированного доступа и самовыполняемыми [17, с. 8]. Иными словами, Smart- контракты - это соглашения, исполнение которого автоматизировано [21, с. 306]. К таким соглашениям могут относиться договоры, транзакции, контракты и так далее.
Smart-контракты в сфере Legal Tech основываются на технологии Blockchain. Blockchain -децентрализованная, независимая база данных, которая работает на основании сети одноранговых блоков по криптографической технологии [20, с. 3]. Проще говоря, это огромная база, информация в которой заключена в числовой код, распределена на множество компьютеров и отлично защищена от взлома из-за особой системы кодирования [21, с. 308].
Целью smart- контракта в рамках системы Legal Tech является возможность анонимных сторон заключать соглашения (как правило - через интернет) без привлечения посредника.
Значение данной технологии, исходя из исследования консалтинговой компании Accenture, на сегодняшний день достаточно весомо. Согласно Accenture, один только банковский сектор может ежегодно экономить до $12 миллиардов, используя smart-контракты [8, с. 6].
На данный момент идея такого рода контрактов в большей степени реализуется в рамках создания проектов соглашений через задание ключевых параметров сделки, поиск необходимых источников, которые являются труднодоступными в электронной форме, автоматизации документооборота, создания шаблонных соглашений для повсеместного непрофессионального использования.
Но перспективы более серьезного развития smart-контрактов в системе Legal Tech становятся менее отдаленными. Например, в Германии уже функционирует система, по которой контракты между физическими лицами могут заключаться в цифровом виде посредством электронных подписей, а некоторые договоры могут существовать только в виде цифрового файла [29, с. 6]. Сами же электронные подписи в соответствии с Законом о цифровой подписи Германии, представляют собой созданные с помощью закрытого ключа подписи печати к цифровым данным, которые при использовании соответствующего открытого ключа, снабженного сертификатом ключа подписи, выданным уполномоченным государственным органом, позволяет установить владельца ключа подписи и обеспечить целостность и неизменность его данных [31]. Проще говоря, это более не материальный объект, а лишь реквизит документа, с помощью которого можно идентифицировать принадлежность электронной подписи ее владельцу, а также зафиксировать состояние информации или данных в электронном документе с момента его подписания.
Существует и кажущаяся сегодня совсем фантастической модель функционирования легальных smart-контрактов, основанную на перспективах сильного ИИ.
Например, концепция «умных договоров», разработанная Ником Сабо [27, с. 12] для автомобильного залогового права, предполагающая включение условий контракта в компьютерное оборудование и специальное программное обеспечение. То есть, после заключения такого залогового договора и в случае, например, неуплаты владельцем очередного платежа по кредиту, должен автоматически запуститься процесс возврата автомобиля. Используя совершенную модель smart-контракта, которая будет взаимодействовать с программным обеспечением автомобиля и управляться именно им (компьютером, встроенным в машину), кредитор будет способен опосредованно и генерализированно ограничить возможность запуска машины владельцем, в случае неисполнения им кредитного обязательства в любой фор-Baltic Humanitarian Journal. 2019. Т. 8. № 4(29)
ме [9, с. 418].
Таким образом, в идеале система smart- контрактов может стать настолько продвинутой, что без посторонней помощи будет модифицировать любые договорные отношения, основываясь только на минимально необходимой вложенной в нее информации. Более того, такого рода система будет способна даже создавать различные соглашения без заранее заложенного в нее проекта, исключительно на базе общей информации, также она сможет максимально алгоритмически просчитать возможные риски и угрозы будущего соглашения и свести их к нулю.
Иной перспективой развития smart-контрактов является их возможное использование во взаимодействии между государством и гражданами. С развитием Legal Tech вполне реальным станет полное избавление населения от насущных административных процедур, связанных с государственной регистрацией имущества, налоговыми выплатами и даже нотариальными процессами. Такое развитие событий вполне может привести к снижению коррупционной составляющей, и, как следствие, к становлению правового государства [2, с. 26].
Вышеописанное «идеальное юридическое будущее» со всеми его перспективами весьма заманчиво, однако, не переоцениваются ли возможности описанных технологий и не окажутся ли они угрозой для общества?
По сути, идеал совершенных технологий Legal Tech сводится к созданию своеобразной «надзаконодатель-ной системы», которая будет являться единой для всего цифрового пространства во всем мире. Таким образом, установление юрисдикционных границ данной системы будет невозможным. Ни одно государство не сможет охранять и защищать интересы своих граждан в рамках надстройки, которая не будет являться частью конкретной правовой системы. Ведь smart-контракты не обеспечены силой принуждения государства [21, с. 310]. И если ещё 20 лет назад представить себе существующую вне рамок конкретного государства саморегулируемую автоматизированную «правовую» систему было невозможно, а говорить о ней - кощунственно и смешно, то сегодня корпорации уровня Ebay и Amazon показали реальность такого концепта. Поэтому на вопрос о самой возможности существования «цифрового внегосудар-ственного права» мы обязаны ответить «да». А на вопрос о его необходимости? Например, что произойдёт в случае взлома или недоработки этой масштабной, по сути, исключительно саморегулируемой системы? Ответ: катастрофа для всего мирового сообщества. Так, уже сегодня известен случай, когда компания терпела убытки в размере около $43,9 млн из-за не совершенности Blockchain технологии [3, с.1]. Что будет, если катастрофа затронет интересы почти всего цивилизованного человечества? Иными словами, стоит ли игра свеч?
Неразумно отрицать, что роль smart-контрактов в Legal Tech колоссальна и продолжает повышаться, однако, в целом их перспективы и преимущества, на наш взгляд, явно переоценены [11, с. 30]. Да, smart-контракты основанные на системе Blockchain, очень эффективны но лишь (!) в качестве специальной программы, избавляющей юристов от «бумажной волокиты», помогающей осуществлять микро-транзакции, формальный анализ контрактов и регистрационную специфику. Именно такое применение в системе Legal Tech экономически эффективно, а такие smart-контракты обеспечат ясность, предсказуемость, аудитоспособность и простоту [23, с. 4].
Уже упомянутый доклад о будущем юридических услуг [6, с. 46] также говорит о сфере судопроизводства как об активном объекте модернизации путем внедрения системы Legal Tech, как в ближайшем, так и в отдаленном будущем. С точки зрения инициаторов такого рода реформ, автоматизация позволит упростить и усовершенствовать процесс непосредственного участия населения в судопроизводстве и таким образом максимально
демократизировать систему.
На данный момент система судопроизводства уже вбирает в себя некоторые элементы Legal Tech, однако, на сегодня это лишь инструмент, упрощающий работу судье, но отнюдь не интеллектуально саморазвивающаяся система.
Так, в рамках автоматизации судопроизводства практикуется электронная подача судебных исков [5], создаются специальные электронные базы и сервисы, которые включают в себя совокупность судебных решений, например, UniCourt [15, с. 24] (США), и casebook (Россия).
Существуют и более интересные варианты использования искусственного интеллекта. Так, например, в Великобритании практикуется система допроса свидетелей защиты и дачи ими показаний через видеосвязь прямо в зале суда; также в режиме реального времени проводятся и предварительные слушания по уголовным делам [24, с. 70]. Бразильская система судопроизводства и вовсе уже несколько лет функционирует в интерактивной форме, где единственная обязанность юриста -вставить в компьютер электронный идентификатор личности, без необходимости фактически присутствовать в зале суда или же в материальной форме относить документ в канцелярию соответствующего органа.
И все эти нововведения, безусловно, упрощают и дебюрократизируют систему, но (!) не меняют, а лишь модернизируют и упрощают ее.
Еще один вариант внедрения Legal Tech инноваций в судопроизводство - предиктивная аналитика, то есть прогнозирование вероятности исхода того или иного дела [18]. По данным исследований, такого рода технологии в 70% случаях способны повторить решения Верховного Суда США [16, с. 8] и в 79 % решения Европейского суда по правам человека [7, с. 2]. Перспектива заманчива, ведь существуют категории дел, для решения которых можно привлечь системы ИИ и неразумно тратить гораздо более дорогостоящий человеческий ресурс. Это - так называемые «бесспорные дела», по которым судья проверяет лишь формальные данные. Например, просрочка по кредиту, где стороны согласны с фабулой, а решение очевидно.
И хотя описанные технологии по сути не являются воплощением сильного ИИ, очевидно, что разработчики Legal Tech двигаются в этом направлении с целью создания отдельной системы e-adjudication - на сегодня лишь специального сервиса для разрешения виртуальных споров. Но именно его инициаторы автоматизации судопроизводства видят в качестве первоначальной модели для создания в будущем реального интерактивного суда. Так, на сегодня с помощью e-adjudication разрешено 60 миллионов споров между трейдерами и пользователями Ebay [24, с. 70].
По словам профессора Оксфордской юридической школы Ричарда Сусскинда, активное внедрение систем ИИ приведет к дуализму понятия «суд», ведь его можно будет воспринимать и как реальное учреждение и как интерактивный сервис [24, с. 70]. По факту, все сводится к созданию в будущем киберсудов, которые будут виртуально выполнять все те же функции что и реальные судьи, без какого-либо участия человека (механическое включение самой системы, как и этап ее технологической разработки, мы таким участием не считаем), за-действуя только системы искусственного интеллекта. Такая модель якобы минимизирует бюрократизацию и нивелирует коррупциогенные риски [27], благодаря чему продуктивность и скорость рассмотрения дел повысится. Также очевидно, что внедрение сильного ИИ гораздо эффективней обеспечит принцип беспристрастности судопроизводства, а также реального равенства перед судом и законом. С помощью такого рода технологий станет возможным искоренить любое проявление дискриминации [26, с. 105].
Заманчиво звучит, не так ли? Однако, мы полагаем, что многое в нарисованной выше картине - лишь иллю-
зия создателей «роботизированной юриспруденции», а наделение робота функционалом судьи может привести к неопределенным последствиям.
Обратимся к основным законам робототехники [1, с.781-784], которым должны подчиняться все интеллектуальные устройства. Именно эти законы стали основой Резолюции Европарламента от 16 февраля 2017 года относительно норм гражданского права о робототехнике [12] и закона Южной Кореи о содействии развитию и распространению умных роботов № 9014 от 28 марта 2008 года.
Итак, первый закон провозглашает запрет нанесения роботом вреда человеку. Однако, в концепции существует также и нулевой закон, который говорит о запрете роботу своим действием или бездействием причинять вред человечеству. А теперь представим ситуацию, в которой робот будет обязан вынести приговор, по которому, например, человек будет приговорен к смертной казни или к пожизненному лишению свободы. То есть из-за действий конкретного юнита ИИ человек претерпит неблагоприятные последствия. Будет ли такое действие нарушением первого закона робототехники? Однако если робот в процессе судопроизводства не нарушит первый закон, то он нарушит нулевой и нанесет вред обществу. Так, в решениях робота-судьи всегда будут существовать противоречие, заложенное изначальной ущербностью алгоритма: либо он нанесет ущерб конкретному виновному лицу осудив его, либо же нанесет ущерб обществу, оправдав виновное лицо.
И хотя очевидна причина проблема - при создании законов робототехники никто не предполагал, что искусственный интеллект станет не только помощником человека, но и отдельным разумом, функционирующим вне человеческого контроля - совсем не та очевидно, как ее решать. Безусловно, можно (и, наверное, даже не так сложно с точки зрения технологий) задуматься о создании специализированной системы ИИ, которая будет допускать компромисс между положениями двух этих законов и фабулой дела, а рамки такого «компромисса» в случае объективной необходимости будет определять сам робот. Однако мы полагаем, что невозможно спрогнозировать последствия таких допущений, это может стать, как прорывом для общества, так и серьезной угрозой.
К тому же, некоторые ученые уверены, что неумение робота правильно понимать эмоциональный посыл, содержащийся в показаниях каждой из сторон в судебном процессе, может затруднить разбирательство киберсу-дьей и, как следствие, исказить его результат [12, с. 6].
ВЫВОДЫ
Таким образом, на наш взгляд, полная роботизация процесса судопроизводства, даже в случае ее потенциальной технологической реализуемости, сегодня несвоевременна. В то же время авторы настоящей статьи совершенно уверены, что внедрение в систему некоторых элементов Legal Tech безусловно повысят ее эффективность. Так, например, интересна идея использования Legal Tech как интерактивной формы разрешения споров в досудебном порядке. Более того, мы полагаем, что и внедрение полноценного киберсуда вполне возможно, но только в некоторых сферах, например, по вопросам, связанным с электронными сделками.
Рассмотрев основные направления развития искусственного интеллекта в сфере профессиональной юриспруденции, мы пришли к выводу, что на сегодня идеалы системы Legal Tech являются слишком масштабными для их практической реализации и воплощения в жизнь. Полагаем, что разумно точка зрения американских исследователей, полагающих, что система права США является устойчивой и стабильной, а масштабное внедрение в нее Legal Tech не оправдает себя, так как перспективы не сопоставимы рискам. Legal Tech может привести к крушению всей правовой системы [30, с. 33].
В свою очередь, немецкие коллеги и вовсе сомнева-362
ются в самой возможности создания того идеала сильного ИИ, с помощью которого можно роботизировать юридическую систему. Они придерживаются мнения, что ИИ не способен имитировать передовые когнитивные процессы, которые необходимы для правового мышления [14, с. 94].
Мы не будем столь категоричны. Полагаем, что Legal Tech вполне может стать следующей ступенью в развитии юриспруденции в целом. Однако, не стоит видеть в данной системе потенциальную замену юристу-человеку. Полагаем, что в правовой сфере даже сильный искусственный интеллект сможет выполнять лишь технологическую функцию, призванную упростить рабочий процесс. Рациональное внедрение данной системы демократизирует и дебюрократизирует систему в целом, а также сведет к минимуму рутинную составляющую работы конкретного юриста, позволив ему сконцентрироваться на поиске нестандартных решений в рамках своей специализации.
СПИСОК ЛИТЕРАТУРЫ:
1. Азимов, А. Эссе № 6. Законы роботехники //Мечты роботов.
- М.: Эксмо, 2004. — С. 781—784
2. Глебов И.Н. Правовая футурология: постановка проблемы искусственного юридического разума /Глебов И.Н. //Российское госу-дарствоведение. - 2018. - № 1. - С. 12-29.
3. «Мы не достигли такого уровня программирования, чтобы превращать любой договор в код»/ zakon.ru // Интервью с Дэвидом Фишером - Mode of access:https://zakon.ru/discussion/2018/11/6/my_ne_ dostigli_.. (date of access: 04.08.2019). - Title from screen.
4. Эндрю, А. Искусственный интеллект /А. Эндрю. - М.: Мир, 1985. - 264 с.
5. Федеральный закон «О внесении изменений в отдельные законодательные акты Российской Федерации в части применения электронных документов в деятельности органов судебной власти» от 23 июня 2016 г. N 220-ФЗ //Российская газета. - 2016. - № 140 - Ст. 7008.
6. A Report On The Future Of Legal Services In The United States / American Bar Association - Electronic text data. - Mode of access: https:// www.americanbar.org/content/dam/aba/images/abanews/2016FLSReport_ FNL_WEB.pdf (date of access: 04.08.2019). - Title from screen.
7. Aletras N., Tsarapatsanis D., Preofiuc-Pietro D., Lampos V. (2017). Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective. / N. Aletras, D. Tsarapatsanis, D. Preofiuc-Pietro, V. Lampos - PLOS ONE - №12 -Stanford. -18 p.
8. Banking on Blockchain: a Value Analysis for Investment Banks / Accenture consulting - Electronic text data. - Mode of access: https:// www.accenture.com/_acnmedia/accenture/conversion-assets/dotcom/doc-uments/global/pdf/consulting/accenture-banking-on-blockchain.pdf (date of access: 04.08.2019). - Title from screen.
9. Cieplak J., Leefatt S. Smart Contracts: A Smart Way to Automate Performance / J. Cieplak, S. Leefatt — Georgetown Law Technology Review - rev. 414, 2017- Electronic text data. - Mode of access: https:// www.georgetownlawtechreview.org/smart-contracts-a-smart-way-to-au-tomate-performance/GLTR-04-2017/ (date of access: 04.08.2019). - Title from screen.
10. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) — Electronic text data. - Mode of access: http://www. europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html (date of access: 04.08.2019). - Title from screen
11. Fenwick M., Kaal W. A., Vermeulen E. P.M. Legal Education in the Blockchain Revolution / M. Fenwick, W. A. Kaal, E. PM.Vermeulen
- University of St. Thomas School of Law (Legal Studies Research Paper Series) -№. 17-05 -Minnesota, 2017. -39p.
12. Flader D., Calamita J., Nappert S. International Arbitral Process Psychological/Communicative Preconditions for the International Arbitral Process - Initial Findings of a Research Project and its Methodology/ D. Flader, J. Calamitа, S. Nappert. — Electronic text data. - Mode of access: https://dieterflader. de/2014/04/06/paper-international-arbitral-process/ (date of access: 04.08.2019). -Title from screen.
13. Fries, M. Man versus Machine: Using Legal Tech to Optimize the Rule of Law/ M. Fries.//SSRN Electronic Journal, - Electronic text data.
- Mode of access: https://ssrn.com/abstract=2842726 (date of access: 04.08.2019). - Title from screen.
14. Jacob K., Schindler D., Strathausen R. Liquid Legal: Transforming Legal into a Business Savvy, Information Enabled and Performance Driven Industry/ K. Jacob, D. Schindler, R. Strathausen // Springer, 2016. - 454 p.
15. Juetten M. UniCourt: Legal Tech For Access To Justice / Juetten M. // Forbes -- Electronic text data. - Mode of access: https://www.forbes. com/sites/maryjuetten/2018/09/25/unicourt-legal-tech-for-access-to-jus-tice-part-i/#3e1dcafa15ab (date of access: 04.08.2019). - Title from screen
16. Katz D. M., Bommarito M. J., Blackman J. A general approach for predicting the behavior of the Supreme Court of the United States/ Katz D. M., Bommarito M. J., Blackman J. - The Stanford Center for Legal Informatics; Stanford, 2017. - 18 p.
17. Lin W.C., Z. He. Blockchain Disruption and Smart Contracts /
Baltic Humanitarian Journal. 2019. Т. 8. № 4(29)
W.C. Lin, He Z. // SSRN Electronic Journal, — Electronic text data. — Mode of access: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2985764 (date of access: 04.08.2019). — Title from screen.
18. Markoff J. Armies of Expensive Lawyers, Replaced by Cheaper Software/ J. Markoff — New York Times — Electronic text data. — Mode of access: https://www.nytimes.com/2011/03/05/science/05legal.html (date of access: 04.08.2019). — Title from screen
19. McCarthy, J. What is Artificial Intelligence? / J. McCarthy// Stanford University. — Electronic text data. — Mode of access: http://jmc. stanford.edu/artificial-intelligence/what-is-ai/index.html (date of access: 04.08.2019). — Title from screen.
20. Nakamoto S. Bitcoin: A peer-to-peer electronic cash system / S. Nakamoto — Bitcoin Project Whitepaper, 2008 — 9 p
21. Raskin M. The Law and Legality of Smart Contracts / M. Raskin — Georgetown Law Technology Review — Electronic text data. — Mode of access: https://georgetownlawtechreview.org/wp-content/uploads/2017/05/ Raskin-1-GE0.-L.-TECH.-REV.-305-.pdf (date of access: 04.08.2019). — Title from screen.
22. Searle, J. R. Minds, brains, and programs/ J. R. Searle - Cambridge University Press, 1980. — P. 417-457.
23. Sherborne A. Blockchain Smart-Contracts and Laywers/ A. Sherborne — International Bar Association, 2017.- 7 p.
24. Susskind R., Susskind D. The Future of the Professions: How Technology Will Transform the Work of Human Experts / Susskind R., Susskind D // Oxford University Press, 2016 — 346 p.
25. Nick S. The Idea of Smart Contracts / S. Nick — Satoshi Nakamoto Institute,1977—Electronic text data. — Mode of access: https://nakamotoin-stitute.org/the-idea-of-smart-contracts/ (date of access: 04.08.2019). — Title from screen.
26. Tegmark M. Life 3.0: Being Human in the Age of Artificial Intelligence/M. Tegmark. — Penguin; UK, 2017. - 384 p.
27. Toshendra K.S. How can blockchain technology reduce bureaucracy? / Toshendra K.S. —— Electronic text data. — Mode of access: https:// www.blockchain-council.org/blockchain/how-can-blockchain-technolo-gy-reduce-bureaucracy/ (date of access: 04.08.2019). — Title from screen
28. Veith C., Bandlow M., Harnisch M., Wenzler H., Hartung M., Hartung D. How Legal Technology will change the business of law Boston Consulting Group / C. Veith, M. Bandlow, M. Harnisch, H. Wenzler, M. Hartung, D. Hartung — Bucerius Law School, 2016. — 20 p.
29. Wagner, J. Legal Tech und Legal Robots: Der Wandel im Rechtsmarkt durch neue Technologien und künstliche Intelligenz / J. Wagner //Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature, 2018. — 54 p.
30. Williams K.,Facciola J. M., McCann P., Catanzaro V.M. The Legal Technology Guidebook/ K. Williams, J. M. Facciola, P. McCann, V.M. Catanzaro. Springer, 2017. — 142 p.
31. Gesetz zur Regelung der Rahmenbedingungen für Informationsund Kommunikationsdienste Bundesgesetzblatt 28. Juli 1997 - Teil INr. 52, Bonn, S. 1870—Electronic text data. —Mode of access: http://www.artikel5. de/gesetze/iukdg.html (date of access: 04.08.2019). — Title from screen.
Публикация осуществлена в рамках мероприятия I Дальневосточный международный форум «Роботы заявляют о своих правах: доктринально-правовые основы и нравственно-этические стандарты применения автономных роботизированных технологий и аппаратов». Мероприятие проведено при финансовой поддержке Российского фонда фундаментальных исследований, проект № 19-011-20072
Статья поступила в редакцию 18.09.2019 Статья принята к публикации 27.11.2019
