CC BY
957ЮРИДИЧЕСКАЯ ТЕХНИКА
УДК 340, ББК 67.0, ГРНТИ 10.07, КОД ВАК 12.00.01
А. А. Васильев, Д. Шпоппер, М. Х. Матаева
Барнаул, Россия; Гданьск, Польша; Семей, Казахстан.
ТЕРМИН «ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ» В РОССИЙСКОМ ПРАВЕ: ДОКТРИНАЛЬНЫЙ АНАЛИЗ
В статье рассматриваются юридические аспекты использования технологии искусственного интеллекта. Авторами отмечается слабое нормативное регулирование применения искусственного интеллекта в России с учетом активного и повсеместного внедрения данной технологии в различных сферах жизни. Разработки в сфере искусственного интеллекта поднимают очень серьезные вопросы этического и правового порядка. Среди юридических требуют решения такие вопросы, как природа искусственного интеллекта, наличие правосубъектности, проблема ответственности за вред, причиненный искусственным интеллектом, влияние на юридическую профессию и т.п. Особое внимание в работе уделено необходимости выработки юридического понятия искусственного интеллекта в целях построения эффективной модели правового регулирования. В статье анализируются подходы к определению искусственного интеллекта в специальной и юридической литературе. Отмечается использование таких понятий, как нейронные сети, машинное обучение, сверхразум, суперкомпьютеры. Отдельно упоминаются попытки легальных определений в Южной Корее и Европейском союзе. По итогам исследования авторами предложены следующие признаки искусственного интеллекта: наличие технического устройства или киберфизической системы; способность к принятию, обработке и передаче информации; способность к автономной работе; самообучение на основе анализа информации и приобретенного опыта; самосознание; мышление и способность к принятию самостоятельных решений.
Ключевые слова: юридическая техника, информационное общество, цифровая экономика, искусственный интеллект, роботы.
Сведения об авторе: Антон Александрович Васильев, доктор юридических наук, заведующий кафедрой теории и истории государства и права Алтайского государственного университета. 656049, Барнаул, пр. Социалистический 68, к. 315. E-mail: anton_vasiliev@mail. ru
Сведения об авторе: Дариуш Шпоппер, доктор юридических наук, заведующий кафедрой истории государства и права Польского, истории политико-правовых доктрин Варминско-Мазурского университета, г. Ольштын. 656049, Барнаул, пр. Социалистический 68, к. 315. E-mail: [email protected]
Сведения об авторе: Майгуль Хафизовна Матаева, доктор юридических наук, проректор по научной работе и коммерциализации научных технологий Казахского гуманитарно-юридического инновационного университета, г. Семей, Казахстан. 656049, Барнаул, пр. Социалистический 68, к. 315. E-mail: [email protected]
A. A. Vasilyev, D. Shpopper М. X. Mataeva
Barnaul, Russia, Olshtun, Poland, Semey, Kazakhstan
THE TERM «ARTIFICIAL INTELLIGENCE» IN THE RUSSIAN LAW: DOCTRINAL ANALYSIS
The article deals with the legal aspects of the use of artificial intelligence technology. The authors note a weak statutory regulation of the use of artificial intelligence in Russia, taking into account the active and widespread introduction of this technology in various spheres of life. Developments in the field of artificial intelligence raise very serious ethic and legal issues. Several legal issues, such as the nature of artificial intelligence, the existence of legal personality, the problem of liability for damage caused by artificial intelligence, the impact on the legal profession, etc., need to be addressed. Particular attention is paid to the need of developing a legal concept of artificial intelligence in order to build an effective model of legal regulation. The article analyzes approaches to the definition of artificial intelligence in special and legal literature. The use of such concepts as neural networks, machine learning, super intelligence, supercomputers is noted. Special attention is given to the attempts of legal definitions in South Korea and the European Union. According to the results of the study, the authors proposed the following features of artificial intelligence: the presence of a technical device or cyberphysical system; ability to receive, process and transfer information; ability to work autonomously; self-learning based on the analysis of information and experience; self-awareness; thinking and the ability to make independent decisions.
Key words: legal writing, information society, digital economy, artificial intelligence,
robots.
About the author: Anton Aleksandrovich Vasilyev, Doctor of Law, Head of the Department of Theory and History of State and Law of Altai State University. 656049, Barnaul, Prospect Sotsialistitcheskiy, 68, office 315. E-mail: [email protected]
About the author: Dariusz Shpopper, Doctor of Law, Head of the Department of the History of State and Law of Poland, History of Political and Legal Doctrines of the Warmia-Mazury University, Olsztyn. E-mail: [email protected]
About the author: Maygul Hafizovna Mataeva, Doctor of Law, Vice-Rector for scientific work and commercialization of scientific technologies of Kazakh Humanitarian and Law Innovation University, Semey, Kakhastan. E-mail: maigulm@mail. ru
DOI 10.14258leglin(2018) 7-804
Научно-техническая революция в XXI веке приобрела новые очертания в сфере цифровых технологий. В сфере программирования одним из достижений стали разработки в сфере искусственного интеллекта и робототехники. При серьезном потенциале в использовании искусственного интеллекта в различных областях жизнедеятельности остаются слабо изученными этические и правовые аспекты использования искусственного интеллекта. Без преувеличения можно утверждать, что правовые системы на текущий момент безнадежно отстали от развития технологии искусственного интеллекта. Более того, реальное применение искусственного интеллекта практически не обеспечено должной международно-правовой и национальной нормативной основой. Вопросы использования «умных роботов» лишь спорадически регулируются в отдельных государствах мира - Германии, Южной Корее, Франции. В ЕС принята резолюция «Нормы гражданского права о роботехнике» от 16.02.2017 г. Единственным исключением в России выступает так называемый «закон Гришина» - проект федерального закона «О роботехнике», разработанный юридической фирмой Dentons. В план работы Государственной Думы Российской Федерации на 2018 год включено рассмотрение вопроса о разработке проекта закона о роботехнике. Фактически термин «искусственный интеллект» встречается лишь в трех нормативных правовых актах стратегического характера в сфере развития цифровой экономики. Что
симптоматично, в одном из этих документов в число задач на 2019 год входит решение вопросов правового регулирования при использовании роботехники и искусственного интеллекта. При этом искусственный интеллект уже активно внедряется в различные сферы жизнедеятельности человека: беспилотные летательные аппараты, беспилотный наземный транспорт, нейронные сети для работы в сфере бухучета, прогнозирования диагноза больных, выполнение целого ряда юридических услуг (составление договоров, исков и прочих документов).
Среди юридических аспектов использования искусственного интеллекта можно назвать следующие:
Во-первых, отсутствует четкая юридическая дефиниция искусственного интеллекта, что сдерживает решение иных юридических вопросов: правосубъектность искусственного интеллекта, ответственность за вред, причиненный при использовании искусственного интеллекта, технические регламенты работы искусственного интеллекта. Для должного определения можно бы было опереться на понимание искусственного интеллекта в специальных науках.
При этом само словосочетание «искусственный интеллект» довольно часто встречается в правовых актах России стратегического характера в сфере развития цифровых технологий, но определений данного понятия в российском законодательстве нет до сих пор. Так, в программе «Цифровая экономика Российской Федерации», утвержденной распоряжением Правительства Российской Федерации от 28.07.2017 г., технология искусственного интеллекта обозначена как одна из приоритетных сквозных технологий для решения вопросов обработки больших данных, распознавания объектов и интеллектуального поиска.
Во-вторых, возникает вопрос о возможности признания за искусственным интеллектом качеств субъекта права [Архипов, Наумов 2017: 51]. Здесь возможно два варианта. В первом случае искусственный интеллект понимается всего лишь как техническое средство с правовым режимом вещи. Во втором
случае за ним признается статус электронного лица по аналогии с юридическим лицом через использование приема правовой фикции. Оба варианта не в полной мере адекватны. Квалификация искусственного интеллекта как объекта права не учитывает наличие некой субъектности - способности к мышлению и принятию самостоятельных решений. Во втором случае поднимается более глубокий вопрос мировоззренческого порядка: искусственный интеллект - это личность, подобная человеку. От решения данного вопроса зависит модель правового регулирования, начиная с возможности вступления в правоотношения и до возложения на такой интеллект юридической ответственности. При этом очевидно, что для приобретения искусственным интеллектом статуса субъекта права необходимо наличие у него такого качества, как воля. Искусственный интеллект волевой способностью не обладает. Поэтому наделение правосубъектностью искусственного интеллекта в любом случае будет фикцией.
Соответственно, третий аспект применения искусственного интеллекта поднимает проблему ответственности за вред, причиненный таким интеллектом. В юридической литературе обсуждаются различные модели возложения деликтной ответственности:
• на обладателя прав на устройство, снабженное искусственным интеллектом;
• на разработчика программного обеспечения;
• на оператора, обслуживающего искусственный интеллект.
Вполне вероятной является возможность применения к искусственному
интеллекту конструкции источника повышенности ответственности, при которой за вред, причиненный таким объектом, возмещение вреда наступает без учета вины собственника объекта.
Следует отметить, что искусственный интеллект ставит вопрос о судьбе самой юридической профессии. Искусственный интеллект вполне способен выполнять типичные юридические действия по заданному алгоритму: составление сделок, исковых заявлений и пр. Крупные компании в России, в
том числе Сбербанк, ВТБ, планируют широко использовать нейронные сети для выполнения такого рода работы. Естественно, в принципе заменить человека искусственный интеллект не может, поскольку не рассчитан на решение нестандартных ситуаций с учетом сугубо человеческих свойств - совесть, справедливость, милосердие и пр. Хотя ведущие разработчики в сфере искусственного интеллекта серьезно заявляют о том, что загруженные базы данных (законодательство, судебная практика, доктринальные источники) для нейронных сетей позволят искусственному интеллекту сформулировать и применить принципы права. Основываясь на результатах эксперимента по анализу решений ЕСПЧ искусственным интеллектом, американские исследователи полагают, что он способен предсказывать решения судов. В 79% случаев искусственный интеллект смог предсказать решение ЕСПЧ на основе изучения материалов дела [Aletras, URL]. В России ряд крупных корпораций тестирует нейронные сети на предмет выполнения искусственным интеллектом тех же видов работы, что и профессиональные юристы. В рамках Петербургского юридического форума 2018 года состоялось состязание нейронной сети и юриста-практика.
Таким образом, краткий обзор сфер и вопросов, связанных с применением искусственного интеллекта, ставит вопрос о приоритетном разрешении проблемы определения понятия «искусственный интеллект» и его фиксации в правовых текстах. При этом следует обратить внимание на ряд осложнений в решении данного вопроса:
• в науке отсутствует общепринятое определение базового термина «естественный (человеческий) интеллект», который воспринимается как ведущее свойство человеческой природы. При этом интеллект зачастую связывают с таким свойством как мышление;
• в специальной литературе нет единства в понимании искусственного интеллекта, и наряду с этим термином используют понятия «машинное обучение», «нейронный сети» и т.п.
Следует отметить, что ученые различают два термина - «слабый искусственный интеллект» и «сильный искусственный интеллект». Слабый искусственный интеллект понимается как умная машина для решения частных задач (например, разработка сценариев для кинофильмов), тогда как сильный искусственный интеллект используется для решения широкого спектра задач [Морхат 2017: 43-44].
В многообразии определений искусственного интеллекта можно выделить следующие основные направления:
• искусственный интеллект как система, которая действует подобно человеку с аналогичными когнитивными способностями;
• искусственный интеллект как система (устройство), обладающая хотя бы одним из свойств человеческого разума;
• искусственный интеллект как сверхразум, как система, превосходящая интеллектуальные способности человека [Бостром 2016: 56];
• искусственный интеллект как научное направление, изучающее возможность использования систем (устройств) для моделирования человеческого мышления (машинное обучение).
Интересное определение предлагают А. В. Понкин и А. И. Редькина: «искусственный интеллект - это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе -виртуальная, электронно-механическая, био-электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия». Эта кибернетическая система обладает рядом свойств: субстантивость (субъектность и способность совершенствоваться); высокоуровневая способность воспринимать информацию, принимать решения и их исполнять, анализировать собственный опыт; способность адаптироваться к внешней среде, выполнять когнитивные
функции (творческие, аналитические), способность к самосознанию [Понкин, Редькина 2018: 94-95].
Близкого определения придерживается П. М. Морхат: «искусственный интеллект - это полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе био-кибернетическая (bio-cybernetic), система (юнит), наделенная/обладающая способностями и возможностями:
антропоморфно-разумных мыслительных и когнитивных действий, таких, как распознавание образов, символьных систем и языков, рефлексия, рассуждение, моделирование, образное (смыслопорождающие и смысловоспринимающее) мышление, анализ и оценка;
• самореферентности, саморегулирования, самоадаптирования под изменяющиеся условия, самоограничения;
• самоподдержания себя в гомеостазе;
• генетического поиска (genetic algorithm - эвристический алгоритм поиска, с сохранением важных аспектов «родительской информации» для «последующих поколений» информации), накопления информации и опыта;
• обучения и самообучения (в том числе - на своих ошибках и своем опыте); самостоятельной разработки и самостоятельного применения алгоритмов самоомологации;
• самостоятельной разработки тестов под собственное тестирование, самостоятельного проведения самотестирований и тестирований компьютерной и, при возможности, физической реальности;
• антропоморфно-разумного самостоятельного (в том числе творческого) принятия решений и решения задач и проблем [Морхат 2017: 69].
В законодательстве ряда зарубежных стран предприняты попытки определения термина «искусственный интеллект». Так, в резолюции
42
Европарламента «нормы гражданского права о робототехнике» от 17 февраля 2017 г. отмечается необходимость выработки общих понятий таких терминов, как «киберфизические системы», «умные автономные роботы» с учетом следующих признаков:
1) способность быть автономными и обмениваться данными;
2) способность к обучению на основе приобретенного опыта;
3) наличие минимальной физической поддержки;
4) способность адаптации к внешней среде;
5) отсутствие жизни.
В Южной Корее еще в 2008 году был принят закон «О содействии развитию и распространению умных роботов». В законе предлагается следующее определение умного робота: механическое устройство, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует, и целенаправленно передвигаться самостоятельно.
Анализ существующих подходов к понятию «искусственный интеллект» позволяет выделить следующие признаки:
• наличие технического устройства (киберфизической системы), способного воспринимать информацию и передавать ее;
• определенная степень автономной работы без человеческого участия (субъектность) при отсутствии жизни такой системы;
• способность к анализу, обобщению информации, выработке интеллектуальных решений на основе изученных данных (мышление), самосознанию;
• способность к обучению, самостоятельному поиску информации и принятию на основе этой информации решений.
ЛИТЕРАТУРА
1. Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике. Труды СПИИРАН. 2017. № 6.
2. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М., 2016.
3. Морхат П. М. Искусственный интеллект. Правовой взгляд. М., 2017.
4. Понкин А. В., Редькина А. И. Искусственный интеллект с точки зрения права. Вестник РУДН. Серия: Юридические науки. 2018. С. 91-109.
5. Aletras N., Tsarapatsanis D., Preotiuc-Pietro D., Lampos V. Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing Perspective. Peer J Computer Science. URL: https://peerj.com/articles/cs-93/
REFERENCES
1. Arkhipov V. V. Naumov V. B. Artificial intelligence and autonomous devices in the context of the law: on the development of the first Russian law on robotics [Iskusstvennyy intellekt i avtonomnyye ustroystva v kontekste prava: o razrabotke pervogo v Rossii zakona o robototekhnike]. Proceedings of SPIIRAN. 2017. № 6.
2. Bostrom N. Artificial intelligence. Stages. Threats. Strategies [Iskusstvennyy intellekt. Etapy. Ugrozy. Strategii]. Moscow, 2016.
3. Morkhat P. M. Artificial intelligence. Legal view [Iskusstvennyy intellekt. Pravovoy vzglyad]. Moscow, 2017.
4. Ponkin A. V., Redkina A. I. Artificial intelligence from the point of view of law [Iskusstvennyy intellekt s tochki zreniya prava]. . Vestnik RUDN. Series: Legal Sciences. 2018. Pp. 91-109.
5. Aletras N., Tsarapatsanis D., Preo^iuc-Pietro D., Lampos V. Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing Perspective. Peer J Computer Science. URL: https://peerj.com/articles/cs-93/
