CC BY
57
ПРАВОВОЙ СТАТУС И РАЗГРАНИЧЕНИЕ ОТВЕТСТВЕННОСТИ ПРИ
РАЗРАБОТКЕ И ИСПОЛЬЗОВАНИИ ИНСТРУМЕНТОВ ИСКУССТВЕННОГО
ИНТЕЛЛЕКТА
В.В. Берггольц, магистрант Волгоградский государственный университет (Россия, г. Волгоград)
DOI: 10.24411/2500-1000-2020-10742
Аннотация. Согласно названию, в данной статье рассмотрены проблемы посвящён-ные институту разработки и использования искусственного интеллекта. Его особенности и применение в гражданском праве. Раскрывается сущность и основные положения использования искусственного интеллекта. Показаны основные субъекты представительства в гражданских правоотношениях.
Ключевые слова: искусственный интеллект, электронное лицо, правовое регулирование автономных систем управления, уголовная ответственность разработчиков систем искусственного интеллекта.
С технической точки зрения искусственный интеллект представляет собой автоматическое программное управление, при котором алгоритмы создаются внутри системы самостоятельно на основе кодированных описаний различного вида целей, представлений о действиях и информационной базы о внешнем окружении. Операторы условно делят его на «узкий» и «широкий»: первый предназначенных для решения определенных видов задач, ко второму относят такие системы, которые имеют обобщенные когнитивные способности и не ограничены в сфере их применения.
Искусственный интеллект находится в стадии интенсивного развития. Это происходит благодаря разработке новых типов нейронных сетей и др. Неразрешенным остается вопрос правового регулирования данного явления, его основ и условий существования, его появление в иных системах. Причина - отставание теории права от научно-технического прогресса: отсутствие правовой регламентации в области взаимодействия человека и искусственного интеллекта, проблемы морали, безопасности, ответственности.
Законодателями некоторых государств предприняты определенные шаги к созданию соответствующих регуляций. Впервые о необходимости правового регулирования взаимоотношений между человеком
и искусственным интеллектом заговорили южнокорейские ученые [3, p. 144], а законодатели Южной Кореи стали первопроходцами в нормативном закреплении таких доктринальных положений («Корейское право развития искусственного интеллекта роботов» (2005), «Этический устав роботов» (2007) и «Правовое регулирование автономных систем в Южной Корее» (2012)). Они зафиксировали необходимость регулирования деятельности создателей программ для функционирования роботов, а также лиц, участвующих в их разработке и производстве, использовании и уничтожении. В США реализуется Дорожная карта развития робототехники (Roadmap for US Robotics, 2011, 2016) и Национальная робототехническая инициатива (National Robotics Initiative, 2011, 2016). В Японии разработаны и внедрены Руководящие принципы, направленные на обеспечение безопасности использования роботов нового поколения, «Японский план по оживлению экономики», «Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий» (New Robot Strategy. Japan's Robot Strategy. Vision, Strategy, Action Plan, 2015). В Китае принято Руководство о содействии производству промышленных роботов (Guidelines on Promoting the Development of Industrial Robots, 2014) и глобальная государственная программа развития «Сде-
лано в Китае - 2025» (Made in China 2025, 2015). Европейским парламентом была принята резолюция № 2015/2103(INL) «Нормы гражданского права о робототехнике» (Civil Law Rules on Robotics, 2015), в основе которых подготовленный в 2014 году доклад «Регулирование робототехники: вызов Европе», ставший частью большого исследования «Перспективы европейского права». В Эстонии принят закон о роботах-курьерах (2017), в Германии -закон об использовании высокоавтоматизированных автомобилей (2017). В нашей стране успешно реализуется государственная программа «Цифровая экономика Российской Федерации», а также Стратегия развития информационного общества в Российской Федерации на 2017-2030 годы.
Но ни в одном официальном документе нормативного определения понятия «искусственный интеллект» не содержится, однако сам термин активно используется. Такое положение обусловлено отсутствием единого правового подхода к установлению его сущностных характеристик. Создатели European Civil Law Rules on Robotics полагают, что нельзя дать точную дефиницию искусственного интеллекта, что связано с наличием различных видов роботов. В связи с этим к изучению последних нужно подходить, рассматривая каждую роботизированную систему в отдельности.
Остроту проблеме придают и споры о возможности признания/непризнания искусственного интеллекта личностью. Ряд исследователей считают: если прогресс электронных систем пойдет по предсказываемому пути развития, то технику можно будет охарактеризовать как мыслящего человекоподобного робота, что неминуемо повлечет изменение законов, для того чтобы охватить роль подобных систем в обществе. Они полагают, что правовой статус электронной системы с элементами искусственного интеллекта и совершенного автономного юнита не может быть одинаковым. Последнего, по их мнению, можно без лишних колебаний признать полноценным киберсубъектом общества, но с той оговоркой, что подобный статус будет иметь различные по спектру прав и
ответственности варианты, поскольку поставить в один ряд банкомат, систему «умный дом» и боевого робота не представляется возможным. Из этого делается вывод, что системы с искусственным интеллектом должны обладать определенным правовым статусом, который будет зависеть от функционала и иных особенностей конкретной системы [6, p. 383].
Глава совета директоров российской компании Mail.ru и основатель компании Grishin Robotics Д. Гришин в 2016 году представил общественности концепцию закона о робототехнике, правовое положение искусственного интеллекта в которой сходно с правовым положением животных. Он считает, что роботы не могут быть субъектами права ввиду отсутствия эмоций, однако они способны осуществлять автономные действия, как те же животные, и поэтому должны быть юридическими объектами и могут быть наделены правосубъектностью. Кроме того, по его мнению, принципиально необходимым является установление ответственности разработчиков робототехники, которая может причинить ущерб людям, а также создание единого международного реестра роботов [7]. При этом полагаем, что следует разрабатывать доктринальные и правовые основы всех видов ответственности таких разработчиков, включая уголовную.
Чтобы обнаружить предпосылки к наделению искусственного интеллекта правосубъектностью, ряд исследователей обращается к «Чистому учению о праве» Г. Кельзена, по которому субъект права выступает как индивидуализированное единство совокупности правовых норм, устанавливающих юридические обязанности и субъективные права, имеющие своим содержанием определенное поведение. Субъект права - не природная реальность, а конструкция, создаваемая для описания юридически значимых фактических составов [8, с. 212-219]. В связи с этим появилось понятие «электронное лицо» для дальнейшего рассмотрения его как субъекта права. Такой подход дает нам возможность определять «электронное лицо» как носителя искусственного интеллекта, обладающего разумом, аналогичным челове-
ческому, способностью принимать осознанные и не основанные на заложенном создателем такой машины, робота, программы алгоритме решения и в силу этого наделенного определенными правами и обязанностями [9].
Такой подход подтверждает желание части общества рассматривать «электронное лицо» как реально действующее [10]. Но возникает вопрос: на ком будет лежать ответственность за неисполнение данной обязанности?
Нельзя не отметить, что американским профессором Л. Соулумом уже были сформулированы тезисы, доказывающие правовую необоснованность признания того, что искусственный интеллект обладает статусом личности [12, р. 1257]. Он полагает, что электронные системы, и даже системы с полным искусственным интеллектом, не могут рассматриваться в качестве аналогичных или тождественных людям сущностей. А также как пример приводит 14-ю поправку к Конституции США, согласно которой все личности, рожденные или натурализованные в Соединенных Штатах, будучи субъектами юрисдикции таковых, являются гражданами Соединенных Штатов. Соответственно, только люди могут рождаться, следовательно, искусственный интеллект не может обладать правами граждан.
Я полностью согласна с таким мнением, поскольку полагаю, что искусственный интеллект не является носителем важных составляющих личности. Он лишен души, полностью свободного сознания, чувств и личных интересов [13]. При всем своем развитии, искусственный интеллект остается программой с привязанным к ней материально- техническим обеспечением.
В России соответствующую задачу решили в 2006 году с принятием федерального закона о персональных данных. Спустя десятилетие в Евросоюзе также приняли Общий регламент по защите (персональных) данных (GDPR). Однако до настоящего времени ни право ЕС, ни российское законодательство не регламентировали запрет на разглашение и передачу персональной и конфиденциальной информации системами, использующими ис-
кусственный интеллект, без явного одобрения источником этой информации. Техника, управляемая искусственным интеллектом, стала обучаемой, она способна действовать самостоятельно и сам искусственный интеллект разительно отличается от существующих ординарных компьютерных программ способностью самообучения на основе полученного им опыта. Если говорить об ответственности искусственного интеллекта, то в настоящее время вопрос о его гипотетической ответственности, полагаю, носит тупиковый характер: меры юридической ответственности просто неприменимы к нему.
Новые технологии не всегда требуют формирования особых или новых правил. Существующие правовые понятия достаточно гибки и абстрактны, чтобы адаптироваться к новым условиям. Последствия применения некоторых технологических достижений, связанные с автономно действующими устройствами, бывают настолько разрушительны, что действующие правовые рамки уже с трудом могут охватить их.
Факт существования техники, управляемой искусственным интеллектом и обладающей способностью определенного рода воздействия на окружающий материальный мир, является очевидным. Искусственный интеллект реально овеществлен и наделен способностью анализировать и составлять поведенческий алгоритм, соответственно, нуждается в правовой регламентации.
Особые возможности искусственного интеллекта в области анализа больших объемов данных и прогнозирования различных процессов, отсутствие правового регулирования их использования создают серьезную проблему мирового масштаба, суть которой заключается в формирующихся вызовах, в том числе в отношении прозрачности, конфиденциальности, равенства и подотчетности, которой уже приходится противостоять человечеству.
Соответственно перед нами появляются новые задачи: сформулировать подходы к будущей концепции правового регулирования искусственного интеллекта; определить рамки его правосубъектности и веро-
ятность ответственности; предложить на- никационных, безопасности и др.; форми-правления их развития как в националь- рования связей между новыми механизма-ном, так и в международном праве; иссле- ми правового обеспечения искусственного довать юридически значимые проблемы, интеллекта; допустимость и пределы при-возникшие в связи с новыми разработками менения современных норм права об от-искусственного интеллекта, а также свя- ветственности (административной, граж-занные с использованием уже сущест- данко-правовой, уголовной) в отношении вующих автономных интеллектуальных разработчиков систем искусственного ин-систем, в том числе транспортных, комму- теллекта, их операторов и других лиц.
Библиографический список
1. Косс В.А. Модель естественного интеллекта и пути реализации задач искусственного интеллекта // Математические машины и системы. - 2006. - №4. - С. 21-35.
2. Абдикеев Н.М. Технологии когнитивного менеджмента в цифровой экономике // Мир новой экономики. - 2017. - № 3. - C. 24-28.
3. Kim Yoon-mi. Korea drafts «Robot Ethics Charter» // The Korea Herald. - 2007. - Apr., 28. - [Electronic Resource] - Mode of access: https://link.galegroup.com/apps/doc/A166092392/AONE?u=googlescholar&sid=AON E&xid=340db03e.
4. Hintze A. Understanding the Four Types of AI, from Reactive Robots to Self-aware Beings. - [Electronic Resource]. - Mode of access: https:// theconversation.com/understanding-the-four-types-of-ai-from-reactive-robots-to-self-aware-beings-67616.
5. Pandolfini B. Kasparov and Deep Blue: The Historic Chess Match Between Man and Machine. — New York : Simon & Schuster, 1997. - 176 p.
6. Cerka P. Liability for Damages Caused by Artificial Intelligence / P. Cerka, J. Grigiene, G. Sirbikyte // Computer Law & Security Review. - 2015. - Vol. 31, Iss. 3. - P. 376-389.
7. Гришин Д. Закон о робототехнике / Д. Гришин; интервьюер А. Плющеев. - [Электронный ресурс]. - Режим доступа: https://echo.msk.ru/ programs/tochka/1893198-echo.
8. Кельзен Г. Чистое учение о праве. - 2-е изд. - СПб.: Алеф-Пресс, 2015. - 542 с.
9. Баранов П.П. Правовое регулирование робототехники и искусственного интеллекта в России: некоторые подходы к решению проблемы // Северо-Кавказский юридический вестник. - 2018. - № 1. - С. 39-45.
10. González M. Regulacion Legalde la Robotica y la Inteledencia Artificial: Retos de Futuro // Revista Jurídica de la Universidad de León. - 2017. - № 4. - P. 25-50.
11. Musk E. We need to Regulate AI before 'it's too Late'. - [Electronic Resources]. - Mode of access: http://thehill. com/policy/technology/342345-elon-musk-we-need-to-regulate-ai-before-its-too-late.
12. Solum L.B. Legal Personhood for Artificial Intelligences / L.B. Solum // North Carolina Law Review. - 1992. - Vol. 70, № 4. - P. 1231-1287.
13. Philosophical View of Multiculturalism in Modern European Cinematography / Yu.V. Nikolaeva [et al.] // European Journal of Science and Theology. - 2018. - № 14 (6). -P. 205-214.
14. Full Packaged Learning Solutions for Studying Mathematics at School / V.V. Utemov [et al.] // Eurasia Journal of Mathematics, Science and Technology Education. - 2018. - № 14 (12). - P. 1619.
15. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence / J. McCarthy [et al.] // AI Magazine. - 2006. - Vol. 27, № 4. - Р. 12-14.
16. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. - М.: Манн, Иванов и Фербер, 2016. — 760 с.
17. Робототехника. Терминология / отв. ред. Е.П. Попов. - М., 2000. - 49 с.
18. Понкин И.В. Искусственный интеллект с точки зрения права / И.В. Понкин, А.И. Редькина // Вестник РУДН. Сер.: Юридические науки. - 2018. - Т. 22, № 1. - С. 91109.
LEGAL STATUS AND LIMITATION OF RESPONSIBILITY FOR THE DEVELOPMENT AND USE OF ARTIFICIAL INTELLIGENCE TOOLS
V.V. Berggolz, Graduate Student Volgograd State University (Russia, Volgograd)
Abstract. According to the title, this article discusses the problems of the Institute for the development and use of artificial intelligence. Its features and application in civil law. The essence and main provisions of the use of artificial intelligence are revealed. The main subjects of representation in civil legal relations are shown.
Keywords: artificial intelligence, electronic person, legal regulation of autonomous control systems, criminal liability of developers of artificial intelligence systems.
