CC BY
68Информационное право
О ПОТЕНЦИАЛЬНОМ ПРАВОСПОБНОСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
ЩИТОВА Анастасия Андреевна,
аспирант ФГБОУ
ВО «Московский государственный юридический университет имени О.Е. Кутафина (МГЮА)». E-mail: anastasia.shchitova@gmail.com
Краткая аннотация: Искусственный интеллект строится как модель человеческого мозга, а он сам будет искусственным «человеком», способным к самосознанию, принятию решений и аналитическому мышлению, поэтому не стоит расценивать его как объект права. В статье рассматривается понятие правоспособности, а также возможность и способы его применения к искусственному интеллекту. Автор дает понятие «искусственного интеллекта», технический и философский подходы к пониманию термина. Установлены моменты возникновения и прекращения правоспособности систем искусственного интеллекта.
Abstract: Artificial intelligence is built as a model of the human brain, and it will be an artificial"person" capable of self-consciousness, decision-making and analytical thinking, thus, artificial intelligence shall not be regarded as an object of law. The article deals with the concept of legal capacity as one of the key elements of legal personality, as well as the possibility and ways of its application to artificial intelligence. The author gives the concept of "artificial intelligence", technical and philosophical approaches to understanding the term. Moments of occurrence and termination of legal capacity of systems of artificial intelligence are established.
Ключевые слова: искусственный интеллект; статус искусственного интеллекта; правосубъектность; правоспособность; возникновение правоспособности; прекращение правоспособности; правовое регулирование искусственного интеллекта.
Keywords: artificial intelligence; status of artificial intelligence; legal personality; legal capacity; occurrence of legal capacity; termination of legal capacity; legal regulation of artificial intelligence.
2. Понятие правосубъектности (и правоспобности, в частности)
1. Вступление
Современное развитие науки показывает, что изыскания писателей-фантастов прошлого уже не кажутся чем-то невозможным. С высокой долей вероятности уже в наше столетие и искусственный интеллект станет обыденностью. Хотя на данный момент создать полностью самостоятельно мыслящую разумную программу пока не удалось, уже вполне успешно действуют прототипы будущего искусственного интеллекта (далее - «ИИ») - искусственные нейронные сети.
Учитывая роль робототехники и способности таких автономных программ, стоит заранее задуматься о возможных способах правового регулирования статуса техники и взаимодействия с ней. И в первую очередь поднять вопрос о потенциальной правосубъектности систем искусственного интеллекта, ведь именно этот комплексный институт позволит признать (или не признать) ИИ субъектами права. Для того, чтобы рассуждать об этом, в первую очередь нужно определить две составляющие: понятие правосубъектности и самого искусственного интеллекта.
Автор обращает внимание на то, что, несмотря на существующее мнение, утверждающее, что ИИ стоит воспринимать и регулировать как объект прав, а не самостоятельный субъект права, сам автор такой позиции не придерживается. В настоящей работе будет изложена позиция признания за искусственным интеллектом именно правосубъектности. Такой позиции логически придерживаются и некоторые философы [3].
Говоря о ранее упомянутом понятии, стоит отметить, что правосубъектность, как закреплено в международных актах по правам человека, — это неотъемлемый элемент правового статуса личности; это закреплено в основных конвенциях: Всеобщей декларации прав человека (принята на третьей сессии Генеральной Ассамблеи ООН резолюцией 217 А (III) от 10 декабря 1948 г.), статья 6; Международном пакте о гражданских и политических правах (принят резолюцией 2200 А (XXI) Генеральной Ассамблеи от 16 декабря 1966 г.), статья 16; и так далее. Согласно отечественной общей теории права правосубъектность состоит из трех основных компонентов: правоспособности, дееспособности и де-ликтоспособности [8, с. 460]. В рамках настоящей темы вопросы дееспособности и ответственности из-за их обширности автор не будет поднимать, поэтому остановится исключительно на правоспособности.
Правоспособность по-разному понимается в континентальной и англо-саксонской правовых семьях, хотя они обе сходятся на мнении, что правоспособность является ключевым аспектом правового статуса. В континентальной системе, как писал еще Ганс Кель-зен, правоспособность — это способность индивида обладать правами и юридическими обязанностями, быть субъектом обязанностей и прав [2, с. 200]. В настоящее время уже не ставится вопрос об отсутствии у индивида правоспособности, поскольку такой катего-
рии людей, как, например, рабы, больше не существует. Современная юридическая наука и практика спорит лишь о моменте возникновения и прекращения правоспособности физических лиц. К данному вопросу в разных юрисдикциях подходят по-разному: где-то считается моментом начала жизни индивида (и, следовательно, моментом возникновения правоспособности) факт зачатия, зарождения эмбриона (например, в Венгрии), где-то - момент рождения (например, Российская Федерация, Япония, Федеративная Республика Германия) [5]. Прекращается же правоспособность с момента наступления юридического факта, констатирующего завершение жизни (либо непосредственно физическая смерть индивида, либо юридическая фикция признания умершим).
Правоспособность юридических лиц (объединений людей) возникает с момента государственной регистрации такого объединения и завершается фактом ее ликвидации в установленном законом порядке (опять-таки в романо-германской семье).
В англо-саксонской правовой семье используется термин «правовая способность» («legal capacity»), который включает в себя и правоспособность, и дееспособность в нашем понимании. Некоторые ученые [7] (а также судебная практика английских судов) отмечают существование «пассивной правовой способности» и «активной правовой способности»; первая как раз и есть правоспособность в континентальной системе.
Пассивная правовая способность (правоспособность) - способность физического лица быть носителем гражданских прав и обязанностей, допускаемых законодательством. Английскими судами был выработан принцип равной для всех пассивной правовой способности. Таким образом, физические лица с момента рождения до момента смерти обладают равной пассивной правовой способностью. Стоит отметить, что в Ирландии установлен запрет на аборты, более того, Восьмой поправкой установлено, что нерожденный ребенок имеет право на жизнь с момента зачатия. Тем не менее, речь идет скорее не о пассивной правоспобно-сти в чистом виде, а о праве на жизнь исключительно. Это подтверждает и формулировка закона, устанавливающего уголовную ответственность за аборт.
В отношении юридических лиц в англосаксонской правовой семье выработано правило инкорпорации: компания считается существующей с момента внесения записи в регистрационной палате [7].
Стоит отметить, что вопрос о правоспособности не всегда являлся таким однозначным. Классиче-
ское для зарубежной юридической науки обсуждение концепции правосубъектности можно найти у Джона Чипмэна Грэя «Природа и источники права» [12]. В частности, Грэй напоминает, что неодушевленные вещи в разное время обладали юридическими правами. Храмы в Риме и церковные строения в Средние века расценивались как носители юридических прав. Более того, в древнегреческом и общем праве объекты были субъектами юридических обязанностей [12, с. 46]. В морском (адмиралтейском) праве, сам по себе корабль становится субъектом в процессе по имущественному иску и может быть признан «виновным» [12, с. 48-49]. Кроме того, известно дело двадцатого века в Индии, в котором в апелляционном суде назначили адвоката семейному идолу для представления его интересов по делу о том, что должен быть его опекуном. Более известными примерами субъектов права, не являющихся физическими лицами, можно назвать корпорации и правительственные организации.
Приведенные выше примеры и рассуждения Дж. Грэя, среди прочего, важны для понимания идеи о том, что может расцениваться как субъект права. В чем смысл признавать вещь - которая никогда не сможет ни понять право, ни действовать в его рамках - субъектом юридических прав и обязанностей [12, с. 48-49]? Более того, Грэй настаивал, что даже корпорации сводятся к отношениям между лицами, которые владеют долями в них, управляют ими и так далее [12, с. 50-51]. Поэтому и утверждал, что субъекты права -фикции, разве что организация не обладает «интеллектом» и «волей». Именно эти два аспекта в зарубежной (в большей степени - англо-саксонской) юридической науке и стали основными критериями признания кого-либо (или чего-либо) субъектами права.
3. Что такое ИИ
О самом понятии искусственного интеллекта следует отметить следующее.
Термин «искусственный интеллект» (ИИ, Artificial Intelligence, AI) был предложен Джоном Маккарти в 1956 г. для обозначения в то время области знаний, связанной с выявлением, исследованием и построением средств, приведенных в поведенческом тесте интеллектуальности А. Тьюринга [18]. По мнению ученого, если искусственной системе удается пройти данный тест, то ее можно считать искусственным интеллектом.
Современная теория искусственного интеллекта (область знаний, рассматривающая создание искусственных интеллектуальных систем) строится на нескольких аксиомах, среди которых - (1) в основе
лежит аналогия с нервной системой человека; и (2) основная функциональная единица системы - искусственный нейрон [11].
Таким образом, искусственный интеллект разрабатывается как своеобразный аналог человеческого разума, который при идеальном раскладе будет способен к полноценному самостоятельному мышлению, принятию решений и их реализации, исходя из оценки окружающих факторов (и в меру своих физических особенностей). В философии в отношении искусственного интеллекта существуют два основных подхода: сильный и слабый. В первом случае, основным идеологом которого является Дж. Серл, искусственный интеллект воспринимается исключительно как программа, работающая по заданным алгоритмам [9]. Его мыслительный эксперимент получил название «китайская комната» [6]. Во втором случае (его основным автором считается Д. Даннет) признается, во-первых, сам факт возможности создания такого искусственного интеллекта, который сможет не только мыслить, но и понимать и переживать, а во-вторых, способность такой системы быть осознанной (то есть, искусственное сознание возможно) [4].
Учитывая тот факт, что разработки искусственного интеллекта в настоящее время находятся если уже и не на начальных стадиях, все еще не увенчались успехом, стоит принимать во внимание и философские доктрины об ИИ.
Отдельно автор хочет отметить, что в науке существует два вида искусственного интеллекта -«сильный» и «слабый», что, как отмечают Даниэль Кастро и Джошуа Нью, также сказывается на существовании разногласий в трактовке термина [13].
«Слабый» искусственный интеллект, считается, способен выполнять определённые виды задач и ими же ограничен. «Сильный» же искусственный интеллект (называемый ещё «общим искусственный интеллектом») представляет собой реальный или гипотетический тип названной технологии, который может достичь или превысить уровень человеческого интеллекта и применять свои способности решения задач к любым проблемам, подобно человеческому мозгу. В настоящей статье автор рассуждает именно о сильном искусственном интеллекте.
Стоит обратить внимание, что единства в понятийно-категориальном аппарате в настоящей сфере исследований не сложилось, хотя и имеющиеся определения термина «искусственный интеллект» содержательно мало чем отличаются друг от друга (при
этом сформулированы таким образом, что фактически лишь перечисляют признаки и/или свойства ИИ).
У автора есть собственный подход к определению термина «искусственный интеллект». Искусственный интеллект - это программа, обладающая таким уровнем интеллектуальности, что способна осознать себя, и способная к самостоятельному принятию решений.
С понятием ИИ тесно связаны термины «компиляция» («компилировать»), «итерация» и «эпоха», которыми автор в дальнейшем будет оперировать; их следует определить.
Компилировать — проводить трансляцию машинной программы с предметно-ориентированного языка на машинно-ориентированный язык.
Итерация в программировании — организация обработки данных, при которой действия повторяются многократно, не приводя при этом к вызовам самих себя.
Эпоха — одна итерация в процессе обучения, включающая предъявление всех примеров из обучающего множества и, возможно, проверку качества обучения на контрольном множестве.
4. Можно ли говорить о правоспособности ИИ и в каком объеме
Количество сфер деятельности искусственного интеллекта увеличивается от года к году, поэтому и стоит уже сейчас заговорить о правоспособности разумных программ.
Представление о том, что регулировать искусственный интеллект необходимо в качестве объекта права, возникло в первую очередь. Логически это оправданно, поскольку искусственный интеллект - это программа или программное обеспечение в той или иной мере. Программы для ЭВМ исторически получили регулирование как объекты прав, в частности - права интеллектуальной собственности на них. Представляя искусственный интеллект именно в таком виде, гораздо проще разрешать вопросы собственности на результаты его деятельности и ответственности за его действия.
В отечественной юридической доктрине до последнего времени (в данном случае «до последнего» следует понимать практически буквально: мы не найдем публикаций до 2016-2017 гг.) вопрос о правовом положении робота не обсуждался. Или, точнее, такого предмета обсуждения просто не существовало. Право рассматривало робота исключительно как «оборудование» [1, а 217]. Такой подход однозначно относил все технические устройства и программное обеспечение, на котором они работают, исключитель-
но к объектам права. Юридическая наука и вовсе никак не высказывалась по данному вопросу.
Иначе обстоят дела в зарубежной науке. Там дискуссия ведется начиная с 1992 года, с работ Л. Со-лума [16] и Л. Уэйна [19], и больше склоняется к той позиции, которой придерживается и автор настоящей статьи. Часть авторов, подобно Г. Дворски, полагают, что, когда развитие машин достигнет определенного уровня, уже не будет веских причин отказывать роботам в правах, поскольку это было бы «равносильно дискриминации и рабству». В обосновании, наряду с технологическими аспектами, прослеживается морально-этическая сторона, в некоторых работах она и вовсе превалирует. В научной литературе можно встретить и обобщенное представление о возможных специальных правах робота, например: не быть отключенным (против его «воли»), право на полный и беспрепятственный доступ к своему коду, право не подвергаться экспериментам, право на создание своей копии, право на неприкосновенность «частной жизни» [15].
Автор снова отмечает, что, по его мнению, не следует рассматривать искусственный интеллект как объект права. Наличие у такого программного обеспечения способности к аналитическому мышлению, принятию самостоятельных решений и самосознания не позволяет его считать объектом права.
По той же самой причине, по которой ИИ не объект, основы подхода к правоспособности (и правосубъектности в целом) стоит брать у регулирования физических лиц, а не юридических (как предлагает, например, Дмитрий Гришин, основатель Grishin Robotics и соучредитель Mail.ru Group в своем проекте Федерального закона о внесении поправок в Гражданский кодекс Российской Федерации [21], или как рассматривается в Резолюции Парламента Европейского Союза по предложению одного из парламентариев [22]).
Особый вид ИИ позволяет говорить о новой субъектности, не физических и не юридических лицах. В английском языке для деления нынешних субъектов на группы есть два термина: natural persons и entities (по факту, индивидуальный и коллективный субъект). ИИ сложно отнести что к первым, что ко вторым, поэтому автор позволяет себе громкое высказывание о новом виде субъектов (о наименовании автор пока что затрудняется говорить, поскольку в данный момент сложно определить состав новой группы).
Правоспособность физического лица (тем не менее, возьмем ее за основу) отличается от одной правовой системы к другой, как уже отмечалось ра-
нее. В случае с искусственным интеллектом вряд ли приходится говорить об условном «зачатии» программы, поэтому предлагается устанавливать возникновение правоспособности с момента запуска ИИ. При этом, учитывая особенности искусственных нейронных сетей и их потребность к предварительному обучению полной собственной дееспособностью они с этого же момента, в отличие от юридических лиц, также не могли бы обладать. В связи с недостатком эмпирических основ и теоретических технических разработок в настоящий момент времени сложно утверждать, через какое количество итераций и эпох можно говорить о том, что ИИ уже достаточно разумна, что способна максимально самостоятельно распоряжаться своими действиями и отвечать за их последствия. Так или иначе, личность ИИ отделима от личности программиста и(или) команды разработчиков, в отличие от той же искусственной нейронной сети.
Таким образом, автор предлагает считать моментом возникновения правоспособности искусственного интеллекта факт запуска полностью скомпилированной программы (то есть, исключается правоспособность прототипов и недоработанных версий). Кроме того, представляется разумным, по аналогии с правоспособностью физического лица в Италии (ребенок обладает правоспособностью, только если прожил 24 часа отдельно от утроба матери) связывать возникновении правоспособности ИИ с успешным прохождением одной эпохи. Так можно утверждать об успешном запуске программы.
Сложнее обстоит вопрос с моментом прекращения правоспособности ИИ. Будет ли считаться таким юридическим фактом отключение программы посредством, например, разрабатываемой сейчас учеными так называемой «красной кнопки»? Автор предполагает, что такое экстренное воздействие на разумную программу можно скорее считать аналогом необходимой обороны (если существовала угроза), в противном случае - нарушением прав ИИ.
Иными словами, только условная «естественная смерть» компьютера может считаться фактом прекращения правоспособности. Под таковой можно считать физическое устранение hardware (компьютера-носителя кода) без возможности восстановления и/или переноса данных.
5. Заключение
Подводя итог, автор отмечает следующее. В настоящее время приходится лишь рассуждать о потенциальной правоспособности искусственного интел-
лекта, но уже сейчас можно закрепить основные тенденции и понятия.
Автор дает следующее основополагающее понятие. Искусственный интеллект - это программа, обладающая таким уровнем интеллектуальности, что способна осознать себя, и способная к самостоятельному принятию решений.
ного интеллекта должна быть похожа на правосубъектность физических лиц (с некоторыми логически допустимыми и необходимыми изменениями). Однако автор отмечает, что такое регулирование должно быть по аналогии с физическими лицами, но все равно им: это особый субъект со своим отличным статусом.
Поскольку аксиомами современной теории ИИ являются аналогии с человеческими мозгом и нейронами головного мозга, правосубъектность искусствен-
Правоспособность - один из неотъемлемых элементов правосубъектности, то есть говоря о таковой в отношении ИИ, автор указывает на искусственный интеллект как субъект права, а не объект.
Правоспособность ИИ, исходя из вышеуказанного, возникает с момента успешного прохождения одной эпохи полностью скомпилированной программы. Моментом прекращения правоспособности искусственного интеллекта автор считает факт физического устранение (уничтожения) hardware (компьютера-носителя кода) без возможности восстановления и/или переноса данных.
Библиография:
1. Габов Андрей Владимирович, Хаванова Инна Александровна. ЭВОЛЮЦИЯ РОБОТОВ И ПРАВО XXI В // Вестн. Том. гос. ун-та. 2018. №435.
2. Ганс Кельзен Чистое учение о праве. 2-е изд / пер. с нем. М.В. Антонова и С.В. Лёзова. — СПб.: ООО Издательский Дом «Алеф-Пресс», 2015.
3. Дороганов В.С., Баумгартэн М.И. Возможные проблемы, возникающие при создании искусственного интеллекта // Вестник КузГТУ. 2013. №4 (98). - С. 132-135
4. Мигуренко Раиса Афанасьевна. Человеческие компетенции и искусственный интеллект // Известия ТПУ. 2010. №6. Доступно в сети «Интернет» по адресу: <http://cyberleninka.ru/article/n/chelovecheskie-kompetentsii-i-iskusstvennyy-intellekt >. Дата посещения: 13.06.2019.
5. Михайлова И.А. Возникновение и прекращение правоспособности физических лиц: новые аспекты // Российский судья. -М.: Юрист, 2004, № 10. - С. 20-24
6. Нечаев С. Ю. Китайская комната Дж. Р. Серля в контексте проблем философии искусственного интеллекта // Изв. Сарат. ун-та Нов. сер. Сер. Философия. Психология. Педагогика. 2010. №4. - С. 19-23.
7. Пятин С. Ю. Гражданское и торговое право зарубежных стран: Учебное пособие. 2-е изд. М.: Дашков и Ко, 2013. - 260 с.
8. Радько Т.Н. Проблемы теории государства и права: учебник. - Москва: Проспект, 2015. - С. 460
9. Сёрл Дж. Открывая сознание заново / Пер. с англ. А.Ф. Грязнова. - М.: Идея-Пресс, 2002. - 256 с.
10. Сырецкий Г. А., Радионов А. И. Искусственный интеллект и интеллектуальные информационные системы: современное состояние // Интерэкспо Гео-Сибирь. 2006. №. С.185-192
11. Ященко В. А. Теория искусственного интеллекта (основные положения) // Математичн машини i системи, 2011. №4. С. 3-19
12. Allgrove Ben, Legal Personality for Artificial Intellects: Pragmatic Solution or Science Fiction? (June 2004). Доступно в сети «Интернет» по адресу: <https://ssrn.com/abstract=926015>. Дата посещения: 13.06.2019.
13. Castro D., New J. The Promise of Artificial Intelligence / Center for data innovation // <http://www2.datainnovation.org/2016-promise-of-ai.pdf>. - 2016. - 44 p. (Дата посещения ссылки: 13.06.2019).
14. Gray J. C. The nature and sources of the law. - Macmillan, 1921. - Доступно в сети «Интернет» по адресу <http://www.onscene.ru/The-nature-and-sources-of-the-law-by-John-Chipman-Gray/2/chjfjc>. Дата посещения: 13.06.2019.
15. Dvorsky G. When the Turing Test is not enough: Towards a functionalist determination of consciousness and the advent of an authentic machine ethics. Доступно в сети «Интернет» по адресу: <http://www.sentientdevelopments.com/2012/03/when-turing-test-is-not-enough-towards.html>. Дата посещения: 13.06.2019.
16. Solum, L. (1992) Legal Personhood for Artificial Intelligences. North Carolina Law Review. April. Доступно в сети «Интернет» по адресу: <http://scholarship.law.unc.edu/cgi/viewcontent.cgi?article=3447&context=nclr>. Дата посещения: 13.06.2019.
17. Maia Alexandre Filipe, The Legal Status of Artificially Intelligent Robots: Personhood, Taxation and Control (June 1, 2017). Доступно в сети «Интернет» по адресу <https://ssrn.com/abstract=2985466>. Дата посещения: 13.06.2019.
18. Turing A. Computing machinery and intelligence. Mind, 1950, 59, pp.433-460.
19. Wein L. The Responsibility of Intelligent Artifacts: Toward an Automation Jurisprudence // Harvard Journal of Law & Technology. 1992. Vol. 6, Fall Issue. P. 103-154.
20. Zimmerman Evan, Machine Minds: Frontiers in Legal Personhood (February 12, 2015). Доступно в сети «Интернет» по адресу <https://ssrn.com/abstract=2563965>. Дата посещения: 13.06.2019.
21. Елизавета Серьгина, Ксения Болецкая, «Россия может первой узаконить роботов». <https://www.vedomosti.ru/technology/articles/2016/12/15/669703-rossiya-uzakonit-robotov>. Дата посещения: 13.06.2019.
22. Draft Report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), 31.05.2016.
