Научная статья на тему 'Искусственный интеллект как субъект права'

Искусственный интеллект как субъект права Текст научной статьи по специальности «Право»

CC BY
4880
1336
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
ИНТЕЛЛЕКТ / ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ / ПРАВО / СУБЪЕКТ ПРАВА / ТЕХНОЛОГИИ / ПРАВА / ОТВЕТСТВЕННОСТЬ / ПРАВОВАЯ БАЗА

Аннотация научной статьи по праву, автор научной работы — Ужов Фёдор Вадимович

Задача: создание правового базиса, который в будущем сможет быть фундаментом совершенно новых правовых отношений, основанных на взаимоотношениях человека и искусственно созданного носителя сознания. В силу новизны проблемы, работы на данную тематику в настоящий момент отсутствуют. Существуют лишь ряд разрозненных заявлений и предложений, высказанных по данному вопросу, и так же направленных в будущее. Модель: данная работа была создана путём анализа вопроса человеческого сознания, возможности создания эквивалентного ему искусственного аналога, анализа действующих правовых норм и теоретического времени появления носителей искусственного разума. Выводы: результатом данной работы стали рабочие варианты определения ИИ как субъекта права, перечня прав и обязанностей, которые могут быть даны и наложены на него. Возможность использования результатов научной работы в будущем: эти результаты могут использоваться в дальнейшем для создания норм, необходимых для регулирования неизбежных новых отношений, которые станут реальностью в ближайшее время. Практическое значение: дальше полноценная адаптация науки, законодательства и общества под реалии существования сознания, аналогичного человеческому, но человеческим в общепринятом смысле не являющимся. Дальше новая эпоха, к которой мы должны быть готовы. Дальше разделение истории мира на «до» и «после». Социальные последствия: эта работа носит и подготовительный, морально-профилактический характер. Если общество осознает, что теория действительно может быть реализована практически, то оно будет лучше подготовлено к наступлению этой новой эпохи. Ценность: так как работа является по сути своей новеллой, то она может послужить ресурсом для создания норм как права, так и морали, как законодателем, так и иными «творцами», которые посчитают своим долгом повлиять на приход нового, кибернетического времени.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Legal personality of Artificial Intelligence

Background: the objective of this work was to create a legal basis, which would help scientific and civilian community to prepare for the new era, which will conclude the relationship between human and machine, natural mind and artificial intelligence. Due to novelty of the subject, no other scientific works were created to create such basis at this moment. The only examples of such research exist in the form of different statements and proposals. Method: this work was created with analyzing different theories of human mind, possibilities of creating an equivalent intelligence, modern legal statements and systems, which could be used to address issues of appearance of such intelligence. Results: this work can be used to create the legal definition and content of Artificial Intelligence as a part and a subject of modern legal system. Conclusion: today, now, we have to prepare for the new era. This work will be a support for scientists, lawyers, and all the others, who feel themselves as those, who want to help a man of yesterday become the man of tomorrow, to help an old humanity become the humanity of the future.

Текст научной работы на тему «Искусственный интеллект как субъект права»

6.6. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК СУБЪЕКТ ПРАВА

Ужов Фёдор Вадимович, студент. Место учебы: Всероссийский государственный университет юстиции (РПА Минюста России). E-mail: clearvall@mail.ru

Аннотация

Задача: создание правового базиса, который в будущем сможет быть фундаментом совершенно новых правовых отношений, основанных на взаимоотношениях человека и искусственно созданного носителя сознания. В силу новизны проблемы, работы на данную тематику в настоящий момент отсутствуют. Существуют лишь ряд разрозненных заявлений и предложений, высказанных по данному вопросу, и так же направленных в будущее.

Модель: данная работа была создана путём анализа вопроса человеческого сознания, возможности создания эквивалентного ему искусственного аналога, анализа действующих правовых норм и теоретического времени появления носителей искусственного разума.

Выводы: результатом данной работы стали рабочие варианты определения ИИ как субъекта права, перечня прав и обязанностей, которые могут быть даны и наложены на него.

Возможность использования результатов научной работы в будущем: эти результаты могут использоваться в дальнейшем для создания норм, необходимых для регулирования неизбежных новых отношений, которые станут реальностью в ближайшее время.

Практическое значение: дальше - полноценная адаптация науки, законодательства и общества под реалии существования сознания, аналогичного человеческому, но человеческим в общепринятом смысле не являющимся. Дальше - новая эпоха, к которой мы должны быть готовы. Дальше - разделение истории мира на «до» и «после».

Социальные последствия: эта работа носит и подготовительный, морально-профилактический характер. Если общество осознает, что теория действительно может быть реализована практически, то оно будет лучше подготовлено к наступлению этой новой эпохи.

Ценность: так как работа является по сути своей новеллой, то она может послужить ресурсом для создания норм как права, так и морали, как законодателем, так и иными «творцами», которые посчитают своим долгом повлиять на приход нового, кибернетического времени. Legal personality of Artificial Intelligence

Ключевые слова: интеллект, искусственный интеллект, право, субъект права, технологии, права, ответственность, правовая база.

LEGAL PERSONALITY OF ARTIFICIAL INTELLIGENCE

Uzhov Feodor Vadimovich, student. Place of study: All-Russian State University of Justice. E-mail: clearvall@mail.ru

Annotation

Background: the objective of this work was to create a legal basis, which would help scientific and civilian community to prepare for the new era, which will conclude the relationship between human and machine, natural mind and artificial intelligence. Due to novelty of the subject, no

other scientific works were created to create such basis at this moment. The only examples of such research exist in the form of different statements and proposals.

Method: this work was created with analyzing different theories of human mind, possibilities of creating an equivalent intelligence, modern legal statements and systems, which could be used to address issues of appearance of such intelligence.

Results: this work can be used to create the legal definition and content of Artificial Intelligence as a part and a subject of modern legal system.

Conclusion: today, now, we have to prepare for the new era. This work will be a support for scientists, lawyers, and all the others, who feel themselves as those, who want to help a man of yesterday become the man of tomorrow, to help an old humanity become the humanity of the future. Keywords: intelligence, artificial intelligence, law, subject of a right, technologies, rights, responsibility, legal framework. Нам говорят "безумец" и "фантаст", Но, выйдя из зависимости грустной, С годами мозг мыслителя искусный Мыслителя искусственно создаст. Эти слова Иоганна Вольфганга Гёте, звучащие в его произведении "Фауст", уже очень скоро должны оказаться пророческими. Человечество стоит на пороге новой эпохи, которая будет ознаменована, вероятно, величайшим его творением. Очень скоро будет создан искусственный разум.

Во все времена философские рефлексии, которые были сосредоточены главным образом на постижении смысла жизни, обязательно затрагивали и вопрос сознания, как побудителя любой поведенческой реакции. Трактаты правовой философии рассматривали такой феномен, как «субъект права», не в последнюю (а возможно, и в первую) очередь в связи именно с наличием у потенциально правоспособного участника правовых отношений разума. Ведь именно потому животные не признаются субъектами права, что, согласно современной научной теории животные не обладают разумом как системой осознанных решений, памяти и сдержек.

Соответственно, нынешним научным сообществом только человек признаётся носителем сознания, и сознание является одним из основных критериев наделения его правами и обязанностями. Исходя из этой логики, приходишь к выводу, что, кроме человека, никто и ничто не должно становится полноценным участником правовых отношений - ибо никто и ничто более не способно принимать осознанные, самостоятельные решения, что рождает и смысл ответственности, и ценность последствий этих решений. Однако есть ряд исключений. Субъектами права в ряде случае являются государство и юридические лица. Отсутствие чётко выраженного «личного», единичного сознания, воли одного конкретного человека компенсируется решениями и действиями, принимаемыми и совершаемыми от лица именно некой группы, некоего аморфного на первый взгляд «мы». Но когда дело доходит до насущных и простых вопросов «кем было принято первичное решение», «кто будет источником для получения важной информации», в конце концов - «кто должен нести ответственность» (если речь идёт об уголовно-правовой сфере), то мы неизбежно приходим к физическому лицу. И так или иначе, рано или поздно, именно физическое лицо предстаёт в качестве ответчика или истца, обвиняемого или потерпевшего.

XXI век станет веком великого технологического прорыва. В последние годы (месяцы, дни) порой даже страшно становится осознавать, сколь малый отрезок времени осталось ждать до этого сокровенного момента. Пять, возможно, шесть, семь лет. Может, исследователи не сможет разгадать тайну нашего разума. Но они как никогда близки к тому, чтобы его скопировать.

И мы сталкиваемся проблемой, доселе не стоявшей не только перед правотворцами и правоприменителями, но и, пожалуй, перед всем человечеством вообще - что, если появится нечто, обладающее сознанием, не просто схожим, но эквивалентным, а возможно - и превосходящим человеческое?

Стоит привести ряд современных новостных вырезок, чтобы у заинтересованного человека пропала иллюзия «фантастичности» рассматриваемой темы.

- Наряду с физическими и юридическим лицами в Евросоюзе могут появиться лица "электронные". Европарламент изучает вопрос о правовом статусе роботов.

Так как электронные машины тесно взаимодействуют с людьми, необходимо определить их юридический статус и роль в обществе. Правда, касается это не всех роботов, а только тех, которые обладают искусственным интеллектом и способны передвигаться самостоятельно. Речь, в частности, идет о роботах-гуманоидах и беспилотных автомобилях. Так, каждую "умную" машину предстоит идентифицировать. Ее данные будут заноситься в специально созданный реестр. Кроме того, законопроект предлагает учитывать вклад роботов в экономику. А организации, которые используют автоматизированные машины вместо людей, обязать делать за них взносы в систему социального страхования.

Значительная часть документа посвящена взаимоотношениям робота и человека.

- РИА Новости

"Они" уже на подходе. В Европе могут появиться "электронные лица" 26.06.2016

- Во время делового визита в Иннополис спикер Госдумы Вячеслав Володин поднял вопрос правового регулирования в сфере искусственного интеллекта и робототехники.

В ходе своей поездки Володин обратил внимание на перспективы развития и использования робототехники и искусственного интеллекта, а также предложил вынести вопрос правового регулирования 1Т-сферы на дискуссию с экспертами для выработки соответственных мер. От лица Госдумы он заявил, что цифровая экономика требует законодательного сопровождения. Володин считает, что Россия может стать первой в мире страной, которая разберется в отношениях робота и человека.

«Мир скоро столкнется с необходимостью комплексного правового регулирования этой сферы. Системное и профессиональное обсуждение этой темы и выработку соответствующих правовых позиций необходимо начать и в России.»

Вячеслав Володин, спикер Госдумы РФ

В январе 2017 года стало известно, что в Евро-парламенте рассматривается закон о создании «олектронных лиц». Это означает, что боты могут

получить правовой статус и впоследствии нести ответственность за свои действия.

- Футурист - 13.02.2017

- Депутаты подготовят законопроект о регулировании взаимоотношений робота и человека. Об этом заявил председатель Госдумы Вячеслав Володин в рамках рабочей поездки в Татарстан, сообщает «<Интерфакс».

«По прогнозам, в 2022 году будут приняты повсеместно законы, которые будут регулировать взаимоотношения человека и робота», - отметил он.

Володин высказался за создание совета по законотворческому обеспечению развития цифровой среды, в который войдут эксперты 1Т-отрасли.

Председатель Госдумы также считает, что Россия может стать пионером в правовом регулировании развития робототехники и искусственного интеллекта.

Ранее в Европе задумались над разработкой законопроекта, признающего особый юридический статус роботов с искусственным интеллектом.

- Газета.ги - 13.02.2017

Основной вопрос, который будет поставлен перед современным правотворцем в случае, если теория «мыслящих машин», или же «сильного» искусственного интеллекта (т.е. ИИ, способного мыслить соответственно такой способности, свойственной человеку) реализуется, состоит в наличии или же отсутствии необходимости наделения такого носителя сознания правами. Если рассуждать с точки зрения действительности как правовых, так и моральных основ, то принципу гуманизма потребуется расширение и распространение в т.ч. и на такого носителя. Потому как, если оценивать причины наделения правами человека, то эти причины в первую очередь будут лежать в сфере разума, наличия у человека таких качеств, как способностей чувствовать, сопереживать, желать, осознавать. Да, существует механизм наделения правоспособностью лиц, сознание которых нарушено или разрушено (как наделение их, как и всех прочих, правом на жизнь) и даже ещё нерождённых лиц (как правом на наследство), но это не должно склонять нас к мысли, что на момент создания самого института права правотворец был озабочен в первую очередь судьбой именно таких лиц. Нет, однозначно, первичным критерием для него был разум человека, в качестве показателя, требующего наделения его как носителя этого разума правами. И тогда, если мы не увидим необходимости наделения правом нового носителя разума, нового субъекта, который так же может осознавать, анализировать, принимать решения, основанные не на алгоритме, но на способности мыслить, на способности самому создавать алогоритмы, то это будет проявлением лицемерия, двойных стандартов и по сути своей пустоты общепризнанных принципов и важности права как инструмента, обеспечивающего защиту в том числе и интеллектуальной, разумной сферы.

С учётом того, что искусственный интеллект, наделенный способностью анализировать и составлять поведенческий алгоритм вне зависимости от программных предустановок, нуждается в правовом регулировании, необходимо продумать - какими правами он должен быть наделён? Как ограничить их список? С чего следует начать?

Начать безусловно следует с создания нового субъекта права. В Европейском Союзе уже некоторое вре-

мя звучит термин «электронные лица». Можно попробовать, взяв его в качестве названия, дать определение такого нового субъекта.

Электронное лицо - носитель искусственного интеллекта (машина, робот, программа), обладающий разумом, аналогичным человеческому, способностью принимать осознанные и не основанные на заложенном создателем такой машины, робота, программы алгоритме решения, и в силу этого наделённый определёнными правами и обязанностями.

Без сомнений, такое определение следует считать теоретическим и требующим доработки. В предложенном варианте имеет смысл принять его в качестве рабочего.

Теперь требуется составить список прав, защита которых может потребоваться носителю искусственного интеллекта.

Они будут связаны, на текущий момент, с двумя факторами - фактором существования носителя и фактором результатов его «интеллектуальной» деятельности.

1. Право носителя на неприкосновенность.

Изменение, модификация, форматирование либо

ликвидация носителя ИИ должны быть санкционированы соответствующей комиссией и / или органом власти. Несанкционированное влияние на состояние носителя ИИ следует рассматривать как преступление против «электронной личности».

2. Право носителя на авторство.

Научный труд, произведения искусства, иные результаты интеллектуальной деятельности, созданные носителем ИИ без участия человека, принадлежат носителю ИИ, создавшему их. Это относится как к самому творению, так и к авторскому праву на него.

При этом следует придерживаться двух правил - не заменять объективную необходимость на максимализм, и не совершать типичную человеческую ошибку, заключающуюся в «излишнем гуманизме». Первое, что следует чётко осознавать и принимать как руководство к действию - ИИ никогда не будет равен человеческому разуму. Подобен - возможно. Имеющий схожие способности - возможно. Даже более совершенный в критериях скорости и количества одновременно принимаемых решений - да, возможно. Но - не равен. В любом случае такой носитель создан искусственно. В любом случае «чувства», которые возможно научится «испытывать» такой носитель, в том числе выраженные в виде «желаний», будут суррогатом. Будут, грубо говоря, электронными схемами. Поэтому относиться к носителям Ии иначе, как к машинам, нельзя. И не имеет смысла, по сути.

Вопрос о необходимости наделения таких носителей правами я ставлю в первую очередь в связи с необходимостью наделения их рядом обязанностей, в том числе - обязанностью нести ответственность за совершённые ими действиями.

Задумаемся ещё раз.

Носитель ИИ, соответствующего критериям "сильного искусственного интеллекта", будет обладать сознанием, позволяющим ему принимать осознанные, не ограниченные рамками заданных ему алгоритмов решения, и на основании этих решений совершать определённые действия.

Проецируем ситуацию: корпорацией-разработчиком кибернетической продукции заключается договор с Министерством Здравоохранения, согласно которому, для повышения качества и темпов оказания медицинских услуг в мед-учреждениях ею будет создан робот-

хирург. При этом существенным и одним из основных условий договора будет внедрение в этого робота искусственного интеллекта, для повышения качества его работы и наделения возможностью принимать необходимые решения в неожиданных и форс-мажорных ситуациях.

Во время операции, связанной с родами, роботом принимается решение, что для спасения ребёнка необходимо прекратить поддерживать жизнь матери. Обозначим ситуацию более грубо и прямо - для спасения ребёнка он решает убить мать.

Первая мысль разумеется, заключается в предъявлении обвинения создателю (либо конкретному научному сотруднику, либо корпорации). Ответ даётся следующий - "согласно договору, заключённому с МинЗдравом, данный робот был создан как носитель ИИ. Все решения, которые он принимает и реализует, являются результатом его мыслительной деятельности, и никак не зависят от нас. Мы не несём ответственности за его действия, так как они носят осознанный и независимый характер".

Это лишь один пример из десятков, приходящих на ум. Безусловно, военные машины будут обладать боевой и огневой мощью, несопоставимой с человеческими боевыми единицами. В случае, если военным роботом будет принято решение о необходимости убийства числа х мирных жителей. для спасения числа у (большего, чем х) мирных жителей, то последствия будут требовать назначения военного трибунала. Вопрос тот же - кого судить?

Уже сейчас создаются автомобили, в которые будет включён ИИ, основной целью перед которым будет поставлено уменьшение числа ДТП и жертв, явившихся их результатом.

"Не за горами повсеместное внедрение автомоби-лей-беспилотников. И тут как раз остро встает вопрос потенциальной юридической ответственности ИИ за жизнь пассажиров и других участников движения.

Эксперты прогнозируют снижение уровня ДТП на 90% в связи с использованием водителей-роботов. Но эти радужные перспективы пока под большим вопросом из-за моральной дилеммы в обществе.

Существует проект машин-беспилотников, которые запрограммированы таким образом, чтобы любой ценой сократить количество жертв аварии, даже если ради этого придется умышленно убить пассажиров транспортного средства.

Исследование показало, что люди признают правильность такого решения, но вместе с тем участники эксперимента заявляют, что готовы купить только ту машину, которая в первую очередь защищает тех, кто находится внутри.

Кроме того, использование роботов в качестве водителей требует внедрения «моральных алгоритмов», которые нужны для принятия сложных решений на дороге.

«Приемлемо ли, если ИИ избежит столкновения с мотоциклом и врежется в стену, так как шансы выжить у мотоциклиста заведомо невелики? Должен ли искусственный интеллект при этом учитывать возраст участников движения и пешеходов в этой зоне?» — такие вопросы задают исследователи, признавая, что эта технология пока еще требует существенных доработок".

"Зачем роботам получать правовой статус"

Маргарита Герасюкова 17.01.2017, 17:04

Вопрос - кто должен нести ответственность за гибель людей (пусть и "необходимую", т.е. подпадающую под действующий принцип "крайней необходимости")?

В пенитенциарной системе Российской Федерации, непосредственно связанной с лишением свободы, преследуются две цели - фактическая и теоретическая. Фактическая связана с лишением лица связи с обществом, которому он может повторно причинить ущерб. Теоретическая направлена на перевоспитание и изменение сознания преступника в лучшую сторону. То, что лицо лишается свободы передвижения - факт, это реально, подтверждено и действительно. То, что оно якобы должно перевоспитываться и менять свою жизненную позицию - теория.

В отношении ИИ можно говорить только о ценности фактической части пенитенциарной системы. "Перевоспитание" в данном случае может носить только характер перепрограммирование, что можно в определённом смысле сравнить с лоботомией по отношению к человеку. То есть - абсолютное и вероятно необратимое изменение свойств искусственного интеллекта. Второй путь - утилизация машины. Вопрос о первосте-пенности и превалировании того или иного метода отдельный и должен обсуждаться в рамках оценки ценности машины, количества "ошибок", совершённых ею, возможности достаточно "безболезненно" убрать связанные с этими ошибками огрехи техническим путём и т.д.

Долгое время российская (советская, российско-имперская) законодательная система работала по принципу "бега за поездом". Событие происходило -законы перестраивались. Новшество появлялось -срочно переделывалось законодательство. Пора работать на перспективу. Пора создавать нормы До появления того, что они будут регулировать. Тогда будет время, в случае необходимости, доработать и модифицировать уже готовую базу, а не в срочном порядке создавать её с нуля, что неизбежно скажется на качестве и универсальности этой системы. Кибернетическая эпоха - вопрос очень недалёкого будущего. Искусственный Интеллект ещё десять лет назад вызывал сомнение в самой возможности его появления, сегодня уже идут споры о дате его появления. Шесть? Восемь? Десять лет? Российская Федерация может стать первопроходцем в области регулирования технологических отношений. Нужно не упустить эту возможность.

Список литературы:

1. Кудрявцев В. Н. Личность преступника. — СПб.: Юридический центр Пресс, 2004. 364 с.

2. Пелевина А.В., (2015), Общая характеристика преступлений в сфере компьютерной информации. // Пробелы в российском законодательстве, 4: 209-211.

3. Боровикова В.В., (2016), О некоторых подходах компьютерной безопасности в Российской Федерации. // Бизнес в законе. Экономико-юридический журнал, 4: 113-116.

4. Зазулин А.И., (2015), Компьютерная информация в уголовном процессе: сущность и способы закрепления в качестве доказательства по уголовному делу. // Бизнес в законе. Экономико-юридический журнал, 6: 130133.

5. Дубровский Д. И. Сознание, мозг, искусственный интеллект. Сб. статей. ИД Стратегия - Центр Москва, 2007. 272 с.

6. "Они" уже на подходе. В Европе могут появиться "электронные лица"// РИА Новости. 2016. URL: https://ria.ru/accents/20160626/1451097825.html (Дата обращения: 22.03.2017)

7. Спикер Госдумы призвал узаконить ИИ // Футурист. 2017. URL: https://futurist.ru/news/2722 (Дата обращения: 04.04.2017)

8. Госдума узаконит отношения робота и человека // Газета.ру. 2017. URL: https://www.gazeta.ru/tech/news/ 2017/02/13/n_9684527.shtml (Дата обращения: 10.04.2017)

9. Зачем роботам получать правовой статус // Мария Герасюкова. 2017. URL: https://www.gazeta.ru/tech/ 2017/01/17/10479395/iron_morality.shtml (Дата обращения: 11.04.2017)

Рецензия

Статьи Ужова Ф. В. «Искусственный Интеллект как субъект права»

Представленная для рецензирования статья оригинальна своей тематикой. Автор избрал в качестве тематики исследования проблему, не поднимавшуюся на страницах современной юридической печати, по крайней мере, российской. В США и ФРГ вопросы о признании искусственного интеллекта поднимались, но и там не было существенного прогресса в исследовании проблемы. Надо сказать, что наделение искусственного интеллекта практически аналогичными с человеческими правами являлось востребованной темой фантастических рассказов, но в настоящее время, когда механизмы выходят из под контроля человека, о чём пишет пресса, вопрос о юридическом статусе искусственного интеллекта становится востребованным.

Автор является первым исследователем в российском праве, обратившим пристальное внимание на столь сложный и весьма противоречивый вопрос, как наделение искусственного интеллекта юридическими правами. Думаю, что представленная работа является новаторской. Материал изложен интересно, логически последовательно. Нельзя сказать, что статья бесспорна. Но тем и славится научная мысль, что она способна вызывать интерес и порождать споры. Рекомендуемая к публикации статья из этого ряда.

Рецензент:

Доктор юридических наук, профессор, Заслуженный юрист РФ Н.Г.Иванов

Статья прошла проверку системой «Антиплагиат»; итоговая оценка оригинальности - 88,38%

i Надоели баннеры? Вы всегда можете отключить рекламу.