CC BY
80
УДК 342.7
Е. А. Капитонова
Пензенский государственный университет, г. Пенза, Российская Федерация
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ПОТЕНЦИАЛЬНЫЙ НОСИТЕЛЬ ПРАВОВОГО МОДУСА ЛИЧНОСТИ: ПРОБЛЕМЫ И ПЕРСПЕКТИВЫ
Аннотация. В статье проанализировано современное состояние научных разработок, связанных с использованием нейросетей и искусственного интеллекта, приведены суждения видных ученых по этому поводу. Сделан вывод о том, что искусственный интеллект пока далек от того, чтобы стать самостоятельным носителем правового модуса личности в связи с его полной несамостоятельностью. Существенное внимание уделено рассмотрению российских и зарубежных проектов нормативных актов, призванных регулировать область робототехники. Выделены проблемные моменты в законопроекте «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» и проекте Модельной конвенции о робототехнике и искусственном интеллекте. Рассмотрена резолюция Европарламента 2015/2103(1^), принятая по результатам доклада о состоянии роботостроительной отрасли в мире, в которой сформулированы рекомендации по разработке норм гражданского права о робототехнике.
Ключевые слова: робот, робототехника, искусственный интеллект, правовой модус личности.
E. A. Kapitonova
Penza State University, Penza, the Russian Federation
ARTIFICIAL INTELLIGENCE AS A POTENTIAL OWNER OF THE LEGAL MODUS OF INDIVIDUAL: PROBLEMS AND PROSPECTS
Abstract. The article analyzes the current state of scientific developments related to the use of neural networks and artificial intelligence, the judgments of prominent scientists in this regard. It is concluded that artificial intelligence is far from becoming an owner of the legal modus of individual due to its complete lack of independence. Considerable attention is paid to the consideration of Russian and foreign draft regulations designed to regulate the field of robotics. The problematic moments in the draft law «On amendments to the Civil Code of the Russian Federation in terms of improving the legal regulation of relations in the field of robotics» and the draft Model Convention on robotics and artificial intelligence are highlighted. The resolution of the European Parliament 2015/2103 (INL), adopted as a result of the report on the state of the robotics industry in the world, which formulated recommendations for the development of civil law norms on robotics, has been considered.
Key words: robot, robotics, artificial intelligence, legal modus of individual.
Усложнение общественных отношений в современном мире обусловлено не только сменой парадигмы восприятия многих социальных ценностей и институтов, переориентирующей законодателя на новые направления правотворчества. Немалую роль в этом процессе также играют накопление и совершенствование научного знания, постоянное развитие технологий, в перспективе способное породить довольно сложные этические и правовые проблемы. В связи со сказанным представляется логичным предположить, что перспективы развития категории «правовой модус личности» (в значении сочетания предусмотренных законом обязанностей, ответственности и ограничений прав и свобод конкретного человека,
посредством которых гарантируется его правомерное поведение) в немалой степени обусловлены актуальными направлениями развития научной теории и социальной и юридической практики, среди которых одно из значимых мест занимают попытки создания искусственного интеллекта.
В конце мая 2019 г. Президент РФ В. В. Путин впервые провел открытое совещание по теме развития искусственного интеллекта в России, в ходе которого заявил, что «если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны - тот станет властелином мира»1. Курирующий вопросы технологического развития вице-премьер М. А. Акимов на том же совещании пояснил, что до октября 2019 г. правительство планирует разработать федеральный проект по искусственному интеллекту, объем финансирования которого в рамках национального проекта «Цифровая экономика» может составить примерно 90 млрд. руб. на ближайшие шесть лет.
Внимание высших должностных лиц к теме искусственного интеллекта вполне понятно: в настоящее время подобные разработки являются одним из самых перспективных направлений современных технологий, способным со временем повлиять на все сферы жизнедеятельности людей, от производительности труда до образования и здравоохранения. Уже сейчас использование искусственных нейронных сетей (математических моделей, построенных по принципу организации и функционирования сетей нервных клеток живого организма и способных к самообучению) отлично зарекомендовало себя на самых разных направлениях. Нейросети успешно используются в современных поисковых системах и электронных переводчиках, проводятся исследования, направленные на внедрение их в фармацевтические разработки, медицинскую диагностику и системы безопасности, построенные на основе распознавания лиц. Имеют место и более экзотичные эксперименты, больше похожие на развлечения: энтузиасты обучают нейросети создавать сценарии идеальной рекламы автомобиля2, рисовать, как Ван Гог3, и дописывать продолжение популярной книги, которое поклонники устали ждать от реального автора4.
Прикладные решения на базе искусственного интеллекта действительно способны определить будущее всего мира, и достижение прорывных результатов в этой сфере, безусловно, предоставит соответствующей стране значимое конкурентное преимущество на международной арене. В то же время создание полноценного искусственного интеллекта почти наверняка обусловит появление целого спектра организационных, правовых и этических проблем.
Вопросы взаимодействия человека и результата его экспериментов занимают философов, писателей и футуристов уже не первый век. Особенно ярко свои опасения по этому поводу высказывают авторы художественных произведений -от писателя Айзека Азимова, сформулировавшего три закона робототехники, до режиссера и сценариста фильма «Терминатор» Джеймса Кэмерона. Не отстают от них и ученые. Всемирно известный английский физик-теоретик и популяризатор науки Стивен Хокинг предупредил, что создание искусственного интеллекта может стать последней технологической революцией, если человечество не научится
1 Путин: монополист в сфере искусственного интеллекта может стать властелином мира / ИА ТАСС. — 30 мая 2019 г. — URL: https://tass.ru/ekonomika/6489864 (дата обращения: 13.09.2019).
2 Нейросеть написала «идеальный» сценарий рекламы автомобиля / Интеллектуальный журнал о культуре и обществе НОЖ. — URL: https://knife.media/ai-lexus (дата обращения: 14.09.2019).
3 Inceptionism: Going Deeper into Neural Networks / Google Al Blog. — URL: https://ai.googleblog.com/2015/06/ inceptionism-going-deeper-into-neural.html (дата обращения: 13.09.2019).
4 Нейросеть дописала пять глав книги «Ветра зимы» за Джорджа Мартина / Сайт Мир фантастики. — URL: https://www.mirf.ru/news/nejroset-dopisala-pyat-glav-knigi-vetra-zimy-za-dzhordzha-martina (дата обращения: 15.09.2019).
контролировать риски5. Американский инженер-изобретатель Илон Маск высказал еще более категоричное суждение, назвав искусственный интеллект «фундаментальным риском для существования человеческой цивилизации»6. Основываясь на выдвинутом английским математиком Аланом Тьюрингом в статье «Вычислительные машины и разум» (1950) [1] предположении, что искусственный интеллект сравняется по разуму с человеком, когда сумеет ввести его в заблуждение в процессе разговора, многие не слишком сведущие в теме обыватели делают вывод, что ИИ уже наполовину создан, поскольку в 2015 г. написанная петербуржцем Иваном Голубевым программа под названием «Соня Гусева» смогла обмануть судей в 47% случаев7.
В то же время специалисты, ведущие исследования по данной тематике, признают, что в настоящее время все эксперименты с нейронными сетями по-прежнему очень далеки от создания полноценного искусственного интеллекта, поскольку каждая из таких сетей тренируется на решении конкретной задачи и не способна переключиться на другую, то есть, по сути, ученым предстоит еще придумать новый алгоритм, способный объединить уже не нейроны, а сети с разным функционалом. Между тем, принципиальных прорывов в построении вычислительных систем нейросетей не было фактически с 1980-х гг. [2; 3].
Эксперты Гарвардского Центра Беркмана Кляйна «Интернет и общество» склонны считать, что сейчас вообще не ясно, появятся ли наделенные разумом и самостоятельностью машины хоть когда-нибудь8.
Тем не менее, отдельные лица считают необходимым уже сейчас начать задумываться над вопросами правового регулирования взаимоотношений человека и искусственного интеллекта. Так, в 2016 г. широкий резонанс в новостях получила инициатива главы совета директоров Mail.ru Group, основателя фонда Grishin Robotics Дмитрия Гришина, предложившего законопроект9, определяющий правоспособность робота в гражданских правоотношениях и пределы ответственности его владельца.
Несмотря на предполагаемое ограничение сферы участия роботов в гражданском обороте исключительно теми видами деятельности, которые должны быть установлены для них уполномоченным органом РФ в области робототехники (Гришин предполагал создание такового, наравне с принятием «федерального законодательства в области робототехники»), роботы, по замыслу автора законопроекта, должны сочетать в себе признаки вещей (к ним применяются правила об имуществе), источника повышенной опасности и субъекта правоотношения (вплоть до личной ответственности за собственные действия и права одного робота представлять интересы другого). Сочетание в одном нормативном акте столь разных по содержанию подходов (к тому же, отметим справедливости ради, весьма путано изложенное) не позволило предложенному документу стать чем-то более серьезным, чем громкий инфоповод.
В конце 2017 г. исследовательский центр проблем регулирования робототехники «Робоправо» разработал проект Модельной конвенции, объявив ее первым в мире текстом международного акта о регулировании робототехники, искусственного
5 Хокинг: искусственный интеллект может вступить в конфликт с людьми / ИА ТАСС. — 20 октября 2016 г. — URL: https://tass.ru/nauka/3720800 (дата обращения: 15.09.2019).
6 Илон Маск назвал искусственный интеллект угрозой человечеству / Сайт ИД «Коммерсантъ». — 17 июля 2017 г. — URL: https://www.kommersant.ru/doc/3359613 (дата обращения: 16.09.2019).
7 Каляев И. Гонка за цифровым призраком / И. Каляев // Сайт ИД «Коммерсантъ», Огонёк. — 2019. — № 24. (24 июня). — С. 28. — URL: https://www.kommersant.ru/doc/4003879 (дата обращения: 17.09.2019).
8 Журенков К. Бот в помощь / К. Журенков // Сайт ИД «Коммерсантъ», Огонёк. — 2019. — № 34. (2 сентября). — С. 4. — URL: https://www.kommersant.ru/doc/4059311 (дата обращения: 21.09.2019).
9 Основатель Grishin Robotics Дмитрий Гришин разработал концепцию закона о робототехнике/ Сайт VC.RU. — URL: https://vc.ru/flood/20724-law-robots (дата обращения: 20.09.2019).
интеллекта и киберфизических систем10. В целом, авторы документа пошли по тому же пути, что и Д. Гришин, и использовали в своих предложениях двойственный подход. С одной стороны, к роботам и киберфизическим системам с искусственным интеллектом предлагалось применять правила, позволяющие оценивать их как объекты права (в частности, ответственность их создателя строится по принципу ответственности владельца источника повышенной опасности). С другой стороны, в проекте Конвенции применительно к роботам несколько раз употребляется слово «должны» (например, «не должны причинять вред человеку и человечеству, а также допускать, чтобы их бездействием был причинен вред» (ст. 8), «должны постоянно фиксировать и хранить информацию об условиях своего функционирования и всех совершаемых ими действиях» (ст. 16)). Кроме того, статья 29 предусматривает возможность участия роботов в гражданском обороте в качестве самостоятельных лиц (вплоть до получения права собственности на других роботов), «если это прямо установлено применимым законодательством».
Проект Модельной конвенции стал предметом рассмотрения комитета Государственной Думы РФ по экономической политике, промышленности, инновационному развитию и предпринимательству, в результате чего вошел в программу «Цифровая экономика» и в настоящее время используется в качестве составной части исследования, призванного определить дальнейшие действия государства в этом направлении11.
Проблема определения правового статуса роботов привлекает внимание не только российских, но и зарубежных специалистов. В начале 2017 г. Европарла-мент заслушал доклад о состоянии роботостроительной отрасли в мире и принял резолюцию 2015/2103(1^)12, в которой сформулировал рекомендации по разработке норм гражданского права о робототехнике. Помимо закрепления гарантий безопасности при эксплуатации подобных устройств, предполагается разработать критерии и последствия признания робота «цифровой личностью», а также установить четкие правила распределения ответственности робота, его производителя и владельца с учетом принципа: «чем выше у робота возможности обучения или автономии, тем ниже ответственность других сторон». Регулировать отношения в технической и этической сфере могут поручить специально созданному европейскому агентству по роботам и искусственному интеллекту.
Повышенный интерес к пока нормативно не урегулированной сфере робототехники вполне объясним. Вопросы эксплуатации роботов и искусственного интеллекта будут вставать тем острее, чем большую автономность будут обретать результаты человеческих исследований. Правовое регулирование в будущем, думается, не ограничится вопросами безопасности человека и границ производства и использования подобной техники. Законодателю предстоит определиться с тем, считать ли разумного робота объектом или субъектом права. Выбор последнего варианта повлечет массу непростых юридических и этических дилемм. Если робот будет признан субъектом правоотношений, то для него должен быть сформулирован собственный правовой модус, включающий обязанности, ответственность и ограничения прав и свобод. Впрочем, это представляется гораздо меньшей проблемой, чем разработка принципов взаимоотношений государства, общества и человека с одной стороны и робота - с другой. Будет ли последний наделен фундаментальными человеческими правами вроде собственного достоинства? Не повлечет ли
10 Модельная Конвенция о робототехнике и искусственном интеллекте / Исследовательский центр проблем регулирования робототехники (Россия). — URL: http://robopravo.ru/proiekty_aktov (дата обращения: 20.09.2019).
11 Баленко Е. Киберрегулятор: когда в России может появиться вице-премьер по роботам / Е. Баленко // Сайт РБК. Технологии и медиа. — 2018. —23 ноября. — URL: https://www.rbc.ru/technology_and_media/23/11/2018/ 5bf7dd5f9a7947b5a2f61ced (дата обращения: 23.09.2019).
12 European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). /European Parliament.— URL: http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html (дата обращения: 23.09.2019).
это необходимость признания незаконности эксплуатации их труда и недопустимость их использования в некоторых сферах? Изменит ли это в итоге правовой модус человеческой личности, вынужденной соблюдать новые ограничения и брать на себя ранее не имевшие места обязанности по отношению к своим новым соседям по планете?
При всей интересности и потенциальной дискуссионности данной темы следует признать, что в настоящее время она представляет собой в большей степени научную абстракцию, чем обоснование насущной потребности в принятии соответствующего законодательства, ведь, как уже было сказано ранее, результаты разработки искусственного интеллекта пока еще очень далеки от того, чтобы достичь уровня признания самостоятельно мыслящей единицей, достойной наделения статусом личности и, как следствие, отдельным правовым модусом.
СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ
1. Тьюринг А. Вычислительные машины и разум / А. Тьюринг. — Москва : АСТ, 2018. — 128 с.
2. Гудфеллоу Я. Глубокое обучение / Я. Гудфеллоу, И. Бенджио, А. Курвилль. — Москва : ДМК Пресс, 2018. — 652 с.
3. Gupta P., Sinha N. K. Neural Networks for Identification of Nonlinear Systems: An Overview / P. Gupta, N. K. Sinha // Soft Computing and Intelligent Systems: Theory and Applications. London: Academic Press, 2000. — pp. 337-356.
REFERENCES
1. T'iuring A. Vychislitel'nye mashiny i razum [Computing Machines and the Mind]. Moscow, AST Publ., 2018, 128 p.
2. Gudfellou Ia., Bendzhio I., Kurvill' A. Glubokoe obuchenie [Deep training]. Moscow, DMK Press Publ., 2018, 652 p.
3. Gupta P., Sinha N.K. Neural Networks for Identification of Nonlinear Systems: An Overview. Soft Computing and Intelligent Systems: Theory and Applications. London: Academic Press Publ., 2000, pp.337-356.
ИНФОРМАЦИЯ ОБ АВТОРЕ
Капитонова Елена Анатольевна — доцент кафедры уголовного права Юридического института Пензенского государственного университета, кандидат юридических наук, 440026, г. Пенза, ул. Красная 40, Российская Федерация; e-mail: [email protected].
INFORMATION ABOUT THE AUTHOR
Kapitonova Elena A. — Associate Professor of department of Criminal Law, Law Institute, Penza State University, Candidate of law, 40 Krasnaya Street, Penza, 440026, the Russian Federation; e-mail: [email protected].
ДЛЯ ЦИТИРОВАНИЯ
Капитонова Е. А. Искусственный интеллект как потенциальный носитель правового модуса личности: проблемы и перспективы / Е. А. Капитонова // Электронный научный журнал «Наука. Общество. Государство». — 2019. — Т. 7, № 4 (28). — С. 90-94. — URL: http: //esj.pnzgu.ru.
FOR CITATION
Kapitonova E. A. Artificial intelligence as a potential owner of the legal modus of individual: problems and prospects. Electronic scientific journal «Science. Society. State», 2019, vol. 7, no. 4, available at: http://esj.pnzgu.ru (In Russian).
