CC BY
201ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ПРОБЛЕМЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ В РОССИЙСКОЙ ФЕДЕРАЦИИ
ARTIFICIAL INTELLIGENCE: PROBLEMS OF LEGAL REGULATION IN THE RUSSIAN FEDERATION
Магаева Татьяна Андреевна, магистрант 1 курса, Институт права, Самарский государственный экономический университет, г. Самара Лошкарёв Андрей Викторович, кандидат юридических наук, доцент Кафедры гражданского и арбитражного процесса, Самарский государственный экономический университет, г. Самара
Magaeva T.A. tanya.magaeva@gmail.com Loshkarev A.V. 2482337@mail.ru
В представленной вниманию читателя статье акцент сделан на таких явлениях развивающейся цифровой экономики как искусственный интеллект и робототехнические устройства. Благодаря анализу законодательства нашей страны, а также казусов из практики в работе выявлены основные проблемы в применении искусственного интеллекта и робототехники, вызванные отсутствием правовой базы, необходимой для устранения неопределённости использования названных выше технологий и установления правовых гарантий, обеспечивающих безопасность их функционирования.
УДК 349
DOI: 10.24411/2658-4964-2020-10308
Аннотация
Annotation
The article focuses on such phenomena of the developing digital economy as artificial intelligence and robotic devices. Due to the analysis of the legislation of our country, as well as cases from practice, the main problems in the use of artificial intelligence and robotics are identified, caused by the lack of a legal framework necessary to eliminate the uncertainty of using the above-mentioned technologies and establish legal guarantees that ensure the safety of their operation.
Ключевые слова: искусственный интеллект, робототехника, беспилотные транспортные средства, цифровая экономика, цифровое право.
Keywords: artificial intelligence, robotics, unmanned vehicles, digital economy, digital law.
В современном информационном обществе благодаря интенсивному развитию цифровой экономики наблюдается необычный процесс, когда уже отнюдь не право выступает регулятором вопросов, связанных с применением технологий нового поколения, а сами технологии диктуют необходимость изменения законодательства под стать себе. Одной из таких технологий выступает искусственный интеллект, который проявил себя в сегодняшних реалиях, активно участвуя в образовательной, медицинской, природоохранной сферах, а также в управленческой и правоприменительной деятельности.
Но что же следует понимать под искусственным интеллектом? Легальное определение данного явления отсутствует в законодательстве нашей страны, что можно выделить в качестве первой проблемы в области правового регулирования технологий искусственного интеллекта. В Стратегии развития информационного общества в Российской Федерации на 2017-2030 гг. искусственный интеллект назван в числе основных направлений развития российских информационных и коммуникационных технологий [1]. В Программе «Цифровая экономика Российской Федерации», а также в Национальной программе «Цифровая экономика Российской Федерации»
искусственный интеллект перечислен среди основных сквозных технологий, применяемых в различных сферах общественной жизни [2].
Институт статистических исследований и экономики знаний НИУ ВШЭ под искусственным интеллектом понимает систему программных и/или аппаратных средств, способную с определённой степенью автономности воспринимать информацию, обучаться и принимать решения на основе анализа больших массивов данных, в том числе имитируя человеческое поведение [3].
ГОСТ Р 43.0.5-2009 «Информационное обеспечение техники и операторской деятельности. Процессы информационно-обменные в технической деятельности. Общие положения» в пункте 3.17 закрепляет, что искусственный интеллект - моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека [4].
Получается, что искусственный интеллект есть некая мыслящая машина, способная воспроизводить разумное поведение человека. Бернард Марр выразил интересную позицию о том, что понятие искусственного интеллекта изменчиво в зависимости от целей, который ставятся перед данной сквозной технологией. В связи с этим выделяется слабый искусственный интеллект, не способный воспринимать человеческое поведение, и сильный, который думает и мыслит аналогично человеку [5].
В нашей стране предпринимаются инициативы для устранения пробелов в регулировании искусственного интеллекта. Исследовательский центр проблем регулирования робототехники и искусственного интеллекта «Робоправо» разработал проект Конвенции по робототехнике и искусственному интеллекту, призванный определить основные проблемы, возникающие и потенциально возможные в связи с использованием киберфизических систем, а также обозначить их решение [6]. Однако ответ на вопрос о понятии искусственного интеллекта Модельная конвенция не даёт.
На базе Российской венчурной компании создан Технический комитет по стандартизации искусственного интеллекта, рассматривающий вопросы,
связанные с нормативно-техническим регулированием прикладного использования технологий искусственного интеллекта, а также подготовлен проект Национальной стратегии развития искусственного интеллекта в России.
В качестве второй проблемы, возникающей в области правового регулирования, необходимо отметить отсутствие правовых основ для обеспечения безопасности человека и его прав при использовании искусственного интеллекта. Однако Правительство Российской Федерации в 2017 г. установило принцип обязательного контроля человеком результатов работы алгоритмов искусственного интеллекта [7].
В нашей стране запущен процесс по внедрению беспилотных транспортных средств и их правовому регулированию. Но показательна практика зарубежных стран о том, что не всё так гладко и, как и в любой другой технологической сфере, есть угроза безопасности, в данном случае человеческой жизни. Это касается таких ситуаций, когда ни водитель, ни автопилот не воспользовались системой торможения, в результате чего погиб человек. Закономерен и последователен вопрос о том, кто же всё-таки должен отвечать за действие (или в данном случае бездействие) мыслящей машины?
С такой проблемой напрямую взаимосвязан вопрос о правосубъектности искусственного интеллекта. В 2017 г. Европейский Парламент в своей Резолюции вместе с рекомендациями для Европейской комиссии «Нормы гражданского права о робототехнике» определил необходимость наделения роботов, как носителей искусственного интеллекта, особым правовым статусом, способным принимать решения, взаимодействовать с третьими лицами и, что самое важное, нести ответственность за свои действия [8]. В законодательстве Российской Федерации искусственный интеллект не признаётся субъектом права. Интересно, что после изменений, внесённых в Гражданский кодекс Российской Федерации от 1 октября 2019 г., цифровые правоотношения становятся диспозитивными, в силу чего подлежат регламентации не законодательно, а с помощью правил, установленных
информационной системой, не являющимися обязательными для исполнения, но способными наделить правосубъектностью лиц, которые, согласно российскому законодательству, не входят в круг субъектов права [9]. Такую правосубъектность разумно именовать цифровой, поскольку искусственный интеллект и робототехника могут рассматриваться как субъекты только в случаях, объяснимых определённой целью, и в рамках особых правоотношений. Ведь наделять основные сквозные технологии общей правосубъектностью равно тому, что говорить о наличии естественных прав у цифровых «личностей», которые присущи исключительно человеку (право на жизнь, на равенство, на достоинство и др.), что логически глупо и не уместно. Зарубежный опыт необычен и свидетельствует о наделении робототехнических устройств таким элементом правового статуса личности, как гражданство (подданство).
Не стоит забывать и о том, что роботы могут рассматриваться как объекты права, представленными в виде сложных объектов интеллектуальной собственности. Поэтому неопределённость правового статуса как искусственного интеллекта, так и робототехнических устройств, не позволяет выработать единые правовые конструкции в сфере их регулирования.
Искусственный интеллект может и сам создавать произведения науки, литературы, искусства, изобретения и иные результаты интеллектуальной деятельности. В такой ситуации неясно, кого же следует считать автором? Различают два диаметрально противоположных подхода: немецкий, который ратует за невозможность правовой охраны интеллектуальной собственности, созданной не человеком, и английский, который выступает за необходимость признания автором лицо, предпринявшее необходимые действия для создания объекта авторского права в качестве итогового результата [10].
Вернёмся к проблеме безопасности, ведь здесь следует рассмотреть и обратную сторону медали: не только правовой, но и этический аспект. Например, использование беспилотных летательных средств, выполняющих полёт без пилота на борту (активно в настоящее время применяются
квадрокоптеры), используются для проведения огромного массива работ: поиска браконьеров, обнаружения пожаров, фиксации передвижения, операциях по спасению людей и др. Вместе с тем, квадрокоптеры могут использоваться в промышленном шпионаже для того, чтобы выведать коммерческую, банковскую тайны; при фото или видеосъёмке можно на кадре захватить объекты местности, которые являются засекреченными; детективно-охранные предприятия незаконно фиксируют частную жизнь, а также другие действия, способны создать угрозу информационной безопасности. В связи с этим, необходимо урегулировать вопрос об ответственности владельцев или разработчиков таких средств.
Незнамов А. В. и Наумов В. Б. считают, что вопрос о правовом регулировании робототехники в России остаётся открытым. Авторы полагают, что данная сфера должна быть регламентирована гражданским, административным, информационным и другим законодательством, поэтому отраслевое регулирование в данной сфере невозможно [11]. Базовый закон об искусственном интеллекте и робототехнике автоматически повлечёт за собой значительные и объёмные изменения в законодательство нашей страны.
В. В. Блажеев и М. А. Егорова, учитывая опыт зарубежных стран, предлагают использовать модель комплексного регулирования технологий искусственного интеллекта: не ограничиваться правовым регулированием, а наоборот, активно задействовать организационные, этические нормы, механизм сорегулирования и саморегулирования, что позволит упорядочить отношения в киберфизической сфере. Саморегулированию уделяется отдельное внимание, ведь российский законодатель не успевает в правовом смысле охватить ту или иную технологию, как тут же такой проект «технологически» устаревает, либо уже соответствующая система нашла «выход» в рамках локального или договорного регулирования [5].
Не стоит забывать и о проблеме занятости. Так, например, Козлов Д. В. считает, что в ближайшем будущем профессия юриста в обыденном её понимании изживёт себя. Рутинная работа будет автоматизирована, а на
замену «живым» работникам придут роботы-юристы, виртуальные адвокаты (юрисконсульты) [12]. В связи с таким утверждением необходимо подготавливать специалистов не только в сфере компьютеризации и программирования, но и квалифицированных IT-юристов, о замене которых искусственным интеллектом можно будет ещё поспорить.
Таким образом, резюмируя вышесказанное, в качестве направлений правового регулирования искусственного интеллекта в Российской Федерации следует выделить следующие:
1) определение понятийного аппарата технологий искусственного интеллекта, а значит и решение вопроса о правовом статусе искусственного интеллекта;
2) закрепление возможной ответственности искусственного интеллекта;
3) обеспечение информационной безопасности при использовании искусственного интеллекта;
4) урегулирование технологий искусственного интеллекта с позиций правовых, этических, технических норм, в том числе задействуя механизм саморегулирования для ряда вопросов в данной сфере;
5) подготовка специалистов в IT-сфере, в особенности юристов, которые и смогут решить правовые вопросы, связанные с регулированием искусственного интеллекта, а значит расширение возможностей обучения юриспруденции и внедрение такого направления как IT-LAW для студентов не только столичных ВУЗов, но и региональных.
Литература
1. Стратегия развития информационного общества в Российской Федерации на 2017-2030 гг., утв. Указом Президента РФ от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы» // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru, 10.05.2017.
2. Программа «Цифровая экономика Российской Федерации», утв. Распоряжением Правительства РФ от 28.07.2017 № 1632-р (утратила
силу) // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru, 03.08.2017. Паспорт национальной программы «Цифровая экономика Российской Федерации», утв. Президиумом Совета при Президенте РФ по стратегического развитию и национальным проектам, протокол от 24.12.2018 № 16) // СПС «КонсультантПлюс».
3. Что такое цифровая экономика? Тренды, компетенции, измерение: докл. к XX Апр. междунар. науч. конф. по проблемам развития экономики и общества, Москва, 9-12 апр. 2019 г. / Г. И. Абдрахманова, К. О. Вишневский, Л. М. Гохберг и др.; науч. ред. Л. М. Гохберг; Нац. исслед. ун-т «Высшая школа экономики». М.: Изд. дом Высшей школы экономики, 2019.
4. ГОСТ Р 43.0.5-2009 «Информационное обеспечение техники и операторской деятельности. Процессы информационно-обменные в технической деятельности. Общие положения». Утверждён и введён в действие приказом Федерального агентства по техническому регулированию и метрологии от 15.12.2009 № 959-ст. М.: Стандартинформ, 2010.
5. Цифровое право: учебник / под общ. ред. В. В. Блажеева, М. А. Егоровой. М: Проспект, 2020.
6. Проект Модельной Конвенции по роботехнике и искусственному интеллекту. Правила создания и использования роботов и искусственного интеллекта (авторы А. Незнамов, В. Наумов) [Электронный ресурс] // URL: https://robopravo.ru/modielnaia konvietsiia (дата обращения: 23.09.2020 г.).
7. Постановление Правительства РФ от 25.08.2017 № 996 (ред. от 06.05.2019) «Об утверждении Федеральной научно-технической программы развития сельского хозяйства на 2017-2025 годы» // Официальный интернет-портал правовой информации. http://www.pravo.gov.ru, 10.05.2017.
8. Резолюция Европарламента от 16 февраля 2017 года 2015/2013(INL) P8_TA-PR0V(2017)0051, включает текст Хартии робототехники. Нормы гражданского права о робототехнике [Электронный ресурс] // URL: https://robopravo.ru/riezoliutsiia ies (дата обращения: 23.09.2020 г.).
9. Федеральный закон от 18.03.2019 № 34-Ф3 «О внесении изменений в части первую, вторую и статью 1124 части третьей Гражданского кодекса Российской Федерации» // Собрание законодательства РФ. 2019. № 12. Ст. 1224.
10. Нагродская В. Б. Новые технологии (блокчейн / искусственный интеллект) на службе права: научно-методическое пособие / под ред. Л.А. Новосёловой. М.: Проспект, 2019.
11. Незнамов А. В., Наумов В. Б. Вопросы развития законодательства о роботехнике в России и в мире // Юридические исследования. 2017. № 8.
12. Козлов Д. В. Развитие юридической профессии в контексте роботизации. Анализ ситуации и прогноз на будущее / Тарасова А. Е. Европейская Конвенция по правам человека (ЕКПЧ) и Российское прав. 20 лет вместе. Бизнес и права человека в условиях цифровой экономики, искусственного интеллекта, новых международных вызовов: сборник статей. М.: Русайн, 2018.
Literature
1. Strategy for the development of the information society in the Russian Federation for 2017-2030, approved. Decree of the President of the Russian Federation dated 09.05.2017 No. 203 «On the strategy For the development of the information society in the Russian Federation for 2017-2030» // Official Internet portal of legal information. http://www.pravo.gov.ru, 10.05.2017.
2. The program «Digital economy of the Russian Federation», approved. By order of the government of the Russian Federation No. 1632-R dated 28.07.2017 (expired) // Official Internet portal of legal information. http://www.pravo.gov.ru, 03.08.2017. Passport of the national program «Digital economy of the Russian Federation», approved By the Presidium of
the presidential Council for strategic development and national projects, Protocol No. 16 of 24.12.2018) // SPS «ConsultantPlus».
3. What is the digital economy? Trends, competencies, measurement: proc. to XX APR. Intern. scientific conference on problems of economic and social development, Moscow, 9-12 APR. 2019 / G. I. Abdrakhmanova, K. O. Vishnevsky, L. M. Gokhberg, etc.; scientific ed. Higher school of Economics, Moscow: publishing house of Higher school of Economics, 2019.
4. GOST R 43.0.5-2009 «Information support of equipment and operator activity. Information exchange processes in technical activities. Generalities». Approved and put into effect by the order of the Federal Agency for technical regulation and Metrology dated 15.12.2009 No. 959-art. M.: STANDARTINFORM, 2010.
5. Digital law: textbook / under the General editorship of V. V. Blazheev, M. A. Egorova. M: Prospect, 2020.
6. The draft Model Convention in robotics and artificial intelligence. Rules for creating and using robots and artificial intelligence (authors A. Neznamov, V. Naumov) [Electronic resource] // URL: https://robopravo.ru/modielnaia_konvietsiia (accessed: 23.09.2020).
7. Decree of the government of the Russian Federation of25.08.2017 No. 996 (ed. of 06.05.2019) «On approval of the Federal scientific and technical program for the development of agriculture for 2017-2025» // Official Internet portal of legal information. http://www.pravo.gov.ru, 10.05.2017.
8. European Parliament resolution of 16 February 2017 2015/2013(INL) P8_TA-PROV(2017)0051, includes the text of the robotics Charter. The civil law of robotics [Electronic resource] // URL: https://robopravo.ru/riezoliutsiia_ies (date accessed: 23.09.2020 g).
9. Federal law of 18.03.2019 No. 34-FZ «About modification of parts the first, second and article 1124 of the third Civil code of the Russian Federation» // collected legislation of the Russian Federation. 2019. No. 12. St. 1224.
10. Nagrodskaya V. B. New technologies (blockchain / artificial intelligence) in the service of law: a scientific and methodological guide / ed. by L. A. Novoselova. M.: Prospect, 2019.11.
11. Neznamov A.V., Naumov V. B. questions of development of legislation on robotics in Russia and in the world // Legal research. 2017. № 8.
12. Kozlov D. V. Development of the legal profession in the context of robotization. Analysis of the situation and forecast for the future / Tarasova A. E. European Convention on human rights (ECHR) and Russian law. 20 years together. Business and human rights in the digital economy, artificial intelligence, and new international challenges: collection of articles. Moscow: Rusain, 2018.
