CC BY
174
УДК 34.023
А.Ю. Мамычев1, Я.В. Гайворонская2, О.И. Мирошниченко3
Владивостокский государственный университет экономики и сервиса Владивосток. Россия
Современные доктринально-правовые и этические проблемы разработки и применения роботизированных технологий и систем искусственного интеллекта (на примере автономных необитаемых подводных аппаратов)
В работе систематизируются основные проблемы и противоречия развития современного национального законодательства и международного правового порядка в контексте процессов интеграции роботизированных технологий и аппаратов, основанных на искусственном интеллекте, в социальную жизнь общества. В статье обсуждаются доктринально-правовые, этические и социально-нравственные вопросы регулирования разработки и применения систем искусственного интеллекта, роботизированных технологий, автономных аппаратов и проч. Авторы обосновывают необходимость формирования правовой концепции и этических стандартов регулирования данных технологий и систем, предлагают направления, методы и формы разработки комплексной программы нормативного опосредования развития и интеграции инновационных процессов в жизнь людей. Отмечается, что стремительное развитие роботизированных технологий и систем искусственного интеллекта формирует острую потребность современности - правового регулирования отношений, связанных с применением РТ и ИИ. При этом показывается, что государство, которое разработает эффективные правовые модели и законодательные основы регламентации в этой сфере, сможет выиграть в острой конкурентной борьбе, сформировать международно-правовые стандарты и образцы для других стран.
Ключевые слова и словосочетания: автоматизированные необитаемые подводные аппараты (Autonomus Underwater Vehicles - AUV), деонтологические кодексы, национальное законодательство, искусственный интеллект, международное право, правовое регулирование, роботизированные технологии, этические нормы.
ic
Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-16129
A.Yu. Mamychev, Ya.V. Gaivoronskaya, O.I. Miroshnichenko
Vladivostok State University of Economics and Service Vladivostok. Russia
Legal and ethical problems of robotic technologies
and artificial intelligence formation and application
(using as an example Autonomous Underwater Vehicles - AUV)
in modern doctrinal science
1 Мамычев Алексей Юрьевич - д-р полит. наук, канд. юрид. наук, доцент, заведующий кафедрой теории и истории российского и зарубежного права; e-mail: mamychev@yandex.ru.
2 Гайворонская Яна Владимировна - канд. юрид. наук, доцент кафедры теории и истории российского и зарубежного права Института права; e-mail: yanavl@yandex.ru.
3 Мирошниченко Ольга Игоревна - канд. юрид. наук, PhD, доцент кафедры теории и истории российского и зарубежного права Института права; e-mail: olga-star.05@mail.ru.
This paper analyzes the main problems and contradictions, which arise from the development of modern national legislation and international legal order in the context of processes of integration of the robotic technologies and devices based on artificial intelligence into social life. Both legal, doctrinal and ethical issues of robotic technologies and artificial intelligence formation and application are being discussed. Authors are justifying the necessity of special legal and ethical concept, which should be created for the needs of these technologies and systems. The specific complex concept of social integration of these technologies is also presented. The authors prove that today artificial intelligence is being rapidly developed, so the necessity of specific legal regulation is a fact. At the same time is shown that state which will to elaborate an effective legal model and legislative basis for regulation in this sphere will be able to win in intense competition, to create international legal standards and samples for other countries.
Keywords: deontological complexes, national legislation, artificial intelligence, international law, legal regulation, robotic technologies, ethical norms
Введение
Сегодня ведущим приоритетом в развитии гражданской и военной сфер ведущих стран является создание роботов и робототехнических комплексов не только воздушного, наземного, но и морского базирования. При этом неотъемлемым направлением развития робототехники и искусственного интеллекта является разработка необитаемых подводных аппаратов - НПА (Unmanned Underwater Vehicles - UUV), которые в свою очередь делятся на дистанционно управляемые НПА (Remotely Operated Vehicles - ROV) и автономные НПА (Autonomus Underwater Vehicles - AUV). За последние 20 лет такие страны, как США, Великобритания, Франция, Германия, Китай, Япония, Норвегия и Израиль, в 30 раз увеличили финансирование НИОКР по созданию гражданских и боевых роботов и робототехнических комплексов, прежде всего, донной инфраструктуры [1]. Особое внимание при этом уделяется не только созданию самих НПА, но и программному обеспечению, созданию и развитию цифровой интеллектуальной навигационной системы и проч.
В последнее время в различных странах, занимающих ведущее положение в области морских технологий, аппаратного и программного обеспечения, цифровых разработок в сфере навигационных систем, было создано значительное число НПА как гражданского, так и военного назначения. За этот период НПА не только продемонстрировали свою эффективность при выполнении разведывательных, обзорно-поисковых, противоминных работ, исследовании глубинного ландшафта, но и открыли принципиально новые направления использования. Последнее связано с применением систем искусственного интеллекта, основанных на так называемой сильной системе ИИ (автономные искусственные аппараты и роботизированные технологии, способные выполнять целый комплекс интеллектуальных функций, принимать оперативные решения, эффективно реагировать на возникающие факторы, меняющиеся условия и т.п.). В целом развитие новых технологий расширяет области применения и сферу использования НПА. За последние 5 лет количество разработок автономных НПА выросло более чем в два раза.
В то же время общей концепции правового регулирования отношений, связанных с применением автономных НПА (основанных как на слабом искусственном интеллекте и сильном искусственном интеллекте), а также нравственно-этическо-
го кодирования процессов разработки программного обеспечения как на уровне действующего национального законодательства, принятых доктринально-правовых актов и деонтологических кодексов, так и на международно-правовом уровне, не сформировано.
Более того, отсутствие нравственно-этических и доктринально-правовых основ развития роботизированных технологий и соответствующего программного обеспечения, а также конституционно-правовых идей и практик в этой сфере ведёт к фундаментальным вызовам национальной и глобальной безопасности, серьезному отставанию правового развития общественных отношений, возможности эффективного «юридического кодирования» и публично-властного управления этими процессами.
Обзор разработок и литературы
Первые эффективные автономные необитаемые аппараты появились не в Соединенных Штатах или странах Западной Европы и Японии, а в Советском Союзе. В 1976-1979 гг. группа энтузиастов подводной робототехники лаборатории систем навигации и управления при отделе технической кибернетики Дальневосточного филиала Сибирского отделения АН СССР под руководством Михаила Агеева (1931-2005) создала уникальный и, по сути дела, первый в мире глубоководный автономный обзорно-поисковый робототехнический комплекс, включавший АНПА Л-1 с глубиной погружения 2000 м и Л-2, нырявший на 6000 метров. Последний аппарат считается одним из самых выдающихся технических достижений ХХ века наряду с первым искусственным спутником Земли и космическим аппаратом «Восток». В основу разработки АНПА была положена модульная технология, предусматривавшая унификацию всех основных конструктивных элементов и получившая затем развитие во всех последующих аппаратах дальневосточных специалистов. Создание автоматических подводных аппаратов и морских подводных объектов изучалось и практиковалось российскими учеными с прошлого века. Последняя четверть прошлого века может быть названа особо продуктивной в плане развития технологий создания таких аппаратов. Значительный вклад в разработку технической стороны вопроса внесли ученые Института проблем морских технологий ДВО РАН [2; 3; 4; 5; 6].
В 80-х годах прошлого века несколько моделей АНПА многократно совершали глубоководные погружения, а также использовались для исследования затонувших кораблей и подводных лодок. В 1988 г. Михаил Агеев (с 1992 г. - академик РАН) возглавил созданный под его руководством Институт проблем морских технологий (ИПМТ) ДВО РАН. В нем продолжилось создание экспериментальных образцов уникальных подводных роботов. Естественно, в годы перестройки и последовавшей за ними эпохи неокапитализма работы эти затормозились, но не остановились. В известном смысле рыночные отношения выручили институт, поскольку ему разрешили продавать интеллектуальную собственность, за которой выстроилась длинная очередь из иностранных клиентов. И многие современные зарубежные АНПА по праву можно назвать потомками Л-1 и Л-2. Более десяти лет назад специалистами ИПМТ был разработан автономный необитаемый подводный аппарат
нового поколения «Клавесин-1Р». С тех пор ряд научных центров Российской Федерации занимаются разработкой и созданием новых модификаций АНПА.
В свою очередь, первый комплексный исследовательский и практический опыт разработки и использования автономных необитаемых подводных аппаратов и робототехнических комплексов был получен США. В настоящее время имеется достаточно солидное количество литературы, аналитических материалов, данных о реализации военных и гражданских стратегий развития НПА, техническое описание действующих НПА и проектируемых роботизированных технологий и комплексов в этой сфере. Эти теоретико-практические, технические и информационные материалы имеются в англоязычных источниках, а также представлены на языках других стран, занимающих ведущие позиции в этой сфере. Отметим, что первоначальные наработки, данные стратегических исследовательских программ и конкретных НИОКР, о которых говорилось выше, стали теоретико-практической базой для развития исследований и разработок НПА в России, Южной Корее, Франции, Норвегии, КНР и других странах.
В целом опыт НИОКР и применения первых образцов НПА позволяет сделать три основных вывода, которые стимулировали дальнейшее развитие этой сферы в ведущих странах мира.
Во-первых, разработка и использование НПА показало перспективность и значительный потенциал развития автономных аппаратов и роботизированных технологий для обеспечения гражданских нужд (исследование морского дна, шельфов и др.) и развития традиционных сил и средств ВМС (изменения стратегий и характера морского боя, тактики применения флота и проч.) [7-12].
Во-вторых, разработка и постановка на производство НПА (как части отраслей судостроения и приборостроения) из-за своей малой материалоемкости и трудоемкости не оказывают пока решающего влияния на динамику развития производственных сил страны, но из-за своей научной сложности способствуют развитию и продвижению высокоэффективных технологий, которые могут быть использованы как в традиционных, так и в принципиально новых системах гражданской и военно-морской техники [13-17].
В-третьих, применение автономных устройств на основе дистанционного управления вызвало целый ряд проблем, которые ранее невозможно было прогнозировать. Например, у большинства операторов и наводчиков по истечении контракта диагностировали признаки посттравматического стрессового расстройства, повышенной психологической возбудимости, быстрого профессионального выгорания и проч. [18-20]. Все это стимулирует развитие режимов автономности и самостоятельности функционирования беспилотников, создание новых форм и видов взаимодействия человека и машины, проработки возможных рисков и угроз, а также вопросов страхования и проблем возмещения ущерба.
На основании этих фундаментальных исследований и концептуальных выводов технологии разработки и производства автономных НПА и их основных систем были отнесены к направлениям, носящим стратегический характер, а научно -исследовательские и опытно-конструкторские работы по проблемам их разра-
ботки, использованию, стимулированию и регулированию объявлены приоритетными.
Теоретико-методологические основы и принципы исследования
Формирование правовой концепции и разработка этических стандартов должны учитывать следующую комплексную программу, основанную на нормативной триаде:
1) универсальный, общечеловеческий уровень, связанный с общими принципами и моделями регулирования роботизированных технологий и стандартов роботоэтики;
2) социально-нормативные системы, формируемые в рамках определенной среды, обусловленной социокультурным и историческим контекстом, где любое взаимодействие (или процесс) теоретически и мировоззренчески нагружен и обусловлен социокультурными факторами и доминантами;
3) это требования, с одной стороны, формально-юридического языка и юридической техники, посредством которых и реализуется нормативно-правовое регулирование данной сферы взаимодействия, с другой - требования математического, алгебраического, программного языка и инженерно-технических моделей, методов и стандартов (в разработке автономных аппаратов, их функционировании, программном обеспечении и проч.), которые также должны стать неотъемлемой частью нормирования и регулирования.
Следовательно, необходимы диалог и совместные фундаментальные исследовательские проекты между инженерами, юристами, программистами и т.п. В этой связи настоящий проект ориентирован на постдисциплинарную стратегию исследования [21], которая выстраивается не на основе какой-либо дисциплины, задавая и ограничивая тем самым проблемное поле и теоретико-методологический арсенал. Напротив, работа коллектива направлена на формирование комплексной предметной ориентированности, которая не ограничивается строгими дисциплинарными рамками, «втягивая» в коммуникативный процесс достижения и положения, прежде всего, различных социально-гуманитарных наук, вовлекая категории, понятия и идейно-концептуальные новации естественно-технических наук. Примером последнего являются такие понятия и категории, как конвергенция (смешивание, схождение, сближение материалов, веществ и т.п.), применяемая в политико-правовой системе знания для описания переходных, смешанных политических систем; идейно-концептуальные новации синергетики, органично вошедшие в систему гуманитарных исследований. Другой пример - формирование философской системы, основанной на математическом обосновании и моделировании социального, правового и политического Алена Бадью [22].
В качестве других важных и системообразующих методологических принципов, на которые опирается настоящее исследование, можно выделить:
1) принцип дополненности в понимании специфики поведения и взаимодействия людей и роботизированных аппаратов правовой сфере, когда, с одной стороны, имеющие место правовые институты, структуры и механизмы во многом обусловливают человеческую активность, задают нормы и стандарты разработки
аппаратного обеспечения, модели использования роботизированных устройств, характер и направленность их использования, а с другой - эффективность и устойчивость конкретных практик применения и взаимодействия предопределяются «субъективным фактором»;
2) принцип «понимающей интерпретации», т.е. концепция правового регулирования роботизированных технологий выстроена методами понимания и объяснения, что в целом соответствует эвристическим установкам постнеклассической (понимающей) науки. Именно такой подход и позволил рассмотреть сферу правовой повседневности во взаимодействии человека и роботизированных устройств, конвергенции человеческих когнитивных структур и «искусственных интеллектуальных систем», особенности совместной активности (социальное действие и взаимодействие с использованием роботизированных и цифровых технологий);
3) принцип социально-правовой конвенциональности означает, что действующие в обществе ценностно-нормативные системы имеют конкретно-исторический и социально-коммуникативный характер, который по аналогии переносится на структурирование и упорядочивание в сфере взаимодействия человека и роботизированных технологий. При формировании правовой концепции регулирования последнего необходимо учитывать как этот «перенос», так и конвергенцию социально-нормативных регуляторов с новыми формами и способами регулирования специфических отношений взаимодействия человека и машины (например, личности и роботизированных аппаратов, функционирующих на основе «слабого искусственного интеллекта»), человека и цифровой, электронной личности (например, личности и автономных роботизированных аппаратов, функционирующих на основе «сильного искусственного интеллекта»);
4) принцип целостности - представляет собой методологический принцип системного и органичного единства, взаимодействия и взаимообусловленности всех элементов социально-правовой и цифровой жизнедеятельности общества, комплексного учёта ценностно-нормативных, этических и правовых элементов, цифровых и технологических стандартов;
5) принцип объективности - как методологический принцип настоящего исследования предполагает ориентацию на реконструкцию существующих представлений и характеристик юридического и инженерно-технологического мировоззрения, влияние последнего на процессы моделирования развития робототехники и нормирования развития последнего;
6) принцип достоверности - ориентирует на согласование получаемых выводов и положений с имеющимися теоретико-методологическими достижениями социально-гуманитарных и технических наук, аналитическими и эмпирическими данными, экспертными позициями и технологическими разработками;
7) инструментально-правовой реализм - означает познание факторов и доминант, влияющих на развитие автономных роботизированных технологий, необходимых не только для формирования правовой концепции опережающего юридического моделирования, но и для управления реально существующими социально-технологическими явлениями и процессами;
8) методологический принцип (обоснован Анн-Мари Мол и Джоном Ло [23]) -люди, вещи, машины совместно формируют особые, специфические отношения, в рамках которых складывается, опосредуется, опредмечивается и определяется каждое из них. Данный принцип назван исследователями «метод-сборка», он ориентирует на комплексный анализ, как создаются эти специфические отношения и как они разворачиваются, а главное, что в этих отношениях технологии и машины рассматриваются в качестве неотъемлемых «агентов» (Б. Латур) [24], формирующих и влияющих на практическую деятельность и ее характер. При этом в рамках этих подвижных и постоянно изменчивых отношений всегда существуют общие условия и формы организации («формы сборки»), необходимые для их существования и развития, будучи множественными, они сохраняют и преобразуются в качестве определенного целого (И. Красавин) [25]. Именно эти идейно-концептуальные ориентации позволят осуществить социально-правовое моделирование общих условий, форм и моделей возможного общего и конкретного развития отношений в новой цифровой реальности.
Основная часть
Следует констатировать, что правовое и деонтологическое регулирование процессов внедрения и использования подводных роботизированных технологий, разработки и применения систем искусственного интеллекта в НПА на сегодняшний день отличается фрагментарностью и бессистемностью. Решение вышеобозначенной проблематики во многом связано с поэтапной и комплексной проработкой общих концептуальных, доктринальных и теоретико-практических вопросов. Разрешение последнего можно условно представить в четырёх ключевых и взаимосвязанных направлениях.
1. Формирование, адаптация и содержательная корректировка ключевых понятий и категорий, фиксирующих сущность, социальное назначение, опыт, характер и типичные модели использования автономных НПА. На сегодняшний день проблема заключается в том, что все основные параметры, характер и специфика функционирования роботизированных технологий (РТ), развитие искусственного интеллекта (ИИ) в автономных аппаратах описываются в рамках естественно-технической области знания.
Основные понятия этом содержательно не конкретизированы и используются в качестве научных метафор (например, «искусственный интеллект», «робот» и др. - сущностно оспариваемые понятия), которые трудно перевести в «юридическую оболочку», формализовать их в легальные дефиниции и предложить типичную нормативную модель их регулирования. При этом основные процессы прогнозирования развития РТ и ИИ описываются совершенно в ином дискурсе, как правило, с использованием аппарата математического моделирования. В этом аспекте затруднено опережающее правовое моделирование (ключевое направление развития, по справедливому утверждению академика Д. А. Керимова [26], правового пространства в XXI веке) трансформации общественных отношений, связанных с использованием РТ и ИИ.
Основная проблема здесь заключается в том, что в предлагаемых проектах правового регулирования и нравственно-этического кодирования РТ и ИИ происходит искусственный перенос сложившихся моделей регулирования и этических стандартов на принципиально новые отношения (взаимодействие человека и роботизированных технологий, цифровые отношения и т.п.). Например, в проекте Федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» (проект, разработанный Grishin Robotics) используются типичные нормативные модели регулирования частно-правовых отношений, которые практически зеркально переносятся на отношения человека и робота (робота-агента).
Конечно, социальная ценность юридической нормы заключается в том, что в ней в концентрированном виде выражается опыт человеческого взаимодействия, поскольку она отражает не единичные случаи, а охватывает наиболее типичные, часто повторяющиеся формы и модели поведения. Для многих эффективность правовой нормы обусловлена тем, что последняя фиксирует образцы поведения, которые уже устоялись и имеют позитивное значения для сохранения и развития личности, общества, государства. Такие нормы позволяют обеспечить стабильность и долговременность отношений. Этим обеспечивается предсказуемость поведения всех субъектов сообщества, тем самым выстраивается определенный порядок их взаимоотношений в разных сферах (социальный порядок, правопорядок, политический, экономический и т.д.). Однако формирование порядка и режимов взаимодействия в сфере развития РТ и ИИ в таком формате не позволяет обеспечить эффективность регулирования инновационных и роботизированных процессов в обществе, поскольку последние стремительно эволюционируют, а типичных моделей отношения человека, РТ и ИИ не сформировано.
Очевидно, что государство, как выразитель общественных интересов устанавливает не только конкретные правила поведения, гарантирующие определенный вид и меру взаимодействия субъектов, их взаимные права и обязанности, но и исходные нормы, фиксирующие принципы и приоритеты развития общественных отношений, т.е. государство определяет правовые рамки последующего развития общества. В юридической теории такая деятельность рассматривается по двум направлениям: 1) реальное отражение и закрепление сложившихся моделей общественного взаимодействия, 2) опережающее отражение регулируемых общественных отношений, т.е. законотворческий процесс, в котором опыт прошлого и настоящего проецируется на будущее.
В этом плане настоящий проект ориентирован на принципиально иной подход. Исследовательский коллектив убежден, что адаптация действующих нормативных моделей и юридико-техническая «подгонка» имеющихся нормативных образцов к принципиально новой сфере общественных отношений будет, мягко говоря, неэффективной. В целом эти отношения выступают принципиально иными. В этом аспекте можно говорить о конвергенции социального, цифрового, виртуального,
робототехнического, что требует совершенно иного подхода к нормированию их развития.
Решение этой проблемы необходимо начинать с формирования концепции опережающего правового моделирования, создания общей доктрины, методологии и стандартизации процессов разработки автономных аппаратов, программного обеспечения, прогнозирования отношений между человеком и машиной и проч. И лишь потом возможны реализация комплексной программы законодательных изменений, разработка соответствующих подотраслей и отдельных отраслей права.
Именно этим путем идут исследовательские коллективы Европейского союза, США, Ю. Кореи и других ведущих стран. Например, в ходе саммита ЕС в октябре 2017 года было принято решение о формировании в 2018 году европейской концепции правового и этического регулирования РТ и ИИ. В официальных документах саммита говорится о формировании доктрины опережающего развития и разработке ключевых тенденций и направлений регулирования этой сферы, на основании которых далее предлагается разрабатывать соответствующие правовые акты и этические стандарты.
2. Специфичность, сложность и комплексность отношений в сфере развития автономных роботизированных аппаратов, программного обеспечения к ним требуют принципиально иные исследовательские стратегии. Необходимы диалог и совместные фундаментальные исследовательские проекты между инженерами, юристами, программистами и т.п. Конечно, в настоящее время реализуются междисциплинарные исследования в этой сфере, заявленная проблематика анализируется комплексно, вовлекаются в процесс познания достижения ряда естественных и гуманитарных наук. Однако в подавляющем большинстве закладывают в основание междисциплинарного подхода «слабую исследовательскую позицию». Здесь настройка «исследовательской оптики», тематизация проблематики, формулирование гипотез, категорий, понятий преимущественно реализуется и контролируется дисциплинарным стилем мышления.
Так, достаточно часто исследования «вовлекают» материал из различных естественно-технических и социально-гуманитарных систем знания с целью сформировать иной подход к пониманию и значению отдельных феноменов и процессов. Однако последний структурируется на основе «дисциплинарных доминант», что не позволяет выйти за установленные границы, сформировать иную программу и «процедуру истины». Вовлекая в программу исследования новые формы познания и регистры мысли, исследователи размещают их в «устоявшуюся теоретико-концептуальную колею», что в конечном итоге ведет к вечному возвращению той же самой идейно-смысловой (дисциплинарной) основы, не позволяющей помыслить феномен иначе.
Другой аспект заключается в том, что неопределенность понятий «искусственный интеллект», «робот», «роботизированные технологии» и проч. не только создает теоретические пробелы в правоведении, но и, что более существенно, не позволяет законодательно регламентировать значительную часть государственно-правового механизма управления процессами, связанными с распространением и
применением автономных аппаратов, искусственного интеллекта, роботов. В этом плане настоящий исследовательский проект ориентирован на выработку теоретико-методологического понимания и определения ключевых категорий и понятий, что дает возможность привести фактически существующие правовые режимы функционирования госаппарата в соответствие с новыми реалиями развития общественных отношений, технологий и инновационных процессов в различных сферах жизнедеятельности общества.
3. Другим важным направлением развития кроме концептуально-правового оформления категориально-понятийного аппарата и формирования теоретико-методологической концепции развития правового регулирования инновационных процессов является совершенствование юридической техники. Развитие данного направления в юридической науке и сам процесс совершенствования юридической техники позволят приступить к разработке и принятию целого пакета нормативно-правовых актов, которые бы сформировали общие правовые рамки развития РТ и ИИ в современном обществе. В обсуждаемом аспекте необходимо создание и новой теоретико-правовой концепции юридического субъекта, так называемого электронного субъекта права и возможности формирования концепции юридической и нравственно-этической ответственности разработчиков программного обеспечения и искусственного интеллекта.
В современном правоведении данная проблематика пока не получила должной разработки. В качестве первых попыток можно назвать только отдельные статьи, в которых поднимаются вопросы правового регулирования в сфере робототехники и искусственного интеллекта, применения беспилотных аппаратов (например, отдельные законодательные новации в Воздушный кодекс РФ). В то же время применение автономных НПА и ответственность за их использование вообще не получают правовой регламентации ни на уровне действующего национального законодательства, ни в модельных актах международно-правового уровня. Так, на международном уровне правовой статус традиционных подводных аппаратов определяется Конвенцией по морскому праву 1982 г. (ст. 87 Конвенции предоставляет свободу судоходства и свободу научных исследований, в том числе при помощи беспилотных глубоководных аппаратов в открытом море). Отдельные права предоставлены и в исключительной экономической зоне, если они не наносят ущерб прибрежному государству, а на проведение исследований получено согласие со стороны прибрежного государства в соответствии со ст. 246 Конвенции.
Сложность формирования правовых основ использования НПА, а также правовых режимов функционирования беспилотных подводных аппаратов связана с практикой многочисленных двухсторонних соглашений между государствами. Например, 28.11.2015 г. Россия ратифицировала «Соглашение между Правительством Российской Федерации и Правительством Финляндской Республики о сотрудничестве и взаимодействии в оказании услуг по ледокольной проводке судов в Балтийском море». В то же время никакой специальной правовой регламентации режима автономных НПА на международном уровне не существует.
В этом плане необходимо разработать модельные доктринально-правовые основы и деонтологические стандарты, которые бы могли быть применимы как на уровне действующего законодательства, так и в контексте международно-правовой политики российского государства. Стремительное развитие роботизированных технологий и автономных аппаратов формирует ключевую потребность современности - вопросы правового регулирования отношений, связанных с применением РТ и ИИ. При этом государство, которое разработает эффективные правовые модели и законодательные основы регламентации в этой сфере, сможет выиграть в острой конкурентной борьбе, сформировать международно-правовые стандарты и образцы для других стран.
Другой важный и логический этап работы исследовательского коллектива связан с решением теоретико-практических проблем. Он ориентирован на обоснование и разработку необходимых изменений в отраслевом законодательстве, требуемых для создания правового регулирования использования автономных НПА, которые широко начинают применяться в различных сферах жизнедеятельности общества.
При этом теоретико-практические разработки следует дифференцировать на четыре условных блока:
- концептуально-правовое оформление ключевых понятий и отношений, формирование доктринально-правовых основ и приоритетных направлений правовой политики государства в сфере развития РТ и ИИ, разграничение и формирование соответствующих правовых режимов функционирования автономных устройств на основе «слабого ИИ» (автономно функционирующее устройство, выполняющее определенные задачи, заложенные и контролируемые программным обеспечением и (или) оператором) и «сильного ИИ» (автономно функционирующее устройство, самостоятельно воспринимающее внешнею среду, принимающее решение, выбирающее или корректирующее модель взаимодействия, режим работы и проч.);
- законодательные новации, связанные со стимулированием развития роботизированных и цифровых технологий, программного обеспечения, искусственного интеллекта, их внедрение в общественные процессы с целью улучшения качест-важизни граждан;
- нормативно-правовое регулирование РТ и ИИ в контексте обеспечения национальной безопасности, прав, свобод и законных интересов граждан;
- разработка и внедрение этических стандартов, метрических сертификатов и проч. в развитие робототехники и искусственного интеллекта, которым должны следовать разработчики, производители и пользователи инновационных технологий.
Кроме того, в ближайшее время актуальными и востребованными станут формирование теоретико-правовой системы аргументации и проработка вопроса о создании новой подотрасли в морском праве, регламентирующей отношения, связанные с разработкой и использованием автономных НПА, а также последующим формированием отдельной комплексной отрасли права - робототехнического права, обладающего самостоятельным предметом и методом правового регулирования. В качестве предмета данной отрасли права должна выступить совокупность
юридических норм, регулирующих общественные отношения в сфере разработки и производства программного обеспечения, использования роботизированных технологий и автономных аппаратов на основе ИИ. В эту комплексную отрасль права должны будут войти: 1) нормы публичного права - конституционного, уголовного, административного, земельного, морского, водного, воздушного и т.д., которые основываются на императивном правовом регулировании и обеспечивают охрану прав, свобод и законных интересов всех участников правовых отношений, а также обеспечивают национальную безопасность российского государства и устойчивое национальное развитие; 2) правовые нормы отраслей частного права, которые формируют специфические правовые режимы взаимодействия субъектов, исходящих из равного правового статуса и автономности участников данных отношений.
4. Следующая группа проблем связана с описанием и конкретизацией субъектов права, а также формированием концепции социальной (нравственно-этической и юридической) ответственности, возникающей в контексте применением автономных НПА (основанных как на слабом искусственном интеллекте НПА-сИИ и сильном искусственном интеллекте - НПА-СИИ). Очевидно, что последнее вызвано постоянным ростом потенциально опасных систем и технологий, функционирующих автономно.
Здесь также условно можно выделить четыре группы проблем.
Первая связана с определением новой группы объектов правовых отношений и субъектов права (цифровой личности, автономного роботизированного устройства). Необходимо в этом плане сформировать правовую концепцию, моделирующую функционирование автономных систем в качестве интеллектуальных аппаратов, реализующих не только определенную активность в социальной сфере, но и ряд когнитивных функций.
Вторая группа связана с этическими стандартами и требованиями, регулирующими процессы разработки программного обеспечения и внедрения автономных систем в жизнедеятельность общества. При этом важно учитывать ряд аспектов: во-первых, необходима формализация этических норм, адекватных для регулирования специфических отношений и инновационных процессов, а также и связанность последних с действующими ценностно-нормативными системами в обществе (национального и международно-правового уровней); во-вторых, прогнозирование и моделирование влияния таких норм на развитие РТ и ИИ, отдельных автономных систем и роботизированных технологий. В настоящее время только появляются проекты такого этического кодирования развития РТ и ИИ. Например, версия этического стандарта «Ethically Aligned Design» по созданию роботов и искусственного интеллекта Института инженеров электротехники и электроники (IEEE), где обосновывается, что автономные аппараты и интеллектуальные системы должны функционировать на основе системы человеческих ценностно-нормативных и этических регуляторов в соответствии с универсальным стандартом прав и свобод человека. Ряд ведущих государств высказывают предложение о формировании Всеобщей декларации робототехники и этических стандартов развития программного обеспечения, основанного на системах искусственного интеллекта.
Третья группа связана со страхованием ответственности за причинение вреда здоровью, правам и свободам, законным интересам субъектов права в процессе использования РТ и ИИ. Скорость развития самостоятельности робототехники и уровня автономности делает установление виновного субъекта, несущего ответственность за нанесенный ущерб, весьма сложной процедурой. В этом плане необходима разработка системы обязательного страхования рисков, потенциальных угроз, связанных с функционированием робототехники и ИИ.
И, наконец, четвертая группа проблем касается гармонизации различных нормативно-правовых систем, регламентирующих жизнедеятельность общества и функционирование роботизированных технологий. Это ключевая проблема, которую необходимо ставить при разработке любых проектов нормативного опосредования отношений. Все разнообразные социальные регуляторы всех уровней, в том числе и нормативный, должны согласовываться и действовать максимально непротиворечиво, именно такой подход, как утверждал академик Г.В. Мальцев [27], может выступить гарантией для формирования гармоничной системы развития общественной системы и ее стабильности.
Выводы
Таким образом, основными направлениями доктринально-правового и этического регулирования процессов разработки и применения роботизированных технологий и систем искусственного интеллекта в настоящее время должны выступить:
- решение теоретико-концептуальных проблем в описании РТ и ИИ, т.е. остро стоит вопрос о формировании, адаптации и содержательной корректировке ключевых понятий и категорий, фиксирующих сущность, социальное назначение, опыт, характер и типичные модели использования систем искусственного интеллекта и роботизированных технологий;
- важнейшими приоритетами развития юридической науки и практики являются формирование теоретико-методологической концепции развития правового регулирования инновационных процессов, а также совершенствование юридической техники, обеспечивающие перевод специфических отношений в обсуждаемой инновационной сфере в «юридическую оболочку» (норму права, юридические комплексы и проч.);
- ключевой задачей ближайшего десятилетия станет разработка и принятие целого пакета нормативно-правовых актов, которые бы обозначили общие правовые рамки развития РТ и ИИ в современном обществе, а также правовой концепции юридического субъекта (электронного субъекта права, цифровой личности и проч.) и концепций юридической и нравственно-этической ответственности разработчиков программного обеспечения и искусственного интеллекта. Кроме того, в ближайшие годы должны появиться модельные доктринально-правовые основы и деонтологические стандарты, которые как на уровне действующего законодательства, так и в контексте международно-правовой будут формировать ключевые формы, принципы, приоритеты и направления развития РТ и ИИ;
- в ближайшее время актуализируются вопросы проработки и формирования новых подотрасли в морском, воздушном, гражданском и других отраслей права,
регламентирующие отношения, связанные с разработкой и использованием РТ и ИИ, а также последующим формированием отдельной комплексной отрасли права - робототехнического права, обладающего самостоятельным предметом и методом правового регулирования;
- в ближайшее время возникнет острая конкуренция в разработке и внедрении этических стандартов, метрических сертификатов и проч. в развитии робототехники и искусственного интеллекта, которым должны следовать разработчики, производители и пользователи инновационных технологий;
- важным направлением является страхование ответственности за причинение вреда здоровью, правам и свободам, законным интересам субъектов права в процессе использования РТ и ИИ. Скорость развития самостоятельности робототехники и уровня автономности делает установление виновного субъекта, несущего ответственность за нанесенный ущерб, весьма сложной процедурой. В этом плане необходима разработка системы обязательного страхования рисков, потенциальных угроз, связанных с функционированием робототехники и ИИ.
1. Илларионов Г.Ю., Сиденко К.С., Бочаров Л.Ю. Угроза из глубины: XXI век. Хабаровск: КГУП «Хабаровская краевая типография», 2011. 304 с.
2. Автоматические подводные аппараты / М. Д. Агеев, Б. А. Касаткин, Л.В. Киселев и др. Л.: Судостоение, 1981. 224 с.
3. Лукомский Ю. А., Чугунов В.С. Системы управления морскими подвижными объектами. Л.: Судостроение, 1988. 403 с.
4. Пантов Е.Н., Махинин Н.Н., Шереметов Б.Б. Основы теории движения подводных аппаратов. Ленинград: Судостроение, 1973. 216 с.
5. Филаретов В.Ф., Лебедев А.В., Юхимец Д. А. Устройства и системы управления подводных роботов / отв. ред. Ю.Н. Кульчин; Ин-т автоматики и процессов управления ДВО РАН. М.: Наука, 2005. 270 с.
6. Шостак В.П. Подводные аппараты-роботы и их манипуляторы. М.: ГЕОС, 2011. 134 с.
7. Allen B., Vorus W., Prestero T. Propulsion System Performance Enhancements on REMUS AUVs, 0CEANS-2000 Proceedengs, MTS/IEEE, Vol. 3.
8. Ayers J., Davis J.L., Rudolf A. Neurotechnology for Biomimetic Robots. Cambridge, MA: MIT Press., 2002.
9. Bellingham J.G. New Oceanografic Uses of Autnomos Underwater Vehicle // MTS Journal. 1998. Vol. 31. № 3.
10. Bovio E. Autonomous Underwater Vehicles (AUVs) for port protection, SACLANTCEN SR - 401, August 2004.
11. Report NATO; Defense Technology Objectives of the Joint Warfighting Science and Technology Plan and the Defense Technology Area Plan. Department of Defense, Deputy Under Secretary of Defense (Science & Technology). February. 2003.
12. Stewart M.S., Pavlos J. Means to Networked Persistent Uhdersea Surveillance. 2006. Submarine Technology Symposium. May, 2006.
13. Агеев М.Д., Киселев Л.В., Матвеенко Ю.В. Автономные подводные роботы. Системы и технологии / под ред. акад. М.Д. Агеева. М.: Наука, 2005.
14. Агеев М.Д., Наумова Л.А., Иларионов Г.Ю. Необитаемые подводные аппараты военного назначения / под ред. акад. М. Д. Агеева. Владивосток: Дальнаука, 2005.
15. Илларионов Г.Ю., Сиденко К.С., Бочаров Л.Ю. Угроза из глубины: XXI век. Хабаровск: КГПУ «Хабаровская краевая типография», 2011.
16. Попов И.М. Война будущего: взгляд из-за океана. Военные теории и концепции современных США. М.: АСТ-Астрель, 2004.
17. Сиденко К.С., Илларионов Г.Ю. Применение автономных подводных роботов в войнах будущего // Арсенал (военно-промышленное обозрение). 2008. № 2.
18. Powers M. Confessions of Drone Warrior [Электронный ресурс]. URL: http://www. informationclearinghouse.info/article36647.htm.
19. Вахштайн В. Пересборка повседневности: беспилотники, лифты и проект ПкМ-1 // Логос. 2017. Т. 27. № 2.
20. Деланда М. Война в эпоху разумных машин. М.: Кабинетный ученый, 2015.
21. Interdisciplinary and "post-disciplinary" approaches in the archetypal studies of the public-power organization of society / P. Baranov, A. Mamychev, A. Ovchinnikov, G. Petruk, V. Krupnitskaya // Man in India. 2017. Vol. 97. No 23. Р. 375 - 387.
22. Бадью А. Философия и событие. Беседы с кратким введением в философию Алена Бадью. М.: Институт Общегуманитарных Исследований, 2016. 192 с.
23. Ло Дж. После метода: беспорядок и социальная наука. М.: Изд-во Института Гайдара, 2015. 352.
24. Латур Б. Пересборка социального: введение в акторно-сетевую теорию. М.: Изд. дом Высшей школы экономики, 2014. 384 с.
25. Красавин И. Techne. Сборка общества. М.: Кабинетный ученый, 2013. 596 с.
26. Керимов Д. А. Методология права (предмет, функции, проблемы философии права). 2-е изд. М.: Аванта+, 2001. 560 с.
27. Мальцев Г.В. Социальные основания права. М.: Норма; ИНФРА-М, 2011. 800 с.
Транслитерация
1. Illarionov G.Yu., Sidenko K.S., Bocharov L.Yu. Ugroza iz glubiny: XXI vek. Khabarovsk: KGUP «Khabarovskaya kraevaya tipografiya», 2011. 304 p.
2. Ageev M.D., Kasatkin B.A., Kiselev L.V. i dr. Avtomaticheskie podvodnye apparaty. L.: Sudostoenie, 1981. 224 p.
3. Lukomskii Yu.A., Chugunov V.S. Sistemy upravleniya morskimi podvizhnymi ob"ektami. L.: Sudostroenie, 1988. 403 p.
4. Pantov E.N., Makhinin N.N., Sheremetov B.B. Osnovy teorii dvizheniya podvodnykh apparatov. Leningrad: Sudostroenie, 1973. 216 p.
5. Filaretov V.F., Lebedev A.V., Yukhimets D.A. Ustroistva i sistemy upravleniya podvodnykh robotov / Otv. red. Yu.N. Kul'chin: In-t avtomatiki i protsessov upravleniya DVO RAN. M.: Nauka, 2005. 270 p.
6. Shostak V.P. Podvodnye apparaty-roboty i ikh manipulyatory. M: GEOS, 2011. 134 p.
7. Allen B., Vorus W., Prestero T. Propulsion System Performance Enhancements on REMUS AUVs, OCEANS-2000 Proceedengs, MTS/IEEE, Vol. 3.
8. Ayers J., Davis J.L., Rudolf A. Neurotechnology for Biomimetic Robots. Cambridge, MA: MIT Press., 2002.
9. Bellingham J.G. New Oceanografic Uses of Autnomos Underwater Vehicle, MTS Journal, 1998, Vol. 31, No 3.
10. Bovio E. Autonomous Underwater Vehicles (AUVs) for port protection, SACLANTCEN SR - 401, August 2004.
11. Report NATO; Defense Technology Objectives of the Joint Warfighting Science and Technology Plan and the Defense Technology Area Plan. Department of Defense, Deputy Under Secretary of Defense (Science & Technology). February. 2003.
12. Stewart M.S., Pavlos J. Means to Networked Persistent Uhdersea Surveillance. 2006. Submarine Technology Symposium. May, 2006.
13. Ageev M.D., Kiselev L.V., Matveenko Yu.V. Avtonomnye podvodnye roboty. Sistemy i tekhnologii / Pod red. akad. M.D. Ageeva. M.: Nauka, 2005.
14. Ageev M.D., Naumova L.A., Ilarionov G.Yu. Neobitaemye podvodnye apparaty voennogo naznacheniya / Pod red. akad. M.D. Ageeva. Vladivostok: Dal'nauka, 2005.
15. Illarionov G.Yu., Sidenko K.S., Bocharov L.Yu. Ugroza iz glubiny: XXI vek. Khabarovsk: KGPU «Khabarovskaya kraevaya tipografiya», 2011.
16. Popov I.M. Voina budushchego: vzglyad iz-za okeana. Voennye teorii i kontseptsii sovremennykh SShA. M.: Izdatel'stvo AST-Astrel', 2004.
17. Sidenko K.S., Illarionov G.Yu. primenenie avtonomnykh podvodnykh robotov v voinakh budushchego, Arsenal (voenno-promyshlennoe obozrenie), 2008, No 2.
18. Powers M. Confessions of Drone Warrior. URL: http://www.informationclearinghouse.info/ article36647.htm.
19. Vakhshtain V. Peresborka povsednevnosti: bespilotniki, lifty i proekt PkM-1, Logos, 2017, vol. 27, No 2.
20. Delanda M. Voina v epokhu razumnykh mashin. M.: Kabinetnyi uchenyi, 2015.
21. Baranov P., Mamychev A., Ovchinnikov A., Petruk G., Krupnitskaya V. Interdisciplinary and "post-disciplinary" approaches in the archetypal studies of the public-power organization of society, Man in India, 2017, Vol. 97, No 23, pp. 375-387.
22. Bad'yu A. Filosofiya i sobytie. Besedy s kratkim vvedeniem v filosofiyu Alena Bad'yu. M.: Institut Obshchegumanitarnykh Issledovanii, 2016, 192 p.
23. Lo Dzh. Posle metoda: besporyadok i sotsial'naya nauka. M.: Izd-vo Instituta Gaidara, 2015. 352 p.
24. Latur B. Peresborka sotsial'nogo: vvedenie v aktorno-setevuyu teoriyu. M.: Izd. dom Vysshei shkoly ekonomiki, 2014. 384 p.
25. Krasavin I. Techne. Sborka obshchestva. M.: Kabinetnyi uchenyi, 2013. 596 p.
26. Kerimov D.A. Metodologiya prava (predmet, funktsii, problemy filosofii prava). 2-e izd. M.:
^АЮЧМMU60f8
© Я.В. Гайворонская, 2018 © О.И. Мирошниченко, 2018
Для цитирования: Мамычев А.Ю., Гайворонская Я.В., Мирошниченко О.И. Современные доктринально-правовые и этические проблемы разработки и применения роботизированных технологий и систем искусственного интеллекта (на примере автономных необитаемых подводных аппаратов) // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. 2018. Т. 10. № 3. С. 135-150.
For citation: Mamyche A.Yu., Gaivoronskaya Ya.V., Miroshnichenko O.I. Legal and ethical problems of robotic technologies and artificial intelligence formation and application (using as an example Autonomous Underwater Vehicles - AUV) in modern doctrinal science, The Territory of New Opportunities. The Herald of Vladivostok State University of Economics and Service, 2018, Vol. 10, No 3, pp. 135-150.
DOI dx.doi.org/10.24866/VVSU/2073-3984/2018-3/135-150 Дата поступления: 14.08.2018.
