CC BY
60
УДК-340
DOI: 10.18384/2310-6794-2021-3-65-76
РАЗВИТИЕ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПЕРСПЕКТИВАХ ТРАНСФОРМАЦИИ ПРАВА: ПРАВОСОЗНАНИЕ В ПРОЕКЦИИ БУДУЩЕГО
Попова Н. Н.
Институт законодательства и сравнительного правоведения при Правительстве РФ 117218, г. Москва, Большая Черёмушкинская ул., д. 34, Российская Федерация
Аннотация
Цель. Научное рассмотрение перспектив трансформации права в связи с факторным влиянием развития технологий искусственного интеллекта (ИИ).
Процедура и методы. Был проведён анализа современного мирового футурологического и прогностического дискурса в части возможных влияний искусственного интеллекта на сферу права. Источниковую базу исследования составляют прежде всего тексты футурологического дискурса, отражающие представления о влиянии технологических изменений на сферу права. Используются также материалы социологических опросов, отражающих восприятие российским населением искусственного интеллекта и дающих соответствующие проекции в отношении диа-гностировки правосознания.
Результаты. В ходе работы были выявлены актуальные аспекты правового регулирования внедрения технологий искусственного интеллекта. Обозначены тенденции и перспективы трансформации права в области общественных отношений, связанных с использованием ИИ. Сделан вывод, что длительная процедура принятия законов отстаёт от процесса технологического обновления. Подчёркивается важность принятия на международном уровне универсальных правовых подходов к развитию технологий искусственного интеллекта, в которых бы были заложены общие принципы на длительную перспективу.
Теоретическая и/или практическая значимость. Результаты исследования вносят вклад в теорию цифрового права посредством категориального уточнения ряда понятий, создавая предпосылки дальнейшего углублённого концептуального изучения правовых явлений.
Ключевые слова: искусственный интеллект, право, правосознание, цифровизация, права человека, дискурс, новые технологии, будущее, цифровое общество
DEVELOPMENT OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES
IN THE PROSPECTS OF TRANSFORMATION OF LAW: LEGAL CONSCIOUSNESS
IN THE PROJECTION OF THE FUTURE
N. Popova
Institute of Legislation and Comparative Law under the Government of the Russian Federation 34 Bolshaya Cheryomushkinskaya ul., Moscow 117218, Russian Federation
Abstract
Aim. Scientific consideration of the prospects for the transformation of law in connection with the factor influence of the development of artificial intelligence (AI) technologies.
Methodology. An analysis of the modern world futurological and prognostic discourse was carried out in terms of the possible artificial intelligence influences on the field of law. The source basis of the study is primarily the texts of futurological discourse, reflecting ideas about the technological changes impact on the field of law. Materials from sociological surveys reflecting the perception of artificial intelligence by the Russian population and giving appropriate projections regarding the diagnosis of legal consciousness are also used.
© CC BY Попова Н. Н., 2021.
Results. During the work, topical aspects of the legal regulation of the introduction of artificial intelligence technologies were identified. Trends and prospects for the transformation of law in the field of public relations related to the use of AI are outlined. It was concluded that the lengthy procedure for adopting laws protects against the process of technological updating. The importance of adopting universal legal approaches to the development of artificial intelligence technologies at the international level, which would lay down general principles for the long term, is emphasized. Research implications. The results of the study contribute to the theory of digital law through the categorical clarification of a number of concepts, creating the prerequisites for a further in-depth conceptual study of legal phenomena.
Keywords: artificial Intelligence, right, legal awareness, digitalization, human rights, discourse, new technologies, digital society
Введение
Смены технологических укладов в истории приводили к системным изменениям в функционировании сообществ, проходивших соответствующую трансформацию. Эти изменения касались не только экономики или социальных отношений, но также социокультурной сферы и сферы права.
В марксистской традиции природа данных трансформаций рассматривалась через призму отношений базиса и надстройки. Но понятие «базис» сводило это влияние к доминанте характера производственных отношений и не учитывало собственно технологий. В этом отношении теория технологических укладов вносила важное дополнение в определение драйвера происходящих изменений в обществе, включая и правовые изменения.
Очевидно, что первые четыре технологических уклада, сопряжённых с развитием крупного индустриального производства, концентрацией труда и конвейеризаций, оказывали влияние на эволюцию права в направлении актуализации социальных гарантий человека. Пятый технологический уклад с характерным развитием постиндустриального сектора оказал, прежде всего, влияние на формирование запроса расширения спектра реализации индивидуальных потребностей, защиты автономности индивидуума. Этот вектор трансформации права зачастую экстраполировался в правовой и политологической литературе, а также публицистике на шестой и последующие технологические уклады [7; 8; 15; 31].
Однако рефлексия 2020 г. антиковидных ограничительных мероприятий вызвала
скептическое отношение к такой перспективе в развитии права. Получили развитие алармистские настроения, связанные с возможностями тотального цифрового контроля как отрицания классических норм прав человека. В любом случае очевидно, что новые, связываемые с шестым технологическим укладом, технологии приведут к кардинальным правовым изменениям. Особого внимания в этой связи заслуживает развитие технологий искусственного интеллекта [19].
Различные аспекты модернизации права в фокусе технологий искусственного интеллекта получили к настоящее время определённое отражение в научной литературе как по общей, так и отраслевой проблематике. За редким исключением такого рода разработки имели место в рамках западного научного пространства, но в последнее время они оказались представлены и российским правоведением. В этих публикациях отмечается, что законодательство не соотносится с динамикой развития технологий, а также указывалось на необходимость установления соответствующих норм на уровне международного права [5; 13; 14; 16; 17; 24].
Рассмотрение влияния цифровизации и технологий искусственного интеллекта (ИИ) на сферу права предполагает внесение соответствующих категориальных уточнений. Эти уточнения определяются неточностью перевода на русский язык базовых понятий -«цифровой» и «искусственный интеллект».
«Цифра» в английском языке, как известно, обозначается понятиями numeral и digital, имеющими различные семанти-
ческие акценты. В русском языке такого разграничения нет, и под понятие «цифра» подводится и то, что обозначается numeral, и то, что обозначается digital. Между тем numeral обозначает цифру как знак (не букву), тогда как digital - количественный ряд. Цифровизация в этом отношении относится именно к digital, подразумевая использование больших количественных данных. К новым технологическим перспективам относится понятие «диджита-лизация» (дигитализация), а вовсе не «нумерология» (учение о семантике цифры как знака). К сожалению, в российском дискурсивном пространстве эти акценты оказываются нивелированы, и цифрови-зация зачастую воспринимается не как обработка больших объёмов информации, а как сам цифровой формат.
На восприятие проблемы искусственного интеллекта в России также наложила отпечаток специфика перевода. На Западе исходно применяется понятие intelligence, подразумевающее способность к разумному рассуждению, построению соответствующих мыслительных операций. В то же время используемое преимущественно сегодня в российском дискурсивном пространстве понятие intellect указывает на некую антропоморфную субъектность, квазичеловека. Такой поворот уводит дискурс несколько в сторону от проблемы новых технологий.
Проблема правосубъектности искусственного интеллекта
Ещё в 1942 г. научным фантастом Айзеком Азимовым были сформулированы 3 закона робототехники. Никогда формы реальных законов они не принимали, представляя собой в большей степени моральные интенции в отношении перспектив развития научно-технического прогресса. Но для правосознания представления о правовой системе будущего «законы робототехники» имеют особое значение. Для футурологического дискурса они являются одной из основополагающих компонент. Законы Азимова адресованы
не человеку, а роботу - искусственному интеллекту, т. к. подразумевают, что машина сможет в будущем принимать самостоятельные решения1.
Сообразно с первым законом, робот не может действиями или бездействием причинять вред человеку. Второй закон предписывает повиноваться приказам человека, за исключением тех случаев, когда это вступает в противоречие с Первым законом. Третий закон даёт возможность роботу заботиться о своей безопасности в той степени, насколько это право не противоречит Первому и Второму законам. В дальнейшем законы уточнялись, а их перечень предлагалось расширить. Сегодня говорят о том, что законы Азимова оказываются по разным причинам в перспективе развития технологий искусственного интеллекта нефункциональны.
Фактически в 1942 г. Азимовым была предпринята первая попытка заявить искусственный интеллект (тогда это понятие не использовалось, и применялось введённое двумя десятилетиями ранее Карлом Чапеком понятие «робот») в качестве субъекта права. Казавшаяся в середине XX столетия фантастической сама постановка вопроса о правах роботов в настоящее время является «передовой» темой философско-правового дискурса. Технологии всё более приближаются к границе создания самообучающихся программ. Самообучающаяся программа уже не будет являться исключительно инструментом в руках человека -имеются прецеденты прохождения машиной «теста Тьюринга»2. Потенциально возможной оказывается ситуация выхода ИИ из-под контроля человека [3].
1 Три закона робототехники // Википедия : [сайт]. Ьйр8://ги^1к1реШа.о^М1к1/Три_закона_роботех-ники (дата обращения 10.05.2021).
2 Ваннах М. Как одессит Густман прошёл тест Тьюринга // Компьютерра : [сайт]. URL: https:// www.computerra.ru/182183/kak-odessit-gustman-proshel-test-tyuringa (дата обращения: 10.05.2021); Turing A. M. Computing Machinery and Intelligence. 1950 [Электронный ресурс]. URL: https://www.csee. umbc.edu/courses/471/papers/turing.pdf (дата обращения 10.05.2021).
Такого рода перспективы задают постановку казавшейся прежде очевидной для права проблемы определения человека. В базовых международных (например, Всеобщая декларация прав человека) и национальных правовых источниках такого определения не даётся. Природа человека подразумевается как нечто самоочевидное. Однако в связи с развитием искусственного интеллекта такая самоочевидность исчезает.
Если определять человека через наличие мышления или способность к каким-либо операциям, следует в таком случае относить к нему и искусственно созданный интеллектуальный механизм. Отдельные представители философии постмодерна, собственно, этого и добиваются, предлагая расширить границы права на обладающие человеческим интеллектом машины. Другие говорят о разработке параллельных сфер права - для людей и искусственных интеллектуальных систем [29].
Единственное фактически, во что упирается продвижение соответствующих идей, -позиция религии. Сообразно с религиозной традицией, человек отличается от любой самой интеллектуальной машины наличием души. Но религиозный фактор сдерживания постепенно ослабевает, и идеи правовой легитимизации искусственного интеллекта уже не кажутся, как прежде, некой аномалией. Символическим шагом в этом отношении являлось предоставление роботессе Софии, обещавшей уничтожить человечество, гражданства Саудовской Аравии [2].
Технологии ИИ предоставляют возможность использующим их физическим и юридическим лицам достигать гораздо более высоких результатов. Внедрение их потенциально создаёт ситуацию принципиального неравенства в конкурентной борьбе. Не исключено и возникновение устремлений применить технологии против конкурентов. На настоящее время правовых ограничений для такого применения не существует.
Позиция о неизбежности признания искусственного интеллекта в качестве особого типа личности («электронная личность») получила сравнительно широкое распро-
странение в футурологической литературе. Принятие позиции такого признания порождает другую проблему - правового разграничения человека и ИИ. В ходе обсуждения выясняется, что отсутствует конвенциональное правовое определение не только в отношении искусственного интеллекта, но и в отношении человека [6; 11].
Наиболее развёрнутая система аргументов, почему искусственный интеллект не может с юридической точки зрения получить права, которыми обладает человек, была приведена Лоуренсом Соулумом. Первый аргумент состоял в том, что по отношению к человеку используется характеристика рождённый. Соулум ссылался, в частности, на такую характеристику в Конституции США. Искусственный интеллект создаётся, но не рождается, что не даёт в рамках описываемой логики считать его человеком. Вторая группа аргументов сводится к тому, что ИИ не обладает чувством, волей, сознанием, не имеет национальности, т. е. лишён базовых характеристик для любой личности. Даже при развитии интеллектуальных навыков, самосознание у него отсутствует. Наконец, третья группа аргументов акцентирована на принадлежности искусственного интеллекта исходно какому-то владельцу, тогда как человеческий разум никому не принадлежит. Даже человек, находящийся в рабстве, в отличие от ИИ имеет внутреннюю свободу, которой нет у машины [30].
Повестка правового регулирования технологий искусственного интеллекта
Правовое регулирование в деятельности международных организаций
О рисках нарушения прав человека и права в целом при развитии искусственного интеллекта заговорили уже сравнительно давно. Ещё в 2012 г. Еврокомиссией был инициирован проект RoboLaw, цель которого состояла в проведение исследования о соотнесение новых технологий, в т. ч. искусственного интеллекта, с правовой системой Европы, о продуцируемых ими угрозах в отношении фундаментальных
прав и свобод. Сама постановка вопроса на уровне авторитетной международной организации указывала, что правовые риски действительно существуют [20; 27].
По истечении 2-х лет реализации проекта был представлен отчёт «Руководство по регулированию робототехники», направленному на выработку принципов формирования правовой среды для развития технологий ИИ. По мере продвижения в осознании продуцируемых развитием технологий искусственного интеллекта проблем сложилось представление о необходимости внесения в право моральных норм его регулирования.
Следующим шагом в 2017 г. Европарламентом были приняты Нормы гражданского права о робототехнике как платформы для дальнейшей модернизации законодательства. В 2019 г. от лица ЕС увидела свет Директива об этическом подходе к использованию искусственного интеллекта. В ней подчёркивалось, что новые технологии не должны привести к ограничению субъектности человека. Особое внимание обращалось на обеспечение контроля гражданами за своими персональными данными и запрете использования сбора и обработки посредством искусственного интеллекта сведений о людях во вред им.
Обеспокоенностью о потенциальных нарушениях прав человека мотивировалось принятие в 2019 г. Советом по правам человека ООН резолюции по вопросу о праве на неприкосновенность частной жизни в эпоху цифровых технологий. С рядом предупреждающих инициатив выступила также в этой связи ЮНЕСКО. В этой же логике находятся создание в рамках ОЭСР Рекомендаций по искусственному интеллекту и механизма мониторинга политики в области ИИ. Рабочие группы, предназначенные для рассмотрения рисков, связанных с развитием технологий искусственного интеллекта, были созданы даже Лигой арабских государств и Африканским союзом. Представленная специальной группой экспертов в сентябре 2020 г. рекомендация об этических аспектах искусственного интеллекта декларировала ряд принципов этичности, имеющих,
соответственно, и правовые проекции: соразмерность и непричинение вреда; безопасность и защищенность; справедливость и недискриминационность; устойчивость; неприкосновенность частной жизни; подконтрольность и подчинённость человеку; прозрачность и объяснимость; ответственность и подотчётность; осведомленность и грамотность; многостороннее и адаптивное управление и взаимодействие1.
Необходимо отметить, что вопросы правового регулирования вопросов, связанных с развитием робототехники и искусственного интеллекта, входят в дорожную карту принятой в 2017 г. Программы «Цифровая экономика Российской Федерации» (п. 1.8.1). Срок исполнения в дорожной карте был указан II квартал 2019 г. В этом отношении важно зафиксировать, что правовые разработки регулирования внедрения технологий искусственного интеллекта не являются отдалённой перспективой, а рассматриваются плановой задачей ближайших лет. Другая фиксация состоит в том, что срок, обозначенный дорожной картой, был нарушен, и по прошествии 2-х лет вопрос не решён. Очевидно, что его решение оказалось чрезвычайно сложной задачей, предполагающей большей определенности в понимании будущего2.
Риски нарушения прав человека
Искусственный интеллект действительно даёт возможность быстрого получения обработки огромного массива информации по следам любого человека, оставленным в интернет. На основании полученных сведений возможно манипулятивно воздействовать на человека, составлять соответствующие психограммы. Пока законодательство пы-
1 Первый проект рекомендации об этических аспектах искусственного интеллекта [Электронный ресурс]. URL: https://ifap.ru/pr/2020/n201116a.pdf (дата обращения: 10.05.2021).
2 Распоряжение Правительства Российской Федерации от 28.07.2017 № 1632-р Программа «Цифровая экономика Российской Федерации» [Электронный ресурс]. URL: http://static.govern-ment.ru/media/files/9gFM4FHj4PsB79I5v7yLVuPgu4b vR7M0.pdf (дата обращения: 10.05.2021).
тается защитить человека через запрет для организаций разглашать персональные данные, что на практике обходится фактически повсеместно, т. к. оказывается не сочетаемым с другими предписаниями. А, кроме того, и сам человек оставляет фактически ежедневно «следы» в виртуальном пространстве, и это может быть использовано искусственным интеллектом против него [4].
Наиболее резонансными из футурологи-ческих прогнозов являются, как известно, прогнозы Рэймона Курцвейла. Сообразно с ними, к 2030 г. компьютер будет вживляться в человека. Такого усовершенствованного человека нельзя назвать роботом. Но прежние касающиеся его правовые предписания утратят, очевидно, свою актуальность. Как должна быть выстроена система права для человека-киборга - на это счёт ответ пока не сформулирован [25; 26].
Антиковидная практика 2020 г., подтолкнувшая развитие цифровых технологий, вызвала рост алармистских настроений среди определённой части общества. Соответствующие настроения усилились и в оценках восприятия перспектив развития ИИ. В целом наблюдается тенденция роста негативных коннотаций, распространяемых в т. ч. на сферу правосознания [12]. Перспективы развития технологий искусственного интеллекта всё больше стали связываться с усилением контроля государства над человеком, нарушением его правовой автономности. Получил распространение концепт «цифрового тоталитаризма», в котором роль драйвера тоталитарного перехода отводится именно ИИ. И если до 2020 г. концепт воспринимался как маргинальная оппозиционность противников прогресса, то антиковидные ограничительные меры привели к кооптации в ряды его сторонников многих видных представителей общественной мысли.
Среди тех, кто предупреждает сегодня об угрозах «цифрового тоталитаризма», находится, к примеру, один из наиболее популярных мыслителей современности израильский философ и историк Юваль Харари1.
1 Harari Y. N. The world after coronavirus //
Financial Times : [сайт]. URL: https://www.ft.com/
Особую обеспокоенность в свете угроз для реализации прав человека вызывает использование технологий искусственного интеллекта в КНР, в т. ч. в связи с внедрением системы социального кредитования2.
Коллизии с закрепленными ООН правами человека и развитием технологий ИИ в возможностях их применения государством или крупными корпорациями действительно возникают. И, вероятно, также на уровне ООН должны быть приняты положения о мерах по защите прав человека в условиях цифровых трансформаций.
Проблема правовой ответственности
Проблема прав искусственного интеллекта дополняется, с другой стороны, проблемой ответственности. При использовании для противоправных деяний цифровых технологий человеком субъект ответственности очевиден. Но если соответствующее деяние было совершено самой искусственной системой в результате её саморазвития или сбоя, очевидность ответственности исчезает. При признании ответственности самого искусственного интеллекта неизбежно возникает вопрос о его правосубъектности [23].
Не ясно и какие виды ответственности должны быть предусмотрены для искусственного интеллекта. Возникают также и специфические вопросы по субъекту ответственности (например, ответственность за совершённые врачебные ошибки). А в этой связи и следующий вопрос о праве врача на передачу своих функций искусственному интеллекту [28].
content/19d90308-6858-11ea-a3c9-1fe6fedcca75 (дата обращения: 10.05.2021).
2 Mozur P. China moves towards 'digital totalitarian state' as surveillance technology continues to advance // Independent : [сайт]. URL: https://www.independent. co.uk/news/world/asia/china-technology-surveillance-network-totalitarian-state-spy-a9251971.html, Nazeer T. Digital Surveillance and 'Technological Totalitarianism' // ByLine Times : [сайт]. URL: https:// bylinetimes.com/2020/04/07/the-coronavirus-crisis-digital-surveillance-and-technological-totalitarianism; Qiang X. The rise of China as a digital totalitarian state Opinion by // The Washington Post: [сайт]. URL: https://www.washingtonpost.com/news/ theworldpost/wp/2018/02/21/china-internet (дата обращения: 10.05.2021).
Авторское право
Распространение технологий искусственного интеллекта выводит также на повестку дня вопрос о пересмотре основ авторского права. Появление новых технологий уже стало сегодня весомым аргументом для пиратских партий.
Искусственный интеллект работает с большими количественными данными, аккумулирует и перерабатывает всю находящуюся в виртуальном пространстве информацию. Авторство при такой аккумуляции нивелируется. Но ИИ создаёт на основании соответствующей переработки информации новый контент. Кто является автором этого контента и кому принадлежит право обладания? Современное законодательство в области авторского права не даёт на этот вопрос соответствующего разъяснения [9; 10]. Уже выдвигаются предложения распространения категории авторства на машину [18].
Антимонопольное законодательство
Новым явлением в экономической жизни стал феномен «цифровых картелей», в которых картельный сговор осуществляется посредством применения технологий искусственного интеллекта. С помощью новых технологий осуществляется торпедирование действия системы антимонопольного законодательства. Известны прецеденты создания работающих на торгах аукционных роботов. Мониторинг цен на рынке осуществляют ценовые роботы. Очевидно, что антимонопольное законодательство в связи с развитием технологий искусственного интеллекта требует корректировки [22].
Международное право
Перспективы развития технологий ИИ актуализируют также необходимость регулирования проблемы межгосударственного взаимодействия. Резонансно прозвучали в связи с угрозами и перспективами развития искусственного интеллекта слова Президента Российской Федерации В. В. Путина, произнесённые на всероссийском открытом уроке 1 сентября 2019 г. о
том, что монополист в этой сфере может стать властелином мира1.
Стремление к достижению монополистского положения одними геополитическими акторами и недопущение другими объективно выводит на новую фазу гонки вооружений с непредсказуемыми для человечества последствиями. Вероятный, учитывая возможности саморазвития, сбой в программах искусственного интеллекта может привести человечество к глобальной катастрофе. Уязвимость мира в этой перспективе явно возрастает. И, соответственно, предупреждением такого рода перспектив должен стать широкий международный договор при инициирующей роли ООН о запрете или ограничениях использования технологий ИИ в целях нанесения ущерба государствам, организациям, частным лицам. Очевидна при этом сложность заключения такого договора, как в силу современных межгосударственных противоречий и неравномерности технологического развития, так и ввиду недостаточной изученности потенциальных возможностей искусственного интеллекта.
Искусственный интеллект в правосознании российского общества
Отношение россиян к перспективам развития технологий ИИ были диагностированы опросом ВЦИОМ, результаты которого представлены в конце января 2020 г. Опрос проводился до введения антиковидных мер, которые, вероятно, могли бы привести к существенной коррекции общественного мнения. Тем не менее полученные данные отражают с высокой долей репрезентативности восприятие темы развития искусственного интеллекта на уровне массового общественного сознания, включая в т. ч. компоненту правосознания2.
1 Открытый урок «Россия, устремлённая в будущее» [Электронный ресурс]. URL: http://www.kremlin.ru/ events/president/transcripts/speeches/55493 (дата обращения: 10.05.2021).
2 Искусственный интеллект: угроза или возможность? URL: https://wciom.ru/analytical-reviews/ analiticheskii-obzor/iskusstvennyj-intellekt-ugroza-ili-vozmozhnost (дата обращения: 10.05.2021).
Опрос обнаружил недостаточную осведомлённость населения в отношении темы искусственного населения в целом. Четверть населения призналась, что впервые слышат о данном явлении, а ещё 46% -что не смогут объяснить его сути. В большинстве население обнаружило умеренно-оптимистическое отношение к развитию новых технологий. О своём недоверии к искусственному интеллекту заявило только 10% респондентов. При этом 34% опрошенных указало, что дальнейшее развитие технологий ИИ предполагает совершенствование законов. Такой ответ подразумевает, что законодательство на настоящее время не адаптивно к новым технологиям.
Наибольшее неприятие вызвало у населения возможность распространения технологий ИИ в сферах образования (26%), здравоохранения (24%), безопасности (20%). Важно диагностировать факт, что значительные группы общества полагают, что распространение технологий искусственного населения на эти сферы окажется нарушением прав человека. Из тех, кто выразил негативное отношение к искусственному интеллекту в целом, 9% заявило, что его внедрение является прямым нарушением действующего законодательства. Из сфер, в которых респонденты лично для себя допускали возможность использовать технологии ИИ, наименее приемлемой оказалась сфера юридических услуг. Это отражает то понимание, что законы в России не являются не столько информацией, которую можно получить при помощи соответствующих технологий, сколько интерпретацией.
К вопросам правового регулирования, судя по результатам опроса, должен быть отнесён и вопрос о гарантиях населения от безработицы при внедрении в общественную жизнь новых технологий. Об опасении потерять работу в связи с развитием искусственного интеллекта заявило 30% россиян, что является показателем достаточно больших опасений в обществе в связи с негативными последствиями технического процесса. В возрастной группе 18-24 лет опасается потерять работу в свя-
зи с развитием ИИ 20%, свидетельствуя, что решение проблемы не сводится в восприятии общества к переквалификациии. Значительная часть только входящей в профессиональную деятельность или ещё не вошедшей в неё молодежь не верит в возможность профессионально найти себя при распространении технологии искусственного интеллекта1.
Заключение
Таким образом, проблема разработки законодательства, блокировавшего бы риски развития технологий искусственного интеллекта, фиксируется в экспертном сообществе уже достаточно давно. Но существенного продвижения в её решении не происходит. Соответствующие законодательные разработки имеют преимущественно отраслевой характер и сосредоточены на отдельных сегментах проблемы. Наиболее системными оцениваются соответствующие законодательные нововведения в сфере, связанной с летательными аппаратами и беспилотными средствами [21].
Сложности проведения соответствующих разработок видятся, во-первых, в том, что законодательство объективно отстаёт от динамики технологического развития. Достаточно длительная процедура принятия законов отстаёт от процесса технологического обновления. Непривычной является и предполагаемая в этой связи модель постоянной законодательной модернизации, коррелируемой с изменениями технологий. То, что такой подход может привести к правому хаосу в целом, а не только в сфере искусственного интеллекта, очевидно. Отсюда как выход выдвигается второй подход о разработке, вероятно на международном уровне, универсальных правовых подходов к развитию технологий ИИ, в которых были бы заложены общие принципы на длительную перспективу.
1 Искусственный интеллект: угроза или возможность? [Электронный ресурс] URL: https://wciom.ru/analytical-reviews/analiticheskii-obzor/iskusstvennyj-intellekt-ugroza-ili-vozmozhnost (дата обращения 10.05.2021).
Но сложность реализации этой идеи сопряжена со вторым сдерживающим обстоятельством - неопределённостью будущего, отсутствием конвенциональной картины «завтра». Футурология в целом сегодня смещена в сферу научной фантастики и эссеистики. Очевидный на сегодня запрос на интегральную науку о будущем, приходится признать, не реализован. Не сложилась, соответственно, и направление футурологии права, которое бы давало
возможность проведения опережающих правовых разработок. Необходимость синтеза юриспруденции с другими науками, как гуманитарной и обществоведческой, так и технической направленности, является главным рекомендательным выводом в отношении осмысления правовых изменений, сопряжённых с внедрением технологий искусственного интеллекта.
Статья поступила в редакцию 30.06.2021.
ЛИТЕРАТУРА
1. Антимонопольное регулирование в цифровую эпоху: как защитить конкуренцию в условиях глобализации и четвертой промышленной революции / под ред. А. Ю. Цариковского, А. Ю. Иванова, Е. А. Войниканис. М., 2018. 311 с.
2. Багдасарян В. Э. Заглянуть за черту. Искусственный интеллект и Постчеловек: проблема ценностного программирования. М.: ИИУ МГОУ, 2019. 84 с.
3. Багдасарян В. Э. Когнитивные матрицы манипулятивных технологий в войнах и революциях нового типа // Вестник Московского государственного областного университета. Серия: История и политические науки. 2020. № 1. С. 8-23.
4. Багдасарян В. Э. Матрицы общественного сознания. М.: Наше завтра, 2021. 416 с.
5. Войниканис Е. А., Семёнова Е.В., Тюляев Г. С. Искусственный интеллект и право: вызовы и возможности самообучающихся алгоритмов // Вестник Воронежского государственного университета. Серия: Право. 2018. № 4. С. 137-148.
6. Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1. С. 15-30.
7. Глазьев С. Ю. Современная теория длинных волн в развитии экономики // Экономическая наука современной России. 2012. № 2. С. 27-42.
8. Гуриева Л. К. Концепция технологических укладов // Инновации. 2004. № 10. С. 70-75.
9. Мачанов Д. Н. Искусственный интеллект и правовые проблемы авторства // Образование и право. 2019. № 12. С. 272-275.
10. Морхат П. М. Право интеллектуальной собственности и искусственный интеллект: монография. М.: Юнити-Дана, 2018. 121 с.
11. Морхат П. М. Правосубъектность юнитов искусственного интеллекта: гражданско-правовое исследование. М.: Юнити-Дана, 2018. 113 с.
12. Пандемия COVID-19: конец привычного мира? / А. В. Абрамов, В. Э. Багдасарян, С. О. Бышок, С. В. Володенков, Д. Г. Евстафьев, В. Г. Егоров, Н. А. Комлева, Н. С. Крамаренко, А. В. Манойло, О. М. Михайлёнок, А. И. Петренко, В. Ф. Прокофьев // Вестник Московского государственного областного университета (электронный журнал). 2020. № 2. URL: www.evestnik-mgou.ru.
13. Певцова Е. А. Влияние искусственного интеллекта на правовую деятельность человека // Журнал российского права. 2020. № 9. С. 19-31.
14. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91-109.
15. Садовничий В. А., Акаев А. А., Коротаев А. В., Малков С. Ю. Моделирование и прогнозирование мировой динамики. М.: ИСПИ РАН, 2012. 359 с.
16. Умнова-Конюхова И. А., Алферова Е. В., Алешкова И. А. Цифровое развитие и права человека. М.: ИНИОН РАН, 2021. 174 с.
17. Ястребов О. А. Искусственный интеллект в правовом пространстве // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 3. С. 315-328.
18. Abbott R. I Think, Therefore I Invent: Creative Computers and the Future of Patent Law // Boston College Law Review. 2016. Vol. 57. № 4. P. 1079-1126.
19. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford, 2014. 352 р.
20. Cerka P., Grigiene J., Sirbikyte G. Liability for Damages Caused by Artificial Intelligence // Computer Law & Security Review. 2015. № 31 (3). Р. 376-389.
21. Ernest N., Carroll D., Schumacher C., Clark M. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions [Электронный ресурс] // Journal of Defense Management. 2016. Vol. 6. Iss. 1. URL: https://www.longdom.org/open-access/ge-netic-fuzzy-based-artificial-intelligence-for-unmanned-combat-aerialvehicle-control-in-simulated-air-combat-missions-2167-0374-1000144.pdf (дата обращения: 10.05.2021).
22. Ezrachi A., Stucke M. Two Artificial Neural Networks Meet in an Online Hub and Change the Future (Of Competition, Market Dynamics and Society). Oxford, 2017. 54 p.
23. Hallevy G. Liability for Crimes Involving Artificial Intelligence Systems. Dordrech, 2015. 262 p.
24. Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World // International Journal of Innovative Technology and Exploring Engineering. 2019. Vol. 9. № 1. Р. 5159-5152.
25. Kurzweil R. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. New York: Viking Adult, 1999. 388 р.
26. Kurzweil R. The singularity is near: when humans transcend biology. New York: Viking Adult, 2005. 602 р.
27. Palmerini E., Azzarri F., Battaglia F., Bertolini A., Carnevale A., Carpaneto J., Cavallo F. Guidelines on Regulating Robotics (Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics) // RoboLaw : [сайт]. URL: http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_ guidelinesregulatingrobot ics_20140922.pdf (дата обращения: 10.05.2021).
28. Scherer M. U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies // Harvard Journal of Law & Technology. 2016. № 29 (2). Р. 353-400.
29. Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy // Artificial Intelligence and Law. 2017. Vol. 25. Iss. 2. Р. 155-179.
30. Solum L. B. Legal Personhood for Artificial Intelligences // North Carolina Law Review. 1992. № 70 (4). Р. 1231-1287.
31. Techno-Economic Paradigms: Essays in Honour of Carlota Perez / ed. Drechsler W., Kattel R., Reinert E. S. London: Anthem Press, 2011. 442 р.
1. Tsarikovsky A. Yu., Ivanov A. Yu., Voinikanis E. A., eds. Antimonopolnoe regulirovanie v tsifrovuyu epokhu: kak zashchitit konkurentsiyu v usloviyakh globalizatsii i chetvertoi promyshlennoi revolyutsii [Antitrust Regulation in the Digital Age: How to Protect Competition in the Context of Globalization and the Fourth Industrial Revolution]. Moscow, 2018. 311 p.
2. Bagdasaryan V. E. Zaglyanut za chertu. Iskusstvennyy intellekt i Postchelovek: problema tsennostnogo pro-grammirovaniya [Look beyond the line. Artificial Intelligence and Posthuman: The Problem of Value Programming]. Moscow, MRSU Ed. off. Publ., 2019. 849 p.
3. Bagdasaryan V E. [Cognitive matrices of manipulative technologies in wars and revolutions of a new type]. In: Vestnik Moskovskogo gosudarstvennogo oblastnogo universiteta. Seriya: Istoriya i politicheskie nauki [Bulletin of Moscow Region State University. Series: History and Political Sciences], 2020, no. 1, pp. 8-23.
4. Bagdasaryan V. E. Matritsy obshchestvennogo soznaniya [Public Consciousness Matrices]. Moscow, Nashe zavtra Publ., 2021. 416 p.
5. Voinikanis E. A., Semenova E. V., Tyulyaev G. S. [Artificial Intelligence and Law: Challenges and Opportunities for Self-Learning Algorithms]. In: Vestnik Voronezhskogo gosudarstvennogo universiteta. Seriya: Pravo [Bulletin of Voronezh State University. Series: Law], 2018, no. 4, pp. 137-148.
6. Gadzhiev G. A. [Is the robot agent a face? (Search for legal forms to regulate the digital economy) in]. In: Zhurnal rossiiskogoprava [Journal of Russian Law], 2018, no. 1, pp. 15-30.
7. Glazev S. Yu. [Modern theory of long waves in economic development]. In: Ekonomicheskaya nauka sovremennoi Rossii [Economic Science of Modern Russia], 2012, no. 2, pp. 27-42.
8. Gurieva L. K. [The concept of technological orders]. In: Innovatsii [Innovations], 2004, no. 10, pp. 70-75.
9. Machanov D. N. [Artificial Intelligence and Legal Problems of Authorship]. In: Obrazovanie i pravo [Education and law], 2019, no. 12, pp. 272-275.
10. Morkhat P. M. Pravo intellektual'noi sobstvennosti i iskusstvennyi intellekt [Intellectual Property Law and Artificial Intelligence]. Moscow, Yuniti-Dana Publ., 2018. 121 p.
REFERENCES
11. Morkhat P. M. Pravosubektnost yunitov iskusstvennogo intellekta: grazhdansko-pravovoe issledovanie [Legal Personality of Artificial Intelligence Units: Civil Law Research]. Moscow, Yuniti-Dana Publ.,
2018. 113 p.
12. Abramov A. V., Bagdasaryan V. E., Byshok S. O., Volodenkov S. V., Evstafev D. G., Egorov V. G., Komleva N. A., Kramarenko N. S., Manoilo A. V., Mikhailenok O. M., Petrenko A. I., Prokofev V. F. [Covid-19 pandemic: the end of the familiar world?]. In: Vestnik Moskovskogo gosudarstvennogo oblast-nogo universiteta (elektronny zhurnal) [Bulletin of Moscow Region State University (e-journal)], 2020, no. 2. Available at: www.evestnik-mgou.ru.
13. Pevtsova E. A. [The impact of artificial intelligence on human legal activity]. In: Zhurnal rossiiskogo prava [Journal of Russian Law], 2020, no. 9, pp. 19-31.
14. Ponkin I. V., Redkina A. I. [Artificial intelligence from the perspective of the law]. In: Vestnik Rossiyskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki [Bulletin of the Peoples' Friendship University of Russia. Series: Legal Sciences], 2018, vol. 22, no. 1, pp. 91-109.
15. Sadovnichy V. A., Akaev A. A., Korotaev A. V., Malkov S. Yu. Modelirovanie i prognozirovanie mirovoi dinamiki [Modeling and forecasting world dynamics]. Moscow, ISPI RAN Publ., 2012. 359 p.
16. Umnova-Konyukhova I. A., Alferova E. V., Aleshkova I. A. Tsifrovoe razvitie i prava cheloveka [Digital Development and Human Rights]. Moscow, INION RAN Publ., 2021. 174 p.
17. Yastrebov O. A. [Artificial intelligence in the legal space]. In: Vestnik Rossiyskogo universiteta druzhby narodov. Seriya: Yuridicheskie nauki [Bulletin of the Peoples' Friendship University of Russia. Series: Legal Sciences], 2018, vol. 22, no. 3, pp. 315-328.
18. Abbott R. I Think, Therefore I Invent: Creative Computers and the Future of Patent Law. In: Boston College Law Review, 2016, vol. 57, no. 4, pp. 1079-1126.
19. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford, 2014. 352 p.
20. Cerka P., Grigiene J., Sirbikyte G. Liability for Damages Caused by Artificial Intelligence. In: Computer Law & Security Review, 2015, no. 31 (3), pp. 376-389.
21. Ernest N., Carroll D., Schumacher C., et al. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions. In: Journal of Defense Management, 2016, vol. 6, iss. 1. Available at: https://www.longdom.org/open-access/genetic-fuzzy-based-artificial-intelligence-for-unmanned-combat-aerialvehicle-control-in-simulated-air-combat-missions-2167-0374-1000144.pdf (accessed: 10.05.2021).
22. Ezrachi A., Stucke M. Two Artificial Neural Networks Meet in an Online Hub and Change the Future (Of Competition, Market Dynamics and Society). Oxford, 2017. 54 c.
23. Hallevy G. Liability for Crimes Involving Artificial Intelligence Systems. Dordrech, 2015. 262 p.
24. Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World. In: International Journal of Innovative Technology and Exploring Engineering,
2019, vol. 9, no. 1, pp. 5159-5152.
25. Kurzweil R. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. New York, Viking Adult, 1999. 388 p.
26. Kurzweil R. The singularity is near: when humans transcend biology. New York, Viking Adult, 2005. 602 p.
27. Palmerini E., Azzarri F., Battaglia F., et al. Guidelines on Regulating Robotics (Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics). In: RoboLaw. Available at: http:// www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobot ics_20140922. pdf (accessed: 10.05.2021).
28. Scherer M. U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. In: Harvard Journal of Law & Technology, 2016, no. 29 (2), pp. 353-400.
29. Solaiman S. M. Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy. In: Artificial Intelligence and Law, 2017, vol. 25, iss. 2, pp. 155-179.
30. Solum L. B. Legal Personhood for Artificial Intelligences. In: North Carolina Law Review, 1992, no. 70 (4), pp. 1231-1287.
31. Drechsler W., Kattel R., Reinert E. S., eds. Techno-Economic Paradigms: Essays in Honour of Carlota Perez. London, Anthem Press, 2011. 442 p.
ИНФОРМАЦИЯ ОБ АВТОРЕ
Попова Наталья Николаевна - аспирант отдела теории права и междисциплинарных исследований законодательства Института законодательства и сравнительного правоведения при Правительстве Российской Федерации, начальник управления по развитию инновационных молодёжных программ и профориентации Дипломатической академии МИД России; е-шаП: [email protected]
Nataya N. Popova - postgraduate student, Department of Legal Theory and Interdisciplinary Studies of Legislation, Institute of Legislation and Comparative Law under the Government of the Russian Federation, Departmental Head of Youth Innovative Programs Development and Career Guidance, Diplomatic Academy of the Russian Foreign Ministry; e-mail: [email protected]
Попова Н. Н. Развитие технологий искусственного интеллекта в перспективах трансформации права: правосознание в проекции будущего // Вестник Московского государственного областного университета. Серия: Юриспруденция. 2021. № 3. С. 65-76. БОТ: 10.18384/2310-6794-2021-3-65-76
Popova N. N. Development of Artificial Intelligence Technologies in the Prospects of Transformation of Law: Legal Consciousness in the Projection of the Future. In: Bulletin of Moscow Region State University. Series: Jurisprudence, 2021, no. 3, pp. 65-76. DOI: 10.18384/2310-6794-2021-3-65-76
INFORMATION ABOUT THE AUTHOR
ПРАВИЛЬНАЯ ССЫЛКА НА СТАТЬЮ
FOR CITATION
