CC BY
42З.В. Владимирова
О ВОЗМОЖНЫХ СПОСОБАХ НАДЕЛЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРАВОСУБЪЕКТНОСТЬЮ
Законодательство разных стран на 2021 год отстает в сфере регулирования искусственного интеллекта - ИИ. Базовые правовые принципы имеющегося законодательства имеют корни в римском праве и не могут регулировать его принципами новейшую сферу ИИ. Следуя ходу времени, за рубежом в области разработки, применения и эксплуатации ИИ появляются первые правовые и нормативные акты и концептуальные документы (Германия, Китай, Япония, США). В России к 2020 году созданы проекты закона о разумных роботах (2016), модельной конвенции о робототехнике и ИИ (2017), закон Гришина (2017). По словам создателя закона Дмитрия Гришина, если сейчас четко прописать в законе ограничения ответственности владельцев роботов, это определит риски потенциальных инвесторов в компаниях-разработчиках роботов, потребительские риски, избавит от некоторых опасений, что повысит привлекательность отрасли ИИ для инвестиций.
Ключевые слова: искусственный интеллект (ИИ), человеческий подход к ИИ, этика ИИ, безопасность применения ИИ, контроль над ИИ, скрытые угрозы ИИ, законодательство для ИИ, правовые и нормативные акты для ИИ, кибербезопасность, концепции регулирования робототехники, закон Гришина, нормы ГК в области робототехники, правовой статус ИИ, электронное лицо.
В настоящее время в России и мире темпы внедрения ИИ (Искусственного Интеллекта) и когнитивных технологий не снижаются. Внедрение ИИ предприятиями и организациями продолжает расти, о чем свидетельствует недавнее исследование, показывающее рост по каждой из 7 моделей ИИ. Однако, возникает напряжение, поскольку существующие нормативные акты и законы с трудом справляются с возникающими проблемами регулирования ИИ. В результате правительства по всему миру срочно принимают меры для обеспечения того, чтобы существующие правовые конструкции оставались актуальными в условиях технологических изменений и могли решать новые возникающие проблемы, создаваемые ИИ [2].
Огромный разрыв между уровнем развития инновационных технологий, робототехники, компьютерных технологий, программного обеспечения и их законодательного регулирования заключается в том, что законодательство безнадежно отстает в этой отрасли, базовые правовые принципы которой имеют корни в римском праве и регулируют новейшую сферу его принципами. Следуя ходу времени, за рубежом в области разработки, применения и эксплуатации ИИ появляются первые соответствующие правовые и нормативные акты и концептуальные документы (Германия, Китай, Япония, США), тогда как в России к 2020 году созданы:
- проект закона о разумных роботах (2016);
- проект модельной конвенции о робототехнике и ИИ (2017);
- концепции регулирования робототехники, ИИ и киберфизических систем (2017);
- проекты законодательства о регулировании беспилотного транспорта 2017;
- отчет по результатам исследования о подходах к регулированию роботов, ИИ и КФС в рамках программы «Цифровая экономика» [4].
Для России и всех стран необходимо достичь единства в определении понятия "робот и ИИ" и урегулировать правовые отношения между ними и человечеством.
В России совладелец Mail.ru и основатель Grishin Robotics Дмитрий Гришин разработал свою концепцию Закона о робототехнике. 21 век станет веком робототехники, сказал Гришин: «важно, чтобы его регулирование в России, как и во многих других новых областях, не начиналось с запретов».
© З.В. Владимирова, 2021.
Научный руководитель: Мансуров Гафур Закирович - доцент кафедры гражданского права, доктор юридических наук, профессор, магистрант РАНХиГС - Уральский филиал, Россия.
По его словам, если сейчас четко прописать в законе ограничения ответственности владельцев роботов, это определит риски потенциальных инвесторов в компаниях-разработчиках роботов, потребительские риски, избавит от некоторых опасений, что повысит привлекательность этой отрасли, объясняет он. Гришин согласен с тем, что роботы в настоящее время менее распространены в России, чем в США. И есть еще страны, которые не создают робототехнику. Но Россия сейчас имеет шанс стать пионером в области регулирования робототехники, и в этом случае она получит огромные преимущества.
Революционный для России документ сооснователя Grishin Robotics Дмитрия Гришина "Закон о робототехнике" предлагает частично использовать в отношении регулирования роботов правила, которые распространяются на животных и юридических лиц.
"ИИ, как таковой, не может при отсутствии эмоций стать субъектом права, говорится в концепции Гришина, но роботы похожи на животных, потому что они способны выполнять автономные и независимые действия." Как юридическое лицо, робот является конкретной юридической конструкцией, считает предприниматель. Гришин допускает создание реестра роботов по аналогии с ЕГРЮЛ. Также, считает Гришин, к создателям роботов могут применяться нормы об ответственности владельца источника повышенной опасности: ведь робот может причинить вред [5].
Существует 4 сценария, в которых действия робота подпадают под уголовное право: проектирование робота-убийцы специально для совершения преступления, отключение программных и аппаратных функций, которые блокируют возможность нанести вред человеку, проектирование робота, который может нанести вред человеку, и проектирование робота, не зная, что он может быть использован для нанесения вреда человеку.
Но вопрос остается открытым: какие роботы по каким критериям могут быть отнесены к источникам повышенной опасности [6].
Гришин указывает, что законы робототехники, сформулированные писателем Айзеком Азимовым, могут иметь соответствующее практическое применение в юриспруденции:
«3 закона роботехники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод», написанный в 1942.
Законы Азимова гласят:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;
2. Робот должен подчиняться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону;
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам» [22].
В настоящее время, роботы не настолько распространены, чтобы создавать отдельные правила для них. В случае с предложенной концепцией, правовое развитие опережает само создание роботов. Сегмент Интернета, например, начал регулироваться значительно позже создания и распространения Интернета. Гражданский кодекс и сейчас может применяться к роботам, как к имуществу, а суды могут признавать роботов источниками повышенной опасности [1].
Гришин рассказал, что направил свою концепцию в основные правовые институты (Государственный и Правовой Институт Российской Академии Наук, Государственный Институт Права и Сравнительного права, МГУ и Санкт-Петербург ГУ, Московскую Государственную Академию Права, Высшую школу экономики). Он надеется, что концепция послужит основой для изменения Гражданского кодекса и создания отдельного закона о робототехнике [5].
Вопрос о внесении изменений в законодательство поднят Гришиным очень своевременно, уверена президент Cognitive Technologies и Cognitive Pilots (создающего роботизированные автомобили для «Камаза» и технику для аграрного сектора) О.Ускова: «В автомобильной промышленности робототехника стремительно развивается. Но регулирование должно быть шире, чем изменения, предложенные Гришиным, считает она: прежде всего, необходимо работать над метриками и стандартами, чтобы определить уровень интеллектуализации роботов. Необходимо также создавать правила: как ведут себя машины с ИИ в критических ситуациях, продолжает она, должны решаться также вопросы философского характера и ответственности, в рамках регулирования должна быть разработана система отношений между людьми и машинами».
Плотность применения промышленной робототехники в России по-прежнему в 70 раз ниже, чем в среднем по миру: в мире на 10 000 рабочих в 2015 году было в среднем 69 промышленных роботов, а в России только один, подсчитала Национальная Ассоциация участников рынка робототехники (НАУРР). Его президент В. Недельский отмечает, что концепция Гришина предназначена для сервисных роботов, хотя их сегмент пока невелик, но развивается он намного быстрее, чем сегмент промышленных роботов.
В этом смысле он считает, что начало дискуссии по законопроекту вполне уместно, добавив, что в данном случае речь идет о трансграничном регулировании, поскольку само явление не может быть локальным [9].
Рассмотрим содержание Закона Гришина об определении правосубъектности и ответственности ки-бер-физических систем.
Понятие электронного лица (как потенциального субъекта права) совершенно новое и, прежде всего, необходимо понять, вписывается ли такое лицо в указанную классификацию или будет представлять собой новый тип субъектов. В результате присвоения правосубъектности такие механизмы будут иметь не только права, но и обязанности. В то же время цель наделения правосубъектностью состоит в том, чтобы позволить ему определенные правовые последствия своих действий и ощутить влияние этой правовой си-стемы[8].
С.М. Солайман подчеркивает, что правосубъектность включает следующие требования или атрибуты: лицо может быть субъектом права; быть субъектом права предполагает способность осуществлять права и выполнять обязанности; осуществление права требует осознания и выбора.
По словам П. М. Морхата: «в дискуссиях о предоставлении правосубъектности ИИ необходимы и достаточные условия, которые такой агент должен выполнить, чтобы быть классифицирован как реальный субъект права наравне с человеком». Главный вопрос, обсуждаемый в этих дискуссиях, заключается в том, могут ли ИИ обладать самосознанием, которое на данном этапе развития технологии еще не достигнуто, и нет никаких доказательств того, что действительно может быть достигнуто в будущем. Этот вопрос актуален в связи с тем, что, с точки зрения научной литературы, субъект, который чувствует или как-то осознает, имеет моральное право иметь соответствующий правовой статус. Поэтому ИИ нельзя полностью сравнить с человеком, так как он не обладает (или не обладает в достаточном или правильном понимании) душой, интенциональностью своих действий, сознанием, чувствами, интересами и свободной волей [19].
Однако, как отмечали западные авторы Самир Чопра и Лоуренс Уайт, правосознание не является необходимым или достаточным для правосубъектности, поскольку, с одной стороны, лица, полностью осознающие себя, такие как дети, рабы, были лишены правосубъектности, а, с другой стороны, люди, временно не обладающие сознанием, например, находящиеся в коме или спящие, на этом основании её не лишаются, хотя и в некоторых случаях не могут осуществлять реализацию многих своих прав. Так же и юридические лица не обладают сознанием.
Истории известны различные ситуации юридического статуса разных лиц, имеющих правосубъектность, в разной степени: например, в разное время и в различных юрисдикциях различались по своему правовому статусу мужчина - глава семьи, замужняя женщина, дети и рабы, и некоторые категории населения вообще не рассматривались, как субъекты права, либо имели ограниченную правосубъектность [11].
Поэтому, с одной стороны, отсутствие у человека сознательности не является основанием для лишения его правосубъектности вообще, а с другой-исторический опыт показывает, что не всегда сознательный человек обладал полной дееспособностью и правоспособностью, что не равносильно правовому статусу человека и правовому статусу ИИ.
Кроме того, в то время как суды по всему миру придерживаются подхода, чтобы не наделять определенной правосубъектностью "высокоразвитые" виды животных, мы не сможем говорить о предоставлении ее ИИ.
В ряде стран есть некоторая практика признания за «разумными» животными прав, в частности, как отмечает Джеймс Гэрфорт, в Швейцарии и Германии впервые животные начали рассматриваться как существа, а не только как объекты, в Новой Зеландии были признаны некоторые права высших приматов, а в Индии - китов [12].
Авторы законопроекта Гришина вводят юридическое определение роботов как автономных интеллектуальных систем. "Робот - устройство, способное действовать, определять действия и оценивать их воздействие на основе информации, поступающей из внешней среды, без полного контроля со стороны человека", - гласит текст законопроекта. Законопроект выделяет два типа роботов и соответствующий дуалистический характер роботов:
- роботы, как имущество;
- роботы-агенты, как независимые члены гражданского общества, имеющие статус юридических лиц, обладающие особой правосубъектностью [13].
В. Наумов, В. Архипов в одной из своих работ подчеркивают, что роботы могут быть наделены особой правосубъектностью для определенных целей (торговля роботов через Интернет и т. д.). Другой вопрос - нужно ли предоставлять роботам правосубъектность юрлица. Понимание юридического лица как способа минимизации рисков юридической ответственности вряд ли будет применяться к роботам, поскольку это избавит производителей и владельцев роботов от юридической ответственности. Так, член Европарламента Ж. Лебретон при обсуждении резолюции о роботах отметил: «Я возражаю против данной
перспективы по двум причинам: прежде всего, поскольку она снимет всякую ответственность с их производителей и пользователей, что, несомненно, обрадовало бы мощные лобби; во-вторых, и это главное, потому что я считаю, так же как и Жак Маритен, что человеческая личность наделена духовным существованием, с которым несопоставим ни один ИИ». Наделение роботов специальной правосубъектностью возможно при наличии достаточных гарантий прав иных участников правоотношения [14].
Следует отметить, что авторы закона Гришина не смогли четко провести линию для определения ответственности за ущерб, причиненный роботом, как юридическим лицом, и, одновременно с ним, роботом, как собственностью. Законопроект предлагает установить требование о соблюдении безопасности деятельности роботов и внедрении специальной системы предотвращения правовых конфликтов.
В сравнении с положениями закона Гришина, Резолюция Европарламента от 16 февраля 2017 года "Нормы гражданского права о робототехнике", представляющая собой совокупность правовых принципов и этических требований в области создания и использования роботов, как таковых, не содержит норм права, спецификаций, служит основой для создания и использования роботов. Стоит отметить ее тщательный и серьезный подход к решению проблемы автономных роботов и ИИ. Резолюция отражает различные аспекты использования роботов: использование роботов в промышленности, уход за больными, замена рутинной работы и т.п. Эта резолюция лишена пафоса и излишнего энтузиазма и призывает к осторожному использованию роботов из-за угроз, которые могут создать:
- потеря работы для людей;
- рост социального неравенства;
- управление роботом и проблема управления;
- вопрос об ответственности за ущерб, причиненный автономными роботами и т.д. [8].
Рассмотрение преимуществ и угроз, связанных с использованием ИИ, привело к тому, что Европейский парламент устанавливает принцип постепенности, прагматизма и осторожности в отношении будущих инициатив в области робототехники и ИИ. С одной стороны, этот принцип учитывает все риски и угрозы, а с другой-не мешает инновационному развитию в области робототехники.
В резолюции Европарламента, в частности, уточняются вопросы ответственности за использование автономных роботов. Автономия роботов в контексте решения, понимается как способность самостоятельно принимать решения и осуществлять их без внешнего контроля или воздействия.
1). Алгоритм действий робота создан человеком даже в отношении ИИ и самобучившихся нейронных сетей. Сам человек устанавливает на программном уровне модель деятельности робота.
2). Роботы действуют в глубоком взаимодействии с людьми, как на расстоянии (управление дро-нами, машиной), так и в внутри устройства (управление самолетом) [8].
Пока существует миф о независимости роботов - необходимо четко понимать созависимость роботов от людей. Резолюция Европейского парламента предлагает следующие признаки автономных интеллектуальных роботов:
- возможность стать автономным с помощью датчиков и / или общаться с окружающей средой;
- навыки самообучения, основанные на приобретенном опыте;
- иметь хотя бы минимальную физическую поддержку;
- способность адаптировать свои действия и поведение в соответствии с условиями окружающей
среды;
- отсутствие жизни с биологической точки зрения [25].
Пока это лишь благие намерения. На практике полноценных законов о роботосфере и, как таковом, ИИ в мире нет. Еще одним способом решения проблемы правовой личности «интеллектуальных роботов» является понятие «электронного лица», которое активно отстаивает П. М. Морхат (судья Арбитражного суда Московской области) в своих научных исследованиях.
П. М. Морхат в качестве фундаментальных предпосылок придания статуса правовой личности определенным лицам называет: наличие морального права, социального потенциала и правового удобства. Конечно, ИИ может использоваться в целях юридического удобства лишь в ряде случаев: вести электронные дела и определять юрисдикцию, создавать объекты интеллектуальной собственности, ограничивать ответственность разработчиков единиц ИИ. В то же время, эти цели могут быть достигнуты другими правовыми средствами и режимами, не придавая роботам юридической личности: как своего рода собственность, база данных и т. д. Поэтому понятие «электронного лица» на нынешнем этапе научных дебатов весьма спорно [18].
Г. А. Гаджиев и Е. А. Войникас предлагают приступить к решению вопроса о правосубъектности роботов на том основании, способен ли будет робот удовлетворить требования о возмещении наступившего вреда самостоятельно. По их словам, «если признание робота субъектом права имеет какой-либо смысл или назначение, то оно заключается в более эффективном и сбалансированном распределении ответственности. И наоборот, если робот не в состоянии восстановить нанесенный ущерб, необходимость
признать его право стать субъектом становится проблематичной. В свою очередь, социальная задача или потребность в разделении обязанностей является следствием более сложной и универсальной потребности в равновесии» [15].
Поскольку вопрос о самостоятельности робота как субъекта права преждевременен, в резолюции Европарламента отмечается возможность применения к деликтным отношениям с участием роботов следующих юридических конструкций:
- разработка ответственности производителя за дефекты робота (за качество и безопасность робота);
- проектирование ответственности за вредоносную деятельность, согласно которой пользователь робота несет ответственность за поведение, вызвавшее появление повреждений.
Технологии ИИ должны наделяться «особой правосубъектностью». Согласно Резолюции Европарламента под названием «Нормы гражданского права в области робототехники», среди других вариантов ответственности, наиболее продвинутым киберсубьектам предлагается дать особый правовой статус электронного лица [8]. В Резолюции не уточняется, но подразумевается, что такие роботы будут способны самостоятельно отвечать за ущерб, который наносят. Резолюция предусматривает систему обязательного страхования роботов их владельцами и производителями (как, например, страхование гражданской ответственности для водителей в случае аварии). А когда причиненный ущерб не покрывается страховкой, деньги должны выплачиваться из специального компенсационного фонда.
Хотя этическое и ответственное использование ИИ продолжает оставаться горячей темой для обсуждения, ни в одной стране мира не было разработано специального законодательства или нормативных актов в отношении этического использования ИИ или любых вопросов, касающихся предвзятости в применении или разработке систем ИИ [24].
Европейский союз, Соединенное Королевство, Сингапур, Австралия и Германия активно рассматривают такое регулирование и продвинулись в обсуждении этой темы. Однако пока ни в одной стране не действуют конкретные законы, касающиеся этичного и ответственного применения ИИ. Время покажет, будут ли компании осуществлять самоконтроль или правительства вмешаются в более формальное регулирование. Сегодня неудивительно обнаружить, что большинство правительств придерживаются подхода "поживем-увидим" к законам и нормативным актам, касающимся ИИ. Как и в случае с любой новой технологической волной, трудно предсказать, как именно эта новая технология будет использоваться или зло-употребляться [23].
Библиографический список
1.Указ Президента РФ от 18.07.2008 № 1108 (ред. от 29.07.2014) «О совершенствовании Гражданского кодекса Российской Федерации» // [Справочно-поисковая система] КонсультантПлюс (дата обращения: 20.08.2021).
2. Распоряжение Правительства Российской Федерации от 01.11.2013 № 2036-р «Об утверждении Стратегии развития отрасли информационных технологий в Российской Федерации на 2014-2020 годы и на перспективу до 2025 года» // Собрание законодательства Российской Федерации. - 18.11.2013. - № 46. - Ст. 5954. (дата обращения: 20.08.2021).
3. Распоряжение Правительства Российской Федерации от 28.07.2017 № 1632-р «Об утверждении программы "Цифровая экономика Российской Федерации"» // [Электронный ресурс] URL: // http://govern-теп1гиЛ1ос8/28653/.(дата обращения: 20.08.2021).
4.Концепция развития гражданского законодательства Российской Федерации / Одобрена решением Совета при Президенте Российской Федерации по кодификации и совершенствованию гражданского законодательства от 07.10.2009 // Вестник ВАС Российской Федерации. -2009. - № 11.
5.Проект Федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» / Проект Гришина Дмитрия Сергеевича (Grishin Robotics) (не вносился в Госдуму) // [Электронный ресурс] URL:// https: //www. dentons. com/ru/insights/alerts/2017/j anuary/27/dentons-develops-first-robotics-draft-law-in-russia. (дата обращения: 20.08.2021).
6.Проект Федерального закона «О внесении изменений в части первую, вторую и четвертую Гражданского кодекса Российской Федерации» от 26.03.2018 № 424632-7. // [Электронный ресурс] URL: //http://sozd.parliament.gov.ru/bill/424632-7. (дата обращения: 20.08.2021).
7.Модельная конвенция о робототехнике и искусственном интеллекте. «Правила создания и использования роботов и искусственного интеллекта». Проект "РОБОПРАВО", Исследовательский центр проблем регулирования робототехники и искусственного интеллекта. // [Электронный ресурс] URL: //https://robopravo.ru/modielnaia_konvientsiia. (дата обращения: 20.08.2021).
8.European Parliament Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) [Резолюция Европейского Парламента вместе с рекомендациями Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента от 16.02.2017 «Нормы гражданского права о робототехнике»] // [Электронный ресурс] URL: http://www.europarl.europa.eu/sides/get-Doc.do?pubRef=-//ep//text+ta+p8-ta-2017-0051+0+doc+xml+v0//en. (дата обращения: 20.08.2021).
9. Алексеев Н.В. Искусственный интеллект и роботизация: правовые проблемы интеллектуальной собственности // Право интеллектуальной собственности. 2019. № 3. С. 42- 46.
10. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6. С.47.
11.Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития Законодательства о робототехнике: аспекты воли и правосубъектности. // Закон. 2017. № 5. С.157-170.
12.Васильев А.А., Васильева О.В., Ибрагимов Ж.И. "Закон Гришина" и право ЕС о робототехнике и искусственном интеллекте: сравнительный анализ. Алтайский государственных университет, г. Барнаул. Евразийский национальный университет им. Л.Н.Гумилева, г. Нур-Султан. 2019. №7. С.64-70.
13.Войникас Е.А., Семенова Е.В., Тюляев Г.С. Искусственный интеллект и право: вызовы и возможности самообучающихся алгоритмов // Вестник Воронежского государственного университета. Серия: Право. 2018. № 4 (35). С. 137-148.
14.Гаджиев Г.А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. №1. С. 29-35.
15.Гаджиев Г. А., Войникас Е.А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. 2018. №.4. С.41-48.
16.Кашкин С.Ю. Искусственный интеллект и робототехника: возможность вторжения в права человека ... И правовое регулирование этих процессов в ЕС и мире. //Сравнительно-правовые исследования МГЮА. 2019. №7. С. 151-152.
17.Ковачич Л. Китайский опыт развития отрасли искусственного интеллекта: стратегический подход. - 2020. // [Электронный ресурс] URL: //https://carnegieendowment.org/2020/07/07/ru-pub-82172. (дата обращения: 20.07.2021).
18.Морхат П.М «Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы» - Диссертация и автореферат по ВАК РФ 12.00.03. 2018г. 420с.
19.Морхат П.М. К вопросу о правосубъектности "электронного лица" // Юридические исследования. 2018. №4. С.1-8. DOI: 10.25136/24097136.2018.4.25647.
20.Сесицкий Е. П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта. Диссертация и автореферат по ВАК РФ 12.00.03. 2019. С. 64-93.
21.Шестак В.А., Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13. № 2. С. 197-206.
22. Азимов А. Я, робот. М. : ЭКСМО, 2019.
23.K,Walch. AI Laws Are Coming. ^gn^ve World. 2020. 20 Feb. // [Электронн^IЙресурс]URL://https://www.forbes.com/sites/cognitiveworld/2020/02/20/ai-laws-are-com-ing/?sh=642e53dba2b4. (дата обращения: 20.08.2021).
24.The United Nations needs to start regulating the 'Wild West' of artificial intelligence. The Conversation. 2021. 31 May. // [Электронный ресурс] URL:// https://theconversation.com/the-united-nations-needs-to-start-regulating-the-wild-west-of-artificial-intelligence-161257. (дата обращения: 20.08.2021).
ВЛАДИМИРОВА ЗОЯ ВЛАДИМИРОВНА - магистрант РАНХиГС - Уральский филиал, Россия.
