Этическое и правовое регулирование использования искусственного интеллекта в Марокко

Хамза Джабир; Камаль Лагтати; Денис Поэ-Токпа

Научная статья

УДК 34:004:17:004.8

EDN: https://elibrary.ru/fsfsnq

DOI: https://doi.org/10.21202/jdtl.2024.23

з

Check for updates

Этическое и правовое регулирование использования искусственного интеллекта в Марокко

Хамза Джабир О н

Университет Ибн Зохр, Агадир, Марокко

Камаль Лагтати О

Университет Ибн Зохр, Агадир, Марокко

Денис Поэ-Токпа ©

Университет Бордо, Пессак, Франция

Ключевые слова

«жесткое право», законодательство Марокко, искусственный интеллект, моральные ценности, «мягкое право», принцип технологической реальности,

правовое регулирование, правовые риски, цифровые технологии, этические принципы

Аннотация

Цель: поиск и определение проблем и возможностей этического и правового регулирования искусственного интеллекта на примере опыта цифровых преобразований в Марокко.

Методы: исследование проведено с использованием аналитического и сравнительного подходов к решению возникающих юридических вопросов, обусловленных развитием искусственного интеллекта. За основу традиционного научного метода в праве взят правовой анализ, который применялся к изучению юридических текстов, научной литературы, диагностике состояний и условий изучаемой области на национальном и международном уровне. Наряду с этим использовался сравнительный подход в праве, позволивший рассмотреть законодательство Марокко в сопоставлении с законодательством других стран.

Результаты: осуществлен обзор научной литературы, посвященной правовым и этическим вопросам использования искусственного интеллекта. Проведен обзор юридических текстов и директив, разработанных на национальном и международном уровне и имеющих прямую или косвенную связь с использованием искусственного интеллекта. Приводится сравнение законодательства Марокко с соответствующими правовыми актами других стран. Полученные выводы свидетельствуют о том, что в отсутствие специальной правовой базы для систем искусственного интеллекта предпочтительным является

н Контактное лицо

Статья находится в открытом доступе и распространяется в соответствии с лицензией Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная (CC BY 4.0) (https://creativecommons.Org/licenses/by/4.0/deed.ru), позволяющей неограниченно использовать, распространять и воспроизводить материал при условии, что оригинальная работа упомянута с соблюдением правил цитирования.

принятие этических стандартов в виде руководящих принципов, руководства по передовой практике и этических хартий. Эти механизмы представляются жизнеспособной альтернативой правовому регулированию. В этом смысле было предпринято несколько инициатив по продвижению «мягкого права», которое направлено на поощрение надлежащего поведения технологических агентов.

Научная новизна: анализ цифровых преобразований в Марокко позволил представить комплексный взгляд на роль этических аспектов и обеспечение достаточности закона для реагирования на изменения современного общества, трансформирующегося в свете развития искусственного интеллекта.

Практическая значимость: проведенное исследование позволяет обозначить пути поиска более гибкого баланса между «мягким» и «жестким» правом в регулировании отношений с учетом технологической реальности, что должно поощрять надлежащее поведение технологических агентов и положительно влиять на специфику современной ситуации, когда «жесткое право» медленно осознает и решает проблемы, связанные с регулированием цифровых технологий, а также медленно учитывает возможные риски, которые несет в себе искусственный интеллект и недостаточность регулирования связанных с ним отношений.

Для цитирования

Джабир, Х., Лагтати, К., Поэ-Токпа, Д. (2024). Этическое и правовое регулирование использования искусственного интеллекта в Марокко. Journal of Digital Technologies and Law, 2(2), 450-472. https://doi.org/10.21202/jdtl.2024.23

Содержание

Введение

1. Появление искусственного интеллекта: возможность или угроза?

1.1. Искусственный интеллект и защита основных прав и свобод

1.2. Искусственный интеллект: инструмент для компаний

2. Регулирование искусственного интеллекта: моральная и правовая необходимость

2.1. Этические рамки для искусственного интеллекта

2.2. Необходимость правового режима, адаптированного к искусственному интеллекту

Заключение Список литературы

Введение

В последние годы искусственный интеллект (далее - ИИ) находится в центре всеобщего внимания, так как все больше компаний используют его интенсивно и разнообразно. ИИ - это «компьютерная система, которая работает на основе дублирования или имитации принципов мышления, интеллекта или, другими словами, определенных действий человека» (Bertrand, 2010). С увеличением разнообразия средств связи, новых возможностей сбора и алгоритмической обработки данных

в настоящее время наблюдается появление технологий, связанных с Big Data, подключенными объектами, алгоритмами, блокчейном и искусственным интеллектом. Этот многогранный цифровой феномен объединяет различные вселенные; растут скорость, синхронность работы и другие возможности цифровых технологий. Вместе с объектами, связанными с этими технологиями, это явление получило название «новые информационные и коммуникационные технологии» (НИКТ) (Soulez, 2018).

Действительно, искусственный интеллект развивается чрезвычайно быстрыми темпами, и компании все чаще оказываются в положении, когда они вынуждены, с одной стороны, приобретать эти технологии, чтобы оставаться конкурентоспособными, а с другой - учиться работать с ними, чтобы избежать различных предубеждений, которые могут оказаться вредными. Искусственный интеллект таит в себе большой потенциал, но также вызывает и сильные опасения. Последние связаны с теми рисками, которые необходимо устранить или ограничить, чтобы гарантировать внедрение технологий, соответствующее правовым нормам, моральным ценностям и этическим принципам, а также способствующее всеобщему благу.

По данным ЮНЕСКО, риски, связанные с искусственным интеллектом, имеют три составляющих1: нехватку работ, выполняемых машинами вместо людей; последствия для независимости человека, в частности его свободы и безопасности; отчуждение человечества, которое в катастрофическом антиутопическом сценарии может совсем исчезнуть, будучи замененным интеллектуальными машинами (Franchomme & Jazottes, 2021). Более того, использование технологий искусственного интеллекта уже создало новые проблемы. Оно подразумевает трансформацию общества, что создает необходимость переосмысления этических аспектов и обеспечения достаточности закона для реагирования на эти изменения.

Многочисленные инициативы по регулированию искусственного интеллекта сходятся на важности этики в этой области, даже при ее слабом влиянии на функционал ИИ (Merabet, 2018). Этические вопросы стали приниматься во внимание лишь недавно, потому что право медленно осознает проблемы, связанные с цифровыми технологиями, и принимает законодательные меры по их решению. Прежде чем рассматривать практику регулирования, необходимо признать, что права человека применимы к цифровому миру. Этому помогает то, что этические вопросы «мягкого права» рассматриваются на глобальном уровне и границы не являются реальным препятствием, как в случае с созданием нормативной базы «жесткого права» (Cath, 2018).

Поэтому необходимо включить этические вопросы в цифровые проекты, связанные с искусственным интеллектом (Cath, 2018). Так, профессиональными ассоциациями, частными компаниями и рядом международных организаций были разработаны стандарты, хартии и руководства, касающиеся вопросов алгоритмических систем, прозрачности, неприкосновенности частной жизни, конфиденциальности, беспристрастности и в целом разработки этических систем (Bensamoun & Loiseau, 2017a).

Марокко стала одной из первых стран, присоединившихся к рекомендациям ЮНЕСКО по этике искусственного интеллекта (Rochd et al., 2021). Это первый

1 UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence, adopted on the sidelines of the 41st session of the UNESCO General Conference held in November 2021 in Paris.

глобальный нормативный документ в данной области. Об этом заявил министр национального образования, дошкольного воспитания и спорта в кулуарах подписания соглашения с ЮНЕСКО в рамках CONFINTEA VII, проходившей в Марракеше в июне 2022 г. Королевство Марокко официально внедрило рекомендации ЮНЕСКО об этике искусственного интеллекта, принятые в рамках 41-й сессии Генеральной конференции ЮНЕСКО, состоявшейся в ноябре 2021 г. в Париже (Benhanou, 2017).

Функционал искусственного интеллекта в деятельности компании сложно описать исчерпывающим образом, так как он расширяется с каждым днем. В настоящее время ИИ дает возможность организациям все больше автоматизировать и оптимизировать определенные задачи, тем самым играя важную роль в изменении профессиональной деятельности, создавая ее новые формы и организационные решения (Benhanou, 2017). Искусственный интеллект уже стал неотъемлемой частью повседневной жизни и в ближайшие годы должен еще более интегрироваться в нее. Это порождает ряд проблем, но также открывает новые перспективы для отдельных лиц, организаций и структур. Использование искусственного интеллекта в повседневной жизни поднимает множество этических вопросов, тесно связанных с правовой сферой, поскольку закон является гарантом защиты основных прав и только он может ограничить или запретить определенные практики. Например, если говорить о вреде для окружающей среды, то в 2020 г. цифровые технологии стали причиной от 1,8 до 6,3 % выбросов углекислого газа в мире.

В свете особенностей искусственного интеллекта крайне важно рассмотреть правовые последствия его применения. При этом необходимо обеспечить подотчетность всех заинтересованных сторон и предотвратить возможные злоупотребления. Нельзя мириться с правовым вакуумом в сфере искусственного интеллекта. Поэтому представляется необходимым задуматься о роли этики в создании правовых норм при использовании искусственного интеллекта в компаниях.

При проведении данного исследования были использованы традиционные научные методы: анализ юридических текстов, научной литературы, диагностика состояния и условий изучаемой области на национальном и международном уровнях. Для изучения проблемы нашего исследования был осуществлен обзор научной литературы, посвященной правовым и этическим вопросам использования искусственного интеллекта. Кроме того, мы провели обзор юридических текстов и директив, разработанных на национальном и международном уровнях и имеющих прямую или косвенную связь с использованием искусственного интеллекта, а также сравнили законодательство Марокко с соответствующими правовыми актами других стран. На международном уровне мы изучили директивы и резолюции, принятые различными организациями или международными органами.

1. Появление искусственного интеллекта: возможность или угроза?

Искусственный интеллект уже оказывает влияние практически на все сферы повседневной жизни. В его основе лежит процесс имитации человеческого интеллекта, который базируется на создании и применении алгоритмов. Искусственный интеллект таит в себе огромный потенциал и предоставляет множество возможностей для всех стран мира. С другой стороны, использование этой технологии уже создало новые проблемы и вызывает опасения по поводу рисков, которые она представляет для функционирования организаций (1.2), сферы трудовых отношений и основных прав и свобод (1.1).

1.1. Искусственный интеллект и защита основных прав и свобод

Действительно, искусственный интеллект предоставляет все больше возможностей для создания новых решений, направленных на улучшение жизни людей, укрепление гарантий здоровья и благополучия человечества ^ои^, 2018). Эти интеллектуальные технологии содержат риски для осуществления основных прав и свобод. Именно в этом смысле комиссия Европейского совета заявила, что «использование алгоритмических систем с возможностями автоматизированного сбора данных, анализа решений, оптимизации или машинного обучения может иметь негативные последствия для осуществления, реализации и защиты основных прав и свобод человека»2.

Дело в том, что искусственный интеллект позволяет собирать и обрабатывать огромное количество данных. Они собираются с помощью приложений (электронный пропуск, геолокация, видеонаблюдение и т. д.) и могут использоваться для назначения и выплаты вознаграждения, управления режимом труда и отдыха сотрудников, контроля исполнения задач и соблюдения дисциплины3. Различные технологии, используемые на рабочем месте, могут оказывать влияние на права и свободы сотрудников (Desbarats, 2020) и даже затрагивать права кандидатов в процессе найма, организованного компанией (Desbarats, 2020).

Поскольку искусственный интеллект в процессе своей работы опирается на данные, проблема персональных данных является одной из самых важных в этой сфере. Она заключается в том, что алгоритмам необходимо обработать огромное количество данных, чтобы принять решение. Такая ситуация может противоречить принципам сбора и использования данных, установленным действующим законодательством Марокко. Фактически это принципы минимизации данных и установления ограничений в зависимости от целей сбора данных, которые предусмотрены Законом 09-08 о защите физических лиц в отношении обработки персональных данных.

Важно отметить, что использование приложений искусственного интеллекта уже давно обосновано технологической природой этих приложений, поскольку они позволяют избежать любых предрассудков и ненамеренной дискриминации со стороны человека. Таким образом, искусственный интеллект может подорвать человеческие ценности и принципы, лежащие в основе Всеобщей декларации прав человека. Он также может привести к нарушению основных прав и свобод, таких как свобода выражения мнений и собраний, путем фильтрации и удаления контента. Это относится к таким аспектам, как человеческое достоинство, дискриминация по признаку пола, расы или этнического происхождения, религии или убеждений и, в зависимости от обстоятельств, защита персональных данных, уважение частной жизни или право на эффективную судебную защиту и справедливое судебное разбирательство, а также защита прав потребителей.

Следует также отметить, что искусственный интеллект породил новые вопросы и проблемы с точки зрения этики и защиты данных, которые необходимо решать на политическом уровне с помощью тщательной разработки мер для достижения

2 Counsil of Europe. (2018, November 12). Draft Recommendation of the Committee of Ministers to member States on human rights impacts of algorithmic systems. https://clck.ru/3B46zf

3 (Michaud, 2021);usages et régulations, conférence de l'université de Toulouse à titre de "l'année universitaire" 2019-2020.

баланса и соответствия нормативным положениям. Обрабатываемые данные часто носят личный характер, могут описывать поведение человека и быть конфиденциальными; это, например, информация о здоровье и биометрические данные. Они могут иметь потенциальные последствия для неприкосновенности частной жизни и этики, осложняя проблему защиты личной информации в будущем, когда появится искусственный интеллект. Действительно, если персональные данные -это новое Эльдорадо, то их эксплуатация с помощью сверхсложных и идеологически предвзятых алгоритмов может привести к созданию новых форм рабства или, по крайней мере, дистанционного контроля над коллективным и индивидуальным поведением (Barraud, 2019). Это технологическое регулирование, угрожающее свободе воли каждого индивида, и алгоритмы могут нести в себе грозные, хотя поначалу неощутимые нормативные последствия (Marique & Stronwel, 2017).

Учитывая возможности искусственного интеллекта, его интеграция в правовую сферу может послужить катализатором социального и технического прогресса, выгодного как профессионалам в области права, так и участникам судебных процессов. «Нет сомнений в том, что некоторые приложения искусственного интеллекта, которые в настоящее время разрабатываются или находятся на стадии эксперимента (например, направленные на ускорение правовых исследований), могут быть очень полезными и сделать судебную работу более быстрой и эффективной. Необходимо поддерживать использование искусственного интеллекта, который, с одной стороны, находится на службе у профессионалов системы правосудия и соответствует их потребностям, а с другой - уважает права личности, гарантированные Всеобщей декларацией» (Boy, Racine, & Siiriaien, 2009). Искусственный интеллект не просто инструмент для повышения эффективности судебной сферы, он должен укреплять, а не снижать гарантии верховенства закона и качество государственной системы правосудия.

1.2. Искусственный интеллект: инструмент для компаний

Технологический прогресс придает деловой среде новый динамизм, ставя перед компаниями все более сложные задачи. В ходе промышленной революции новые технологии существенно повлияли на организацию и управление компаниями, что привело к их цифровой трансформации и оптимизации операционных моделей с приоритетным использованием ИТ-ресурсов для улучшения продуктов и услуг, создания более тесных партнерств нового поколения и немедленного реагирования на ожидания клиентов.

Действительно, искусственный интеллект заставил мир бизнеса бурно развиваться4. Масштабы этих изменений доходят даже до «запрограммированного» исчезновения некоторых видов деятельности во многих отраслях (промышленность, банковское дело, финансы, торговля и т. д.). Речь идет также о том, что роботы должны более или менее ощутимым образом «увеличить» физический и когнитивный потенциал человека на рабочем месте, одновременно снижая монотонность труда и помогая ему. С появлением приложений искусственного интеллекта ряд

N. Le Ru. (2016). l'effet de l'automatisation sur l'emploi: ce qu'on sait et ce qu'on ignore, France stratégie. La note d'analyse, no 49 juillet 2016: conseil d'orientations sur l'emploi, Automatisation, numérisation et emploi, t, 1, les impacts sur le volume, la structure et la localisation de l'emploi, janvier 2017.

4

профессий особенно сильно изменится; роботы постепенно будут интегрированы в датчики на основе искусственного интеллекта. Последний все чаще позволяет осуществлять «мягкое» взаимодействие между людьми и роботами. Эта революция должна благоприятно сказаться как на компаниях, так и на отдельных сотрудниках, которые смогут гораздо проще взаимодействовать с машиной, способной помочь им в решении сложных задач (Zouinar, 2020). Помогающие роботы приносят пользу компании, повышают производительность и гибкость, а также могут способствовать улучшению условий труда, снижению количества нарушений и обеспечению гибкой координации при выполнении задач внутри компании5.

Отметим, что приложения, оснащенные искусственным интеллектом, специально разрабатываются для обеспечения удаленной и командной работы с использованием новых коммуникационных технологий; так работа может стать мобильной и дистанционной. Они также позволяют улучшить коммуникацию внутри компании, повысить уровень профессиональных и человеческих отношений, делая более доступной информацию о жизни в компании. Эти различные инструменты искусственного интеллекта дают новые возможности, позволяют оптимизировать рабочее время, выполнять новые задачи, снижать вероятность ошибки, а также снимать возможный стресс (Marique & Stronwel, 2017). Однако не менее велик риск изоляции работника, вторжения в его личную жизнь вездесущих информационных потоков и отношений, которые становятся исключительно цифровыми в ущерб человеческим.

В Марокко, как и в целом ряде других развивающихся стран, «большие данные» и алгоритмы открывают новые горизонты. Действительно, искусственный интеллект уже очень широко присутствует в нашей жизни через смартфоны, GPS и другие софты и все больше и больше через наши автомобили (Naim et al., 2021). То же самое можно сказать и о компаниях, где часто используется множество других инструментов, таких как автоматический перевод или чат-боты6 для ответа клиентам через Интернет. Кроме того, технология преобразования речи в текст, основанная сразу на нескольких свойствах искусственного интеллекта, способна превратить любой ауди-оконтент в письменный текст. Это позволяет компаниям экономить время, избавляя их от необходимости вручную набирать текст на клавиатуре. Таким образом, искусственный интеллект способствует разработке нового поколения продуктов и услуг с меньшими затратами.

Важно отметить, что в Марокко не все отрасли в одинаковой степени готовы к применению этого вида технологий. Мы все еще не можем говорить об использовании искусственного интеллекта в Марокко, по крайней мере, для большинства компаний (Ait El Bour & Lebzar, 2020). Сегодня компании работают с данными, пытаясь собрать их, оцифровать, сделать доступными и проанализировать (Bouanba et al., 2022; Mohamed-Amine et al., 2024). Это первый шаг к внедрению систем искусственного интеллекта. В настоящее время наиболее подвержены эволюции в сфере технологий такие секторы, как банковское дело, фондовый рынок, страхование, телекоммуникации и частично промышленность.

Atain-Kouadio, J. J., & Sghaier, A. (2017). Les robots et dispositifs d'assistance physique: état des lieux et enjeux pour la prévention. INRS, Note Scientifique et technique, NS 354. (In French).

Это персональный помощник, который быстро и верно отвечает на запросы тысяч клиентов, ищущих информацию или услугу. Чат-бот беседует с клиентом, соблюдая культуру и имидж компании или человека, который его использует.

5

6

В государственном секторе искусственный интеллект дает возможность улучшить качество обслуживания населения. Он позволяет предоставлять гражданам практическую информацию, тем самым облегчая их жизнь, модернизируя управление и государственные услуги. Системы с ИИ также способствуют участию в общественной жизни и стимулируют экономическое развитие за счет более эффективного предоставления и распространения информации. Они также позволяют развивать информационные технологии и создавать цифровую экономику, преодолевая консерватизм органов управления, и формировать экосистему для обеспечения сбалансированного общества знаний, в которое могут внести свой вклад различные стороны (ВоиЬкег, 2024).

Наконец, внедрение технологий искусственного интеллекта оказывает значительное влияние на производительность компаний, стимулирует их развитие и интер-нализацию, повышает эффективность и экономические результаты деятельности. Современные технологии искусственного интеллекта основаны на методах машинного обучения, который представляет собой математический инструмент самообучения алгоритмов. Компании все чаще инвестируют в технологии искусственного интеллекта, чтобы автоматизировать бизнес-процессы, улучшить процесс принятия решений и получать более точные рекомендации.

2. Регулирование искусственного интеллекта: моральная и правовая необходимость

Ускоренное развитие искусственного интеллекта в последние годы и возможность его внедрения во все отрасли и практически во все виды человеческой деятельности заставили задуматься о его правовых основах. Однако человечество еще только осваивается в этом мире без территории, поэтому защита цифровых прав и свобод должна основываться на определенных и четко установленных правовых принципах, а также на широком спектре инструментов регулирования.

Осознавая потенциал технологий в перспективе постковидной экономики, государства, однако, в равной степени осознают и их опасности. Кроме того, в каждой области применения (в самом широком смысле) использование искусственного интеллекта может вызвать вопросы и поставить под сомнение его этический и правовой характер. Ввиду сложности и разнообразия сфер применения искусственного интеллекта, а также их изменчивого и постоянного эволюционирующего характера необходимо принять гибкие инструменты «мягкого права» в виде руководящих принципов, этических хартий, кодексов поведения и других этических стандартов (2.1), прежде чем создавать правовые рамки для использования искусственного интеллекта (2.2).

2.1. Этические рамки для искусственного интеллекта

Относительная анархия в области развития искусственного интеллекта побудила участников процесса предложить нормативные рамки, чтобы снизить риски, которые несет в себе эта технология, и в то же время оптимизировать ее преимущества. Однако, осознавая важность норм, а также необходимость не ограничивать себя созданием корпуса правил, субъекты искусственного интеллекта призвали установить этические правила разработки и использования систем искусственного интеллекта на основе принципов, соответствующих конкретным интересам. В то же время государственные и частные субъекты во всем мире, осознавая риски неупорядоченной

и необъективной стандартизации, включились в гонку стандартов как на национальном, так и на международном уровнях (Thibout, 2019).

Такая динамика привела к появлению множества нормативных и этических кодексов при отсутствии международного консенсуса по созданию общих нормативных инструментов. Цель этих инициатив - реагировать на очевидную и явную обеспокоенность в связи с появлением искусственного интеллекта и его реальными или предполагаемыми опасностями. Идея заключается в том, что искусственный интеллект должен быть, от замысла до использования, «совместимым с этикой», т. е. соответствовать гуманистическим ценностям, присущим обществу. Другими словами, настало время воплотить в текстах хартий, этических кодексов, руководств по надлежащей практике, руководящих принципов этику использования приложений искусственного интеллекта (Jobin et al., 2019). В этом смысле внедрение искусственного интеллекта в общественную жизнь потребует разработки правил в виде гибкого закона, с активным вовлечением заинтересованных сторон в его создание (Bostrom & Yudkowsky, 2018).

Действительно, идея этики искусственного интеллекта состоит в том, что разработчики должны уважать человеческое достоинство и личную независимость в процессе исследования и разработки систем искусственного интеллекта. Например, они должны принимать необходимые меры, чтобы не вызывать дискриминацию, обусловленную предрассудками, которые могут проникнуть в обучающие данные для систем искусственного интеллекта. В контексте конкуренции на международном уровне и рисков искусственного интеллекта множатся инициативы по его регулированию, так как в значимости этики в этой области нет сомнений (Bufflier, 2020).

Этика, применяемая к искусственному интеллекту, находится в процессе разработки; существуют определенные международные стандарты, но они имеют значение «мягкого права». Таким образом, этика изначально имеет логику «мягкого права» и постепенно формулируется вокруг соблюдения норм.

Что касается международного уровня, то на Генеральной конференции ЮНЕСКО были приняты рекомендации по этике искусственного интеллекта. Их разработка основывалась на предварительном исследовании Всемирной комиссии по научным знаниям и технологиям (World Commission on Scientific Knowledge and Technology, COMEST) при ЮНЕСКО. Это первый международный нормативный документ по этике ИИ в форме рекомендаций, охватывающих все области ИИ путем разработки ключевых принципов и направляющих развитие и применение ИИ с учетом интересов человека. В тексте Рекомендаций говорится, что ЮНЕСКО «также убеждена в том, что всемирно признанные этические стандарты для технологий ИИ, полностью соответствующие международному праву, в частности законодательству о правах человека, могут сыграть ключевую роль в развитии норм, связанных с ИИ, во всем мире»7.

Важно отметить, что в этой простой рекомендации, не имеющей обязательного характера, ЮНЕСКО вводит механизмы соблюдения норм, называемые «стратегическими механизмами» этики, и призывает государства-члены создать «стратегические рамки или механизмы» для оценки воздействия искусственного интеллекта на права человека, верховенство закона, демократию, этику, а также создать инструменты комплексной юридической оценки на основе Руководящих принципов

The Preamble of the UNESCO Recommendation on the Ethics of Artificial Intelligence.

7

предпринимательской деятельности в аспекте прав человека, которые были разработаны ООН (Bostrom & Yudkowsky, 2018).

На европейском уровне начиная с 2018 г. работает комиссия Европейского совета, которая рассматривает искусственный интеллект в глобальном масштабе. Задача комиссии - обеспечить адекватные этические и правовые рамки в отношении ценностей ст. 2 Договора о Европейском союзе и Хартии основных прав Европейского союза. С этой целью комиссия предложила разработать проект этического руководства в области искусственного интеллекта. Эти руководящие принципы были опубликованы в 2019 г. и представляют собой надежную основу, из которой следуют этические принципы, которых должны придерживаться специалисты в области искусственного интеллекта. Это четыре этических принципа: уважение автономии человека, предотвращение вреда, справедливость и объяснимость.

Кроме того, в 2017 г. Европейский парламент принял резолюцию, содержащую «рекомендации по нормам гражданского права в области робототехники»8. Приложением к ней стала «Хартия по робототехнике», которая, по мнению специалистов, сводится к этическому «кодексу поведения» для инженеров-робототехников, «кодексу этики» для комитетов по этике и исследованиям, «лицензий» для разработчиков и пользователей. В этом же ключе Европейская комиссия разработала текст в виде «Европейской этической хартии по использованию искусственного интеллекта в судебных и сопутствующих им системах» (Bensoussan & Bensoussan, 2019). Она касается автоматизированной обработки судебных решений и судебных данных (с помощью машинного обучения). Хартия содержит целый ряд принципов, направленных на решение этических проблем искусственного интеллекта. Эти принципы нацелены на уважение фундаментальных ценностей, в частности принцип недискриминации и права на неприкосновенность частной жизни. Особое внимание в хартии уделяется также безопасности и прозрачности9.

Осознавая риски, которые несет в себе искусственный интеллект, Марокко, со своей стороны, предприняло ряд инициатив в области цифровых преобразований. В 2011 г. в стране было создано Главное управление по безопасности информационных систем (General Directorate of Information Systems Security, DGSSI), задача которого - обеспечить поддержку и безопасность цифрового развития. Этот орган разработал стратегию, призванную сопровождать распространение коммуникационных и информационных технологий. Данная стратегия отвечает на новые вызовы, возникающие в связи с развитием цифровых пользователей и угрозами, связанными с этими технологиями10.

10

Resolution of February 16, 2017 with recommendations to the Commission on civil law rules on robotics (2015/2103(INL)), Liability, item AF.

В 2020 г. Европейский парламент принял и другие резолюции: Резолюция Европейского парламента от 20 октября 2020 г. с рекомендациями для комиссии о правовых основах этики искусственного интеллекта и робототехники и связанных с ними технологий; Резолюция Европейского парламента от 20 октября 2020 г. с рекомендациями для комиссии о режиме гражданской ответственности для искусственного интеллекта. Voir, Y. Meneceur. (2019). Les enseignements des éthiques européennes de l'intelligence artificielle. La Semaine Juridique, 12, 552-558. (In French).

General Directorate for Information Systems Security. Stratégie Nationale en matière de cyber sécurité. https://clck.ru/3B49Gf

8

9

В 2017 г. в Марокко было также учреждено Агентство цифрового развития, занимающееся вопросами отношения человека к цифровым технологиям. Агентство готовит отчеты и организует широкие консультации с участием государственных и частных структур, чтобы внести вклад в создание более творческого и инновационного общества, а также выстроить новый баланс между экономическими и социальными вопросами, связанными с цифровыми технологиями. С принятием Закона 09-08 о защите физических лиц при обработке персональных данных в Марокко также была создана национальная комиссия по контролю над защитой персональных данных. Она отвечает за обеспечение защиты персональных данных, содержащихся в компьютерных файлах и на бумажных носителях, как в государственной, так и в частной сфере (Jaldi, 2022).

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

Отчеты этих учреждений служат источником справочной информации для регулирования использования технологий в Марокко (Ait El Bour & Lebzar, 2020). Королевство также присоединилось к рекомендациям ЮНЕСКО по этике искусственного интеллекта. Теперь предстоит создать комиссию, которая будет отвечать за вопросы искусственного интеллекта и его вызовы, безусловно следуя рекомендациям ЮНЕСКО, а также этическим хартиям и руководящим принципам, разработанным международными организациями.

Частные инициативы также играют ключевую роль в создании этических рамок использования искусственного интеллекта. В них участвуют все крупные игроки цифровой экономики. К примеру, партнерство «Partnership on AI»11 было основано крупнейшими транснациональными компаниями - Google, Microsoft, Facebook12, Amazon и Apple - для изучения и развития передового опыта в области технологий искусственного интеллекта, для углубления понимания общественностью сути ИИ и в качестве открытой платформы для обсуждения и взаимодействия в этой области и влияния ИИ на человека и общество (Bensamoun & Loiseau, 2017a).

Трудность, которую мы наблюдаем сегодня, заключается в том, что на практике этика, применяемая к искусственному интеллекту, сложна в своей реализации. Действительно, большое количество компаний, правительств, ассоциаций, государственных и частных организаций разрабатывают руководства по передовому опыту, рекомендации или просто дискутируют об этичности и ответственности искусственного интеллекта. Однако можно заметить, что эти субъекты испытывают трудности с внедрением указанных принципов в своей практике. В этом смысле актуальным решением может стать саморегулирование операторов, но только в том случае, если оно предполагает обязательность действий на более высоком уровне, согласно модели соответствия или подотчетности (Cath, 2018).

2.2. Необходимость правового режима, адаптированного к искусственному интеллекту

Проблема искусственного интеллекта стала стратегической, поскольку она касается практически всех сфер деятельности человека, от финансов до обороны, образования, логистики, здравоохранения и правосудия. В некоторых регионах мира ИИ уже

11 Partnership on AI (PAI). www.Partnershiponai.org

12 Социальная сеть принадлежит Meta, признанной экстремистской организацией, ее деятельность запрещена на территории Российской Федерации.

стал необходимостью, и он стремится распространиться на всю планету. Это побуждает заинтересованных игроков разрабатывать нормативные рамки, чтобы ограничить риски, связанные с этой технологией, и оптимизировать ее преимущества. Однако внедрение правовой базы, которая бы строго регулировала разработку и использование систем искусственного интеллекта, сопряжено с рядом проблем. Во-первых, она не всегда желательна для определенных заинтересованных сторон, поскольку может противоречить их интересам, ограничивая их свободу действий. Во-вторых, она требует консенсуса, основанного на длительной дипломатической работе и сложных переговорах с различными государственными и частными субъектами. Такое регулирование должно оставлять как можно больше возможностей для развития и использования алгоритмических систем, которые несут много преимуществ человечеству. При этом необходимо гарантировать, что использование этих систем не навредит отдельным людям и обществу в целом.

Кроме того, если проблемы, создаваемые системами искусственного интеллекта, не будут регулироваться общим «законодательством об искусственном интеллекте» или «законодательством об алгоритмах», тогда гораздо более уместным будет сочетание общих и отраслевых стандартов. Действительно, можно наблюдать, что возможность надлежащим образом отвечать на новые вызовы, вероятно, потребует адаптации толкования и применения существующих стандартов.

Особо следует отметить, что законодательство Марокко не предусматривает специального регулирования искусственного интеллекта, как это происходит в большинстве развитых стран. Однако использование систем искусственного интеллекта связано с обработкой данных, к которым применяется Закон о защите персональных данных. Таким образом, представляется возможным принципиально решить проблемы, связанные с защитой частной жизни и защитой данных, с помощью уже имеющегося средства - законодательства о защите данных раМ, 2022). Далее каждый раз, когда системы искусственного интеллекта задействуют персональные данные и информацию, находит свое применение Закон 09-08 о защите физических лиц в отношении обработки персональных данных.

Однако использование систем искусственного интеллекта приводит и к другим проблемам. Например, часто заинтересованные лица не осознают, что, имеют дело с применением этих систем и не понимают сути их функционирования. Кроме того, такие системы могут привести к дискриминации и манипулированию действиями людей. Вместе с тем, внедрение систем искусственного интеллекта ставит новые вопросы в области законодательства об ответственности. Во всех этих областях по-прежнему существует необходимость в регулировании, и это касается обеспечения безопасности автономных систем и определенных процедур авторизации.

Несомненно, в области систем искусственного интеллекта крайне важно наличие правовой базы, не препятствующей развитию технологии и предоставляющей гарантии при возможном ущербе. Для этого некоторые авторы предлагают создать электронную личность, наделив системы искусственного интеллекта юридическим статусом. Эта концепция электронной личности была очень быстро подвергнута критике на том основании, что такое решение может разрушить границы между человеком и машиной (МегаЬе^ 2018). Очевидно, что вменить машине юридическую ответственность сложно; при этом решение, заключающееся в создании правосубъектности систем искусственного интеллекта, является чрезмерным и его необходимо отклонить. Такое решение может ограничить платежеспособность «робота-должника» и снизить ответственность его производителей (Bensamoun & Loiseau, 2017Ь).

С другой стороны, представляется разумным и обоснованным возложить ответственность на разработчика, производителя, владельца и пользователя искусственного интеллекта. Отметим, что одна из сложностей в области искусственного интеллекта заключается в том, что в его функционирование могут вмешиваться многие субъекты13. Таким образом, ответственность может лежать на уровне выбора, сбора и организации данных для обучения, разработки алгоритмов, реализации программного обеспечения, интерфейса и даже аппаратной части (Courtois, 2016). Другие участники могут нарушить работу систем, будь то злонамеренный пользователь или даже третья сторона, действующая недобросовестно. Представляется, что некоторые из этих субъектов могут нести определенную долю ответственности или даже что различные аспекты ответственности могут быть возложены на них совместно или раздельно.

Сегодня интеллектуальные машины наделены способностью принимать решения автономно и в отсутствие эффективного контроля со стороны человека. Это делает неприменимыми традиционные нормы ответственности, предусмотренные статьей 88 Кодекса обязательственного и договорного права Марокко14. Ведь даже если человек отвечает за устройство, наделенное искусственным интеллектом, оно может выйти из-под контроля из-за сложности эффективного управления ею. Кроме того, при таком режиме потенциальным жертвам сложно определить, кто будет нести ответственность - разработчик или пользователь искусственного интеллекта. Например, если пользователь обладает техническими навыками, он может модифицировать исходный код, что приведет к изменению работы ИИ. Кроме того, пользователь может выбирать параметры функционирования, также изменяя его работу. Такой сценарий значительно затрудняет идентификацию лица, реально управляющего устройством с искусственным интеллектом. С учетом всех вышеперечисленных проблем становится непросто установить, был ли вред нанесен в результате дефектов структуры или действий искусственного интеллекта, что порождает проблему доказывания.

В самом деле в большинстве доктрин отмечается, что ответственность за действия устройств не вполне адаптирована к факту автономности искусственного интеллекта (Shushanik, 2019). Однако к этому факту могут быть адаптированы другие режимы, когда ответственность наступает при отсутствии вины. Так происходит в случае ответственности за качество продукции; этот режим может оказаться эффективным для работы с автономными системами искусственного интеллекта (Courtois, 2016). Понятия продукта и дефекта хорошо совместимы с нематериальным и автономным характером этих систем. Это механизм ответственности полного права, как предусмотрено в п. 1 ст. 106 Кодекса обязательственного и договорного

13 Множественность участников процесса использования или программирования системы не позволяет применить традиционные составляющие гражданской ответственности: понятий вины, ущерба и причинной связи.

14 Статья 88 Кодекса обязательственного и договорного права гласит: «Физические лица несут ответственность за вред, причиненный находящимися в их ведении объектами, при условии, что эти объекты непосредственно причинили вред, если они не докажут: 1) что приняли все необходимые меры предосторожности для предотвращения вреда и 2) что вред возник вследствие непредвиденных обстоятельств, непреодолимой силы или по вине потерпевшего».

права Марокко: «Производитель несет ответственность за ущерб, вызванный дефектом его продукции»15.

В действительности интеллектуальные машины не являются обычными продуктами. Необходимо учитывать, в частности для определения происхождения дефекта, их сложность, сочетание нематериальных и при необходимости материальных элементов, а также участие многочисленных сторон в их производстве, от разработчика алгоритмов и программ до изготовителя робота. Широкое понятие производителя, будь то изготовитель конечного продукта или его компонентов, а также солидарная ответственность обоих позволяют обеспечить необходимый режим ответственности без применения других норм (Courtois, 2016). Возникает вопрос, в каком случае производитель может воспользоваться основанием для освобождения от ответственности. Ответ на этот вопрос содержится в п. 9 ст. 106 Кодекса обязательственного и договорного права: «Производитель не несет ответственности, если будет доказано, что дефект, вызвавший ущерб, не существовал в момент выпуска товара в обращение или что этот дефект возник впоследствии». Согласно этой статье, производитель не может быть привлечен к ответственности, если с учетом обстоятельств есть основания полагать, что дефект, причинивший вред, не существовал в момент выпуска товара в обращение или что этот дефект возник позже.

Однако в отношении систем искусственного интеллекта традиционные нормы выпуска товара на рынок можно поставить под сомнение. В некоторых случаях роль производителя не ограничивается таким выпуском. Иногда программное обеспечение обновляется для обеспечения его надлежащего функционирования и адаптации к окружающей среде. Кроме того, производитель может предоставить новые данные для обработки автономным программным обеспечением. Тогда речь идет о том, можно ли учесть роль производителя при определении ответственности. Для ответа на этот вопрос можно предположить, что если производитель сохраняет контроль над созданной им системой для последующих обновлений, то он должен нести ответственность за дефекты этой системы, даже если они появляются после выпуска данного продукта. Наконец, следует отметить, что данный режим ответственности, по-видимому, адаптирован к системам искусственного интеллекта, однако его применение в этой области все еще остается неопределенным из-за отсутствия общепризнанной судебной практики, и вопрос о согласовании этих различных режимов ответственности может стать серьезной проблемой.

Заключение

Искусственный интеллект и темпы его развития породили новые экономические, социальные и этические проблемы. Область права не является исключением. Хотя искусственный интеллект помогает компаниям адаптироваться и осваивать все

15 Термин «продукт» означает любой продукт, предлагаемый на рынке в контексте профессиональной, коммерческой или ремесленной деятельности, за плату или бесплатно, новый или бывший в употреблении, подвергавшийся или не подвергавшийся обработке или упаковке, либо встроенный в другой объект или в здание. Электроэнергия также считается продуктом. См. п. 2 ст. 106 Кодекса обязательственного и договорного права Марокко.

более динамичную бизнес-среду, он также создает риски для реализации основных прав и свобод. Поэтому необходимо найти баланс между использованием искусственного интеллекта для развития сферы бизнеса и человека в целом и защитой основных прав и свобод.

Технологии и их использование, а в XX в. это прежде всего Интернет, являются трансграничными и ставят под сомнение множество правовых границ, национальных и даже международного законов. Однако, чтобы оставаться эффективным, право должно придерживаться принципа «технологической реальности», который является фактором дифференциации и усложнения нормы, и применять его к искусственному интеллекту. Проблема выбора нормативных актов, применимых к искусственному интеллекту, остается актуальной, поскольку искусственный интеллект находится на пересечении нескольких самых передовых областей человеческой деятельности.

В отсутствие специальной правовой базы для искусственного интеллекта этика естественным образом становится временным решением проблемы выбора мягкого права. Это непростой для большинства людей выбор, так как мягкое право необязательно к исполнению; однако его легко применить к искусственному интеллекту. Этика оказывается удобным инструментом, который можно использовать вместо права. Правовое регулирование систем искусственного интеллекта требует работы на пересечении множества общих и специальных юридических дисциплин, создавая новые, сквозные отношения. Тем самым право получает возможность отразить специфику этих новых субъектов и выполнить свои нормативные и регулятивные функции.

Список литературы

Ait El Bour, D., & Lebzar, B. (2020). L'intelligence artificielle face aux entreprises marocaines, quels défis? Revue

Internationale d'Economie Numérique, 2(1). (In French). Al-Ajmi, F. (2011). Civil Protection for the Consumer in the Electronic Contract. (Unpublished Master dissertation).

University of the Middle East. Barraud. (2019). Le droit en datas: comment l'intelligence artificielle redessine le monde juridique. Revue Lamy

droit de l'immatériel, 164. (In French). Benhanou, S. (2017). Imaginer l'avenir de travail - Quatre types d'organisations à l'horizon 2030, France Stratégie,

Document de travail n°2017-05. (In French). Bensamoun, A., & Loiseau, G. (2017a). La gestion des risques de l'intelligence artificielle - de l'éthique à la

responsabilité. La Semaine juridique, 12. (In French). Bensamoun, A., & Loiseau, G. (2017b). L'intégration de l'intelligence artificielle dans l'ordre juridique en droit

commun: questions de temps. Dalloz IP/IT, 239. (In French). Bensoussan, A., &, Bensoussan, J. (2019). IA, robots et droit. Bruxelles: Bruylant. (In French). Bertrand, André R. (2010). Conditions de la protection par le droit d'auteur. Deux cas particuliers: intelligence

artificielle et réalité virtuelle, Dalloz, 103.27. (In French). Bostrom, N., & Yudkowsky, E. (2018). The Ethics of Artificial Intelligence. In Artificial Intelligence Safety and

Security (pp. 57-69). Chapman and Hall/CRC. https://doi.org/10.1201/9781351251389-4 Bouanba, N., Barakat, O., & Bendou, A. (2022). Artificial Intelligence & Agile Innovation: Case of Moroccan Logistics

Companies. Procedia Computer Science, 203, 444-449. https://doi.org/10.1016/j.procs.2022.07.059 Boubker, O. (2024). From chatting to self-educating: Can AI tools boost student learning outcomes? Expert

Systems with Applications, 238(A), 121820-121820. https://doi.org/10.1016/j.eswa.2023.121820 Boy, L., Racine, J.-B., & Siiriaien, F. (2009). Droit économique et Droit de l'homme. Bruxelles, Larcier. (In French). Bufflier, I. (2020). Intelligence artificielle et éthique d'entreprise. Cahiers de droit de l'entreprise, 3, dossier 19, 45. (In French).

Cath, C. (2018). Governing artificial intelligence: ethical, legal and technical opportunities and challenges. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133), 20180080.

Courtois, G. (2016). Robots intelligents et responsabilité : quels régimes, quelles perspectives. Dalloz IP/IT, 287. (In French).

Desbarats, I. (2020). Quelle protection sociale pour les travailleurs des plateformes? Revue de droit du travail, 10, 592-601. (In French).

Franchomme, M.-P., & Jazottes, G. (2021 ). Le défi d'une IA inclusive et responsable. Droit social, 2, 100-108. (In French).

Jacquemin, H., & de Streel, A. (2017). L'Intelligence artificielle et le droit, Bruxelles, Larcier. (In French).

Jaldi, A. S. (2022). l'intelligence artificielle au Maroc: entre encadrement réglementaire et stratégie économique. Policy Centre for the New South, PB-59/22. (In French).

Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature machine intelligence, 1(9), 389-399.

Marique, E., & Stronwel, A. (2017). Gouverner par la loi ou les algorithmes: de la norme générale de comportement au guidage rapproché des conduites. Dalloz IP/IT, 10, 517. (In French).

Merabet, S. (2018). Vers un droit de l'intelligence artificielle: thèse pour le doctorat en droit privé. Université d'Aix-Marseille. (In French).

Michaud, O. (2021). La protection des travailleurs à l'heure de l'intelligence artificielle. Dossier droit social, 2, Fév., 124-132. (In French).

Mohamed-Amine, N., Abdellatif, M., & Belaid, B. (2024). Artificial intelligence for forecasting sales of agricultural products: A case study of a moroccan agricultural company. Journal of Open Innovation: Technology, Market, and Complexity, 10(1), 100189. https://doi.org/10.1016/j.joitmc.2023.100189

Naim, A., Aaroud, A., Akodadi, K., & El Hachimi, C. (2021). A fully AI-based system to automate water meter data collection in Morocco country. Array, 10, 100056. https://doi.org/10.10167j.array.2021.100056

Rochd, A., Benazzouz, A., Ait Abdelmoula, I., Raihani, A., Ghennioui, A., Naimi, Z., & Ikken, B. (2021). Design and implementation of an AI-based & IoT-enabled Home Energy Management System: A case study in Benguerir - Morocco. Energy Reports, 7, 699-719. https://doi.org/10.1016/j.egyr.2021.07.084

Shushanik, G. (2019). Les problèmes de la réparation du dommage pour les produits et services défectueux dans la législation civile: thèse pour le doctorat en droit privé. l'UEE. (In French).

Soulez, M. (2018). Questions juridiques au sujet de l'IA. Enjeux numériques, 1, 83. (In French).

Thibout, Ch. (2019). La compétition mondiale de l'intelligence artificielle. Pouvoirs - Revue française d'études constitutionnelles et politiques, 170, 131-142. (In French).

Vassileva-Hadjitchoneva, J. (2020). L'IA au service de la prise de décisions plus efficace. Pour une recherche économique efficace: 61° Congrès International AIELF. Santiago, Chili. (In French).

Zouinar, M. (2020). Evolutions de l'intelligence artificielle: Quels enjeux pour l'activité humaine et la relation humain-machine au travail? Activités, 17-1. (In French). https://doi.org/10.4000/activites.4941

Сведения об авторах

Джабир Хамза - соискатель степени PhD; исследовательская лаборатория

частного права, юридических наук и устойчивого развития; факультет права,

экономики и общественных наук; Университет Ибн Зохр

Адрес: Марокко, Агадир, BP 32/S, Риад Салам, CP 80000

E-mail: [email protected]

ORCID ID: https://orcid.org/0000-0003-3534-8982

WoS Researcher ID: https://www.webofscience.com/wos/author/record/HMP-6781-2023 Google Scholar ID: https://scholar.google.com/citations?user=Lka-pbUAAAAJ

Лагтати Камаль - профессор-исследователь, почетный доктор, исследовательская лаборатория частного права, юридических наук и устойчивого развития; факультет права, экономики и общественных наук; Университет Ибн Зохр; член Центра Мишель де л'госпиталь, Университет Клермон-Овернь (EA 4232). Адрес: Марокко, Агадир, BP 32/S, Риад Салам, CP 80000 E-mail: [email protected] ORCID ID: https://orcid.org/0009-0004-9198-2712

Google Scholar ID: https://scholar.google.com/citations?user=W-X93ewAAAAJ

Поэ-Токпа Денис - профессор-исследователь, почетный доктор частного права, факультет права и политологии, Университет Бордо Адрес: Франция, Пессак, 33608, авеню Леона Дюгуи, 16 E-mail: [email protected] ORCID ID: https://orcid.org/0009-0007-2678-1430

Вклад авторов

Авторы внесли равный вклад в разработку концепции, методологии, валидацию, формальный анализ, проведение исследования, подбор источников, написание и редактирование текста, руководство и управление проектом.

Конфликт интересов

Авторы сообщают об отсутствии конфликта интересов.

Финансирование

Исследование не имело спонсорской поддержки.

Тематические рубрики

Рубрика OECD: 5.05 / Law Рубрика ASJC: 3308 / Law Рубрика WoS: OM / Law

Рубрика ГРНТИ: 10.07.45 / Право и научно-технический прогресс Специальность ВАК: 5.1.1 / Теоретико-исторические правовые науки

История статьи

Дата поступления - 14 декабря 2023 г. Дата одобрения после рецензирования - 12 января 2024 г. Дата принятия к опубликованию - 25 июня 2024 г. Дата онлайн-размещения - 30 июня 2024 г.

Research article UDC 34:004:17:004.8

EDN: https://elibrary.ru/fsfsnq ftt^l checkfor

DOI: https://doi.org/10.21202/jdtl.2024.23

3PST

Check for updates

Ethical and Legal Regulation of Using Artificial Intelligence in Morocco

Hamza Jabir © E

Ibn Zohr University, Agadir, Morocco

University of Bordeaux, Pessac, France

Keywords

Abstract

"hard law",

Moroccan legislation, artificial intelligence, moral values, "soft law",

principle of technological reality,

legal regulation, legal risks, digital technologies, ethical principle

Objective: to explore and identify the issues and opportunities for the ethical and legal regulation of artificial intelligence by the example of digital transformation in Morocco.

Methods: the study was conducted using analytical and comparative approaches to address the emerging legal issues arising from the development of artificial intelligence. The traditional scientific method in law is based on legal analysis, which was applied to the study of legal texts, scientific literature, diagnosis of the condition of the study field at the national and international level. Along with this, the comparative approach in law was used, which made it possible to examine the Moroccan legislation comparison with that of other countries.

Results: the article presents a review of scientific literature on the legal and ethical issues of using artificial intelligence. Legal texts and decrees developed at national and international level, directly or indirectly linked to the use of artificial intelligence, were reviewed. Moroccan legislation was compared with that of other countries. The findings suggest that, in the absence of a specific legal framework for artificial intelligence systems, the adoption of ethical standards in the form of guidelines, best

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.

This is an Open Access article, distributed under the terms of the Creative Commons Attribution licence (CC BY 4.0) (https://creativecommons.Org/licenses/by/4.0), which permits unrestricted re-use, distribution and reproduction, provided the original article is properly cited.

practices and ethical charters is preferable. These mechanisms appear to be a viable alternative to legal regulation. In this sense, several initiatives were taken to promote "soft law", which aims to encourage appropriate behavior of technological agents.

Scientific novelty: the analysis of digital transformations in Morocco made it possible to present a comprehensive view on the role of ethical aspects and on the sufficiency of law to respond to the changes in the modern society, transformed by the development of artificial intelligence. Practical significance: the study allows identifying ways to find a more flexible balance between "soft" and "hard" law in the regulation of relations, taking into account the technological reality. This should encourage the appropriate behavior of technological agents and positively affect the specificity of the current situation. Today, the "hard law" slowly recognizes and addresses the problems associated with the digital technologies' regulation and slowly takes into account the possible risks posed by artificial intelligence and the insufficiency of its regulation.

For citation

Jabir, H., Lagtati, K., & Pohe-Tokpa, D. (2024). Ethical and Legal Regulation of Using Artificial Intelligence in Morocco. Journal of Digital Technologies and Law, 2(2), 450-472. https://d0i.0rg/l 0.21202/jdtl.2024.23

References

Ait El Bour, D., & Lebzar, B. (2020). L'intelligence artificielle face aux entreprises marocaines, quels défis? Revue Internationale d'Economie Numérique, 2(1). (In French).

Al-Ajmi, F. (2011). Civil Protection for the Consumer in the Electronic Contract. (Unpublished Master dissertation). University of the Middle East.

Barraud. (2019). Le droit en datas: comment l'intelligence artificielle redessine le monde juridique. Revue Lamy droit de l'immatériel, 164. (In French).

Benhanou, S. (2017). Imaginer l'avenir de travail - Quatre types d'organisations à l'horizon 2030, France Stratégie, Document de travail n°2017-05. (In French).

Bensamoun, A., & Loiseau, G. (2017a). La gestion des risques de l'intelligence artificielle - de l'éthique à la responsabilité. La Semaine juridique, 12. (In French).

Bensamoun, A., & Loiseau, G. (2017b). L'intégration de l'intelligence artificielle dans l'ordre juridique en droit commun: questions de temps. Dalloz IP/IT, 239. (In French).

Bensoussan, A., &, Bensoussan, J. (2019). IA, robots et droit. Bruxelles: Bruylant. (In French).

Bertrand, André R. (2010). Conditions de la protection par le droit d'auteur. Deux cas particuliers: intelligence artificielle et réalité virtuelle, Dalloz, 103.27. (In French).

Bostrom, N., & Yudkowsky, E. (2018). The Ethics of Artificial Intelligence. In Artificial Intelligence Safety and Security (pp. 57-69). Chapman and Hall/CRC. https://doi.org/10.1201/9781351251389-4

Bouanba, N., Barakat, O., & Bendou, A. (2022). Artificial Intelligence & Agile Innovation: Case of Moroccan Logistics Companies. Procedia Computer Science, 203, 444-449. https://doi.org/10.1016Zj.procs.2022.07.059

Boubker, O. (2024). From chatting to self-educating: Can AI tools boost student learning outcomes? Expert Systems with Applications, 238(A), 121820-121820. https://doi.org/10.1016/j.eswa.2023.121820

Boy, L., Racine, J.-B., & Siiriaien, F. (2009). Droit économique et Droit de l'homme. Bruxelles, Larcier. (In French).

Bufflier, I. (2020). Intelligence artificielle et éthique d'entreprise. Cahiers de droit de l'entreprise, 3, dossier 19, 45. (In French).