CC BY
52УДК 34.07
РЕГУЛЯТОРНАЯ ПОЛИТИКА В СФЕРЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ИССЛЕДОВАНИЕ ПОДХОДОВ К ПРАВОВОМУ РЕГУЛИРОВАНИЮ
Конусова Венера Тулеутаевна
Главный научный сотрудник отдела гражданского, гражданского процессуального законодательства и исполнительного производства Института законодательства и правовой информации Республики Казахстан, кандидат юридических наук, Республика Казахстан, Астана, e-mail: [email protected]
Аннотация. Статья является исследованием, посвященным изучению подходов к регулированию сферы искусственного интеллекта (ИИ) в Казахстане. Она предлагает анализ подходов к разработке этических принципов, стратегических документов и моделей законодательного регулирования, с целью создания сбалансированной модели, способствующей развитию новых технологий и прогрессу в сфере ИИ, с акцентом на защиту прав и законных интересов граждан, обеспечение их безопасности.
Статья предоставляет структурированное понимание перспектив регулирования ИИ в Казахстане, а также рекомендации по использованию современных международных стандартов и практик. Особое внимание уделяется опыту Европейского союза и Великобритании в формировании комплексного регулирования сферы ИИ.
По результатам критического анализа зарубежного опыта предложено разграничение вопросов, подлежащих регулированию на законодательном и подзаконном уровнях. Для регулирования на законодательном уровне предложен ряд мер, включая определение понятия искусственного интеллекта, закрепление принципов регулирования, обязательную процедуру оценки воздействия систем ИИ на права человека, установление четких полномо-т чий уполномоченного органа, а также требование прозрачности в использовании ИИ. При
0 этом в статье отмечается, что регулирование ИИ на уровне кодифицированного акта Ф нецелесообразно. На подзаконном уровне регулирования рекомендуется определить дета-^ ли процедур оценки воздействия систем ИИ на права человека и технологической оценки. ц Также важно определить конкретные характеристики систем ИИ, которые позволят Eii оценить степень их риска и потенциальные негативные последствия для общества и прав
1 граждан. Такой подход позволит обеспечить четкость и эффективность регулирования, < а также необходимую гибкость для столь стремительно развивающейся сферы обще-g ственных отношений.
§ Проведенное исследование представляет потенциальную ценность для различных аудиторий. Во-первых, разработчики правовой политики и законодатели найдут в ней ценные рекомендации, помогающие разработать эффективные стратегии в области ИИ. Во-вторых, она будет полезна для юристов, правозащитников, студентов и всех, интересующихся правовым регулированием ИИ.
Ключевые слова: искусственный интеллект, системы искусственного интеллекта, ре-гуляторная политика, нормативно-правовое регулирование, автоматизация.
и м с;
ш
I ЖАСАНДЫ ИНТЕЛЛЕКТ САЛАСЫНДАГЫ РЕТТЕУ САЯСАТЫ: | ЦЩЫЦТЫЦ РЕТТЕУГЕ ТЭС1ЛДЕРД1 ЗЕРТТЕУ
го <
^ Венера Телеутайцызы Конусова
рЕ Казахстан Республикасы Зацнама жэне цщыцтыц ацпарат институтыныц азамат-
х тыц, азаматтыц процестж зацнама жэне атцарушылыц w жYргiзу бвлiмiнiц бас гылыми
^ цызметкерi, зац гылымдарыныц кандидаты, Казацстан Республикасы, Астана, e-mail: [email protected]
I-
и
ш ей
Аннотация. Мацала К^азацстандагы жасанды интеллект (ЖИ) саласын реттеу тэсш-дерт зерделеуге арналган зерттеу болып табылады. Ол азаматтардыц цуцыцтары мен зацды мYдделерiн цоргауга, олардыц цаутсгздтн цамтамасыз етуге баса назар ауда-ра отырып, жаца технологиялардыц дамуына жэне ЖИ саласындагы прогреске ыцпал ететт тецдестiрiлген модель цуру мацсатында этикалыц цагидаттарды, стратегиялыц цужаттар мен зацнамалыцреттеу модельдерт эзiрлеу тэсшдерт талдауды усынады.
Мацала К^азацстандагы ЖИ реттеу перспективаларын цурылымдыц тYсiнудi, сон-дай-ац цазiргi замангы халыцаралыц стандарттар мен тэжiрибелердi пайдалану бойын-ша усынымдарды усынады. Еуропалыц Одац пен ¥лыбританияныц ЖИ саласын кешендi реттеудi цалыптастырудагы тэжiрибесiне ерекше назар аударылады.
Шетелдж тэжiрибенi сыни талдау нэтижелерi бойынша зацнамалыц жэне зацга тэу-елдi децгейлерде реттеуге жататын мэселелердi ажырату усынылды. Зацнамалыц дец-гейдереттеу Yшiн жасанды интеллект угымын айцындау, реттеу цагидаттарын бекту, жасанды интеллект жYйелерiнiц адам цуцыцтарына эсерт багалаудыц мiндеттi рэсiмi, уэкiлеттi органныц нацты вкшеттжтерт белгшеу, сондай-ац жасанды интеллекттi пай-далануда ашыцтыцты талап етудi цоса алганда, бiрцатар шаралар усынылды. Булретте мацалада кодификацияланган акт децгешнде ЖИ реттеу орынсыз екендг атап втiледi. Реттеудщ зацга тэуелдi децгешнде жасанды интеллект жYйелерiнiц адам цуцыцтарына эсерт багалау жэне технологиялыц багалау процедураларыныц егжей-тегжешн аныцтау усынылады. Сондай-ац олардыц тэуекел дэрежест жэне цогам мен азаматтардыц цуцыцтары Yшiн ыцтимал терт салдарын багалауга мYмкiндiк беретт ЖИ жYйе-лертщ нацты сипаттамаларын аныцтау мацызды. Бул тэсш реттеудщ айцындылыгы мен тшмдтгт, сондай-ац цогамдыц цатынастардыц царцынды дамып келе жатцан са-ласы Yшiн цажеттi икемдiлiктi цамтамасыз етуге мYмкiндiк бередi.
ЖYргiзiлген зерттеу эртYрлi аудиториялар Yшiн элеуеттi цундылыц болып табылады. Бiрiншiден, цуцыцтыц саясатты жасаушылар мен зац шыгарушылар онда ЖИ саласындагы тиiмдi стратегияларды эзiрлеуге квмектесетт цунды усыныстар табады. Ектшi-ден, бул зацгерлерге, цуцыц цоргаушыларга, студенттерге жэне жасанды интеллекттi цуцыцтыц реттеуге цызыгушылыц танытцандарга пайдалы болады.
TYÜiHdi свздер: жасанды интеллект, жасанды интеллект жYйелерi, реттеушi саясат, нормативтж-цуцыцтыц реттеу, автоматтандыру.
ш гп
Г) Т I
REGULATORY POLICY IN THE REALM OF ARTIFICIAL INTELLIGENCE: C
-2b Т
W А
EXPLORING APPROACHES TO LEGAL REGULATION
Konusova Venera Tuleutaevna
Chief Researcher of the Department of Civil, Civil Procedural Legislation and Enforcement o
Proceedings of the Institute of Legislation and Legal Information of the Republic of Kazakhstan, o
Candidate of Legal Sciences, Republic of Kazakhstan, Astana, e-mail: [email protected] :>
m
Abstract. The article represents a research endeavor that explores the approaches to regulating T
the realm of artificial intelligence (AI) in Kazakhstan. It presents an analysis of the methodologies Z
employed in the development ofethical principles, strategic documents, and legislativeframeworks, ^
with the overarching objective of establishing a well-balanced model thatfosters the advancement g
of emerging technologies and progress in the field of AI, while emphasizing the safeguarding of g citizens' rights and lawful interests and ensuring their safety.
The article furnishes a structured comprehension of the prospects associated with AI regulation in Kazakhstan, alongside recommendations for the adoption of contemporary international standards and practices. Particular attention is devoted to the experiences of the European Union and the United Kingdom in shaping a comprehensive regulatory framework for the AI domain.
Based on a critical analysis of foreign practices, the article advocates for a delineation of p
regulatory matters at both the legislative and sub-legislative levels. To address legislative №
regulation, a series ofmeasures is proposed, encompassing the definition ofthe concept ofartificial Z
intelligence, the establishment of regulatory principles, the mandatory implementation of impact 4
assessments on human rights stemming from AI systems, the precise specification of competencies 0
for the regulatory authority, and the requirement of transparency in AI utilization. However, the 3 article acknowledges the impracticality of codified AI regulation. As for sub-legislative regulation,
о
it is recommended to delineate the intricacies ofprocedures for assessing the impact ofAI systems on human rights and technological evaluations. Furthermore, it is imperative to ascertain specific characteristics ofAI systems that enable the assessment of their level of risk and potential adverse consequences for society and individual rights. Such an approach ensures clarity, efficacy, and the necessary flexibility demanded by the rapidly evolving landscape of societal interactions.
The conducted research carries the potential for considerable value across diverse audiences. Primarily, policymakers and legislators willfind invaluable recommendations that aid in devising effective strategies within the realm of AI. Moreover, the article holds significance for legal professionals, human rights advocates, students, and all those engaged in the scholarly pursuit of AI's legal regulation.
Key words: artificial intelligence, artificial intelligence systems, regulatory policy, regulatory framework, automation.
DOI: 10.52026/27885291 2023 74 3 48
IN О IN
Cl
< Z
CL
О ©
x
о
CQ О CQ
iE
с
<
CQ H
и
_Q
с;
ш
Ч О х
о <
п с
и
X
^
X
н
и
ш CQ
Введение
На сегодняшний день наблюдается стремительное развитие искусственного интеллекта (далее - ИИ), проявляющего свои возможности в различных сферах человеческой деятельности. Интеграция ИИ в повседневную жизнь становится все более значимой, независимо от технологических амбиций отдельных стран, и создает новую реальность, требующую серьезного осмысления и правового регулирования.
В контексте необходимости нормативно-правового регулирования ИИ и робототехники в Казахстане, существующие нормативные правовые акты и программные документы не предусматривают четкой стратегии развития ИИ. Учитывая очевидную актуальность этой проблематики, данная статья направлена на анализ общих тенденций в области регуляторной политики в сфере ИИ и их нормативного закрепления.
Материалы и методы
Для подготовки данной статьи были изучены работы казахстанских и зарубежных ученых, касающиеся вопросов регулирования ИИ. Особое внимание уделялось анализу зарубежного и отечественного законодательства.
В процессе подготовки данной статьи автором применены общефилософские и частные методы научного познания. Методология исследования сфокусирована на
системном анализе, а также использовании формально-юридического и сравнительно-правового подходов.
Обсуждение
Анализ зарубежного опыта показывает наличие разнообразных подходов к регулированию ИИ, которые определяются приоритетами каждой страны в этой области. Например, США явно выражают намерение лидировать в исследованиях и разработках ИИ, стремясь возглавить мировую разработку и использование надежного ИИ1. Подобная парадигма также отмечается в Китае, где стремятся возглавить мировые тенденции развития ИИ с помощью Плана развития технологий ИИ нового поколения2.
В контексте этих стратегий Европейский союз (далее - ЕС) ставит своей целью сделать ЕС мировым центром в области ИИ, придерживаясь принципов, ориентированных на человека и обеспечивая надежность в этой сфере3.
Учитывая разнообразие подходов к развитию и регулированию ИИ, все же наблюдаются общие тенденции в правовых системах различных стран. Эти тенденции включают установление этических принципов, разработку стратегических документов и законодательное регулирование, однако не все из них обязательно присутствуют в каждой стране.
1 The National AI Initiative Act of2020 (DIVISION E, SEC. 5001) became law on January 1, 2021: — [Электронный ресурс]. — Режим docmyna:https://www.ai.gov/Дата доступа: 05.05.2023 г.
2 Notice of the State Council Issuing the New Generation of Artificial Intelligence Development Plan// Foundation for Law and International Affairs: — [Электронный ресурс]. — Режим доступа: https://flia.org/wp-content/uploads/2017/07/A-New-Generation-of-Artificial-Intelligence-Development-Plan-1.pdf Дата доступа: 05.05.2023 г.
3 Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the regions empty. Fostering a European approach to Artificial Intelligence. Brussels, 21.4.2021: — [Электронный ресурс]. — Режим доступа: https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=C0M%3A2021%3A205%3AFIN Дата доступа: 05.05.2023 г.
Этические принципы
Определению регуляторной политики в сфере ИИ, как правило, предшествует обширная аналитическая работа, направленная на выявление основных проблем и вызовов, связанных с использованием и развитием ИИ, а также на разработку стратегического подхода для их решения. В процессе анализа учитываются технические, этические, юридические и социальные аспекты.
Одним из фундаментальных аспектов регуляторной политики ИИ является его этика, разработка которой предшествует установлению других регуляций. Основной целью этики в рассматриваемой сфере является определение ключевых принципов, которые должны направлять разработку и использование ИИ с учетом моральных и социальных аспектов. С учетом этических аспектов достигается создание ответственного и социально ориентированного ИИ, который учитывает интересы и благополучие людей и общества. Обычно этические принципы закрепляются в соответствующих документах.
Учеными Ламиа Гоз и Меннатулла Хен-дави составлен обширный каталог из 100 документов, охватывающих период с 2015 по 2022 годы, которые посвящены этике и принципам ИИ. Эти документы приняты государственными органами, академическими учреждениями и частными корпорациями [1, с. 6-15]. Среди многочисленных документов в области этики ИИ, некоторые выделяются своим широким признанием и авторитетом. Особо стоит отметить «Азило-марские принципы ИИ» (2017), Монреальскую декларацию об ответственном развитии ИИ (2017) и Руководство по этике для надежного ИИ, разработанное Специальной группой экспертов высокого уровня Совета Европы (2019)4.
Большинство опубликованных этических норм ИИ носят общий характер и не обязательно относятся к конкретному сектору экономики. В связи с этим очевидна необходимость дополнительного исследования для рассмотрения этических последствий внедрения и использования ИИ в различных областях, а также для создания этических рамок ИИ для конкретных секторов экономики [1, с. 27].
Анализируя содержание документов, посвященных этике ИИ можно выделить следующие ключевые принципы, которые следует учитывать при создании и использовании ИИ:
Принцип безопасности: ИИ должен быть разработан и использован таким образом, чтобы минимизировать потенциальные угрозы и риски в области безопасности людей и общества.
Принцип прозрачности: Разработчики и операторы ИИ должны обеспечить прозрачность его функционирования и принимаемых решений. Это помогает понять, как ИИ принимает решения и какие данные использует.
Принцип справедливости: Алгоритмы и модели ИИ должны быть разработаны таким образом, чтобы избегать неправильного и несправедливого воздействия, дискриминации людей.
Принцип конфиденциальности: Данные, используемые ИИ, должны быть защищены и использоваться только с согласия и с соблюдением правил конфиденциальности. Пользователи должны иметь контроль над своими персональными данными.
Принцип ответственности: Разработчики и операторы ИИ должны нести ответственность за последствия использования ИИ. Они должны принимать меры для предотвращения вреда и рисков, а также разрабатывать механизмы обратной связи и исправления ошибок.
Принцип устойчивости: Развитие ИИ должно быть устойчивым и учитывать экологические, социальные и экономические аспекты. ИИ не должен причинять необратимого вреда окружающей среде и должен способствовать устойчивому развитию общества.
Принцип гласности и участия: Принцип гласности предполагает активное участие различных заинтересованных сторон в процессе разработки, внедрения и оценки ИИ. Это включает широкое обсуждение, прозрачность в принятии решений.
Важно отметить, что 23 ноября 2021 года 193 государства-члена ЮНЕСКО, включая Казахстан, приняли первый глобальный нормативный документ, посвященный этике ИИ5. Рекомендация ЮНЕСКО по этике ИИ
4 The Asilomar AI Principles : [Электронный ресурс]. — Режим доступа: https://futureoflife.org/open-letter/ai-principles/ Дата доступа: 05.05.2023 г.; Montréal Declaration Responsible AI : — [Электронный ресурс]. — Режим доступа: https:// www.montrealdeclaration-responsibleai.com/ Дата доступа: 05.05.2023 г.; Ethics guidelines for trustworthy AI. High-Level Expert Group on Artificial Intelligence. Document made public on 8 April 2019 : — [Электронный ресурс]. — Режим доступа: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai Дата доступа: 05.05.2023 г.
5 Республика Казахстан вступила в ЮНЕСКО в мае 1992 г.: — [Электронныйресурс]. — Режим доступа: https://www.
го гп
Г) Т I s
п
Т
OJ А
о
о Д
Е
m Л сг
Г) Т
го А
В
го о го
о
в о
■а
2 А
С
■а
КОНСТИТУЦИЯЛЫК Ж6НЕ 6К1МШ1Л1К К¥КЫК
гм о гм
а.
<
Z а.
о ©
X
о
CQ
о
CQ
iE
с
< CQ
н
и
-D
с;
ш
£ Ч О х
о <
п с
и
X
^
X
н
и
ш CQ
представляет собой историческое и уникальное соглашение между государствами-членами, где определены основные ценности, принципы и политика, необходимые для развития этой революционной технологии6.. Этот документ предлагает конкретные пути, включая инновационные инструменты, методологии и инициативы, направленные на обеспечение максимально положительного влияния ИИ и одновременное устранение связанных с ним рисков.
Следует подчеркнуть важность дальнейшего развития этики ИИ, поскольку она тесно связана с прогрессом и применением ИИ. Исследователи выделяют не только значимость установления этических принципов в различных сферах применения ИИ (например, медицина, образование и пр.), но и необходимость создания новых этических принципов в контексте развития суперинтеллектуального ИИ [2, с. 40].
Документы стратегического развития
Этические принципы служат основой для разработки стратегических документов, направленных на регулирование развития и использования ИИ. Эти меры обеспечивают устойчивое и этичное использование ИИ, учитывая его воздействие на общество и благополучие людей.
Организация Oxford Insights ежегодно публикует Индекс готовности правительства к ИИ (далее - Индекс)7. В Индексе за 2021 год приводится информация, что 30% из 160 анализируемых стран опубликовали национальные стратегии в области ИИ и 9% находятся на стадии разработки8. Казахстан в этом Индексе фигурирует в качестве страны, не имеющей соответствующей стратегии, но входящей в тройку лидеров по развитию ИИ в регионе «Южная и Средняя Азия» после Индии и Турции. Такие страны обозначенного региона, как Азербайджан, Узбекистан, Пакистан, Таджикистан, по данным Индекса за 2022 год, находятся в процессе разработки самостоятельных стратегий в сфере ИИ9.
Ситуация с разработкой стратегического видения в сфере ИИ не так давно изменилась в силу утверждения постановлением Правительства РК от 28 марта 2023 г. № 269 «Концепции цифровой трансформации, развития отрасли информационно-коммуникационных технологий и кибербезопасности на 2023 - 2029 годы» (далее - Концепция цифровой трансформации). Этот документ в рамках «Плана действий по реализации» предусмотрел разработку Дорожной карты (стратегическое видение) по развитию ИИ со сроком завершения в декабре текущего
10
года
В Концепции цифровой трансформации приводятся данные МсК^еу&Сотрапу согласно которым «Технологии ИИ и углубленной аналитики» могут позволить Казахстану достичь 5-6% ежегодного роста ВВП до 2030 года. При этом приоритетными технологическими направлениями для страны определены: MedTech (технологическое развитие системы здравоохранения); AgriTech (инновации в сельском хозяйстве и технологическая трансформация агропромышленного комплекса); AgriTech (развитие зеленых энергоэффективных технологий).
Для эффективности в достижении обозначенных перспектив необходимо четкое стратегическое видение, основные подходы по разработке такого рода документов уже сформировались. Полагаем, что обращение к передовому опыту в этой сфере поспособствует разработке качественного стратегического документа.
Анализ национальных стратегий разных стран показывает, что они описывают не только перспективы развития соответствующих отраслей, но и предусматривают конкретные задачи и мероприятия, инструментарий для их достижения. Так, в обобщенном виде содержание стратегий сфокусировано на следующих аспектах: развитие человеческого капитала; коммерциализация результатов исследований; налаживание деловых связей и контактов; инфраструкту-
unesco.org/en/countries Дата доступа: 11.05.2023 г.
6 Recommendation on the Ethics of Artificial Intelligence. Adopted on 23 November 2021: — [Электронный ресурс]. — Режим доступа: https://unesdoc.unesco.org/ark:/48223/pf0000381137Дата доступа: 11.05.2023 г.
7 Oxford Insights — это консалтинговая компания, которая консультирует организации и правительства по стратегическим, культурным и лидерским возможностям, возникающим в результате цифровой трансформации.
8 Government AI Readiness Index 2021. C-6: — [Электронный ресурс]. — Режим доступа: https://www.oxfordinsights.com/ government-ai-readiness-index2021 Дата доступа: 11.05.2023 г.
9 Government AI Readiness Index 2022. C-39: — [Электронный ресурс]. — Режим доступа: https://www.oxfordinsights.com/ government-ai-readiness-index-2022 Дата доступа: 11.05.2023 г.
10 Концепция цифровой трансформации, развития отрасли информационно-колжуникационных технологий и кибербез-опасности на 2023 - 2029 годы. Утверждена постановлением Правительства Республики Казахстан от 28 марта 2023 года № 269 — [Электронный ресурс]. — Режим доступа: https://adilet.zan.kz/rus/docs/P2300000269#zl3 Дата доступа: 16.05.2023 г.
ра; регулирование [3, с. 9]. Тем самым все основные устремления по развитию ИИ во всех секторах экономики, как правило, сосредоточены в одном документе для обеспечения единообразия подходов.
Законодательное регулирование
А) Зарубежный опыт. Поскольку каждая страна имеет свой уровень развития и распространения ИИ, подходы к нормативно-правовому регулированию рассматриваемой сферы различаются, что позволяет констатировать отсутствие универсального подхода. При этом, имеются как противники, так и сторонники законодательного регулирования рассматриваемой сферы общественных отношений.
Так, противники считают, что законодательная регламентация станет сдерживающим фактором в развитии новых технологий с использованием ИИ. Вместе с тем прослеживается явная необходимость регулирования общественных отношений в сфере ИИ в целях обеспечения его целовекоцентрич-ности и максимальной этичности. Сторонниками законодательного регулирования сферы ИИ отмечается необходимость разработки такой модели регламентации, которая будет благоприятствовать развитию ИИ в определенных этических и регуляционных рамках во благо общества.
Законодательное регулирование сферы ИИ, преимущественно, является точечным, фрагментарным. В некоторых странах, таких как Эстония, Германия, Дания, Канада, внесены поправки в целях регламентации автоматизированных (беспилотных) транспортных средств [4; 5; 6]. Южная Корея в 2008 году приняла один из первых в мире специальных законов в сфере робототехники, Закон «О развитии и распространении умных роботов».
Стремление к комплексному регулированию сферы ИИ наблюдается в ЕС. В 2021 году Европейской комиссией (далее - ЕК) представлен проект Закона об ИИ, направ-
ленный на установление единой нормативно-правовой базы для регулирования ИИ11. Этот законопроект является первым в своем роде примером комплексного регулирования сферы ИИ на уровне специального закона. Приверженность к похожему подходу наблюдается в Бразилии, где 1 декабря 2022 года временная комиссия по правовым вопросам Сената представила подходы по регулированию ИИ, которые будут служить отправной точкой для дальнейшего обсуждения нового законодательства в этой сфере [7].
В контексте определения подхода к законодательному закреплению регуляторной политики в сфере ИИ рассмотрим модель, предлагаемую проектом Закона ЕС об ИИ, который, согласно некоторым прогнозам, может стать глобальным стандартом регулирования ИИ12. Указанный акт устанавливает законодательные требования на основе оценки риска, при котором обязательства для системы (соответствующего ИИ) пропорциональны уровню риска, который она представляет. Руководствуясь обозначенным подходом, выделено четыре группы систем ИИ:
Системы с минимальным уровнем риска, разрешенные к свободному использованию. В частности, такие приложения, как видеоигры с поддержкой ИИ или фильтры спама.
Системы с ограниченным уровнем риска должны соответствовать определенным требованиям по обеспечению прозрачности. При использовании систем ИИ, таких как чат-боты, пользователи должны знать, что они взаимодействуют с машиной, и иметь возможность принять решение продолжить взаимодействие или отказаться.
Системы высокого риска подлежат детальному регулированию, поскольку могут оказать существенное влияние на жизненные шансы пользователя. В эту категорию входят восемь типов систем (в сфере образования, инфраструктуры, безопасности продуктов питания, занятости населения, деятельности правоохранительных органов,
го гп
Г) Т I
п
Т
W А
о
о Д
Е
m Л сг
Г) Т
го А
В
го о го
о
11 ■ Proposalfor a regulation of the European Parliament and of the Council laying down Harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 - C9-0146/2021 - 2021/0106(COD): — [Электронныйресурс]. — Режим доступа: https://artificialintelligenceact.eu/the-act/Дата доступа: 20.05.2023 г.
12 The EU wants to become the world's super-regulator in AI: — [Электронный ресурс]. — Режим доступа: https:// www.economist.com/europe/2021/04/24/the-eu-wants-to-become-the-worlds-super-regulator-in-ai?utm_medium=cpc. adword.pd&utm_source=google&ppccampaignID=18151738051&ppcadID=&utm_campaign=a.22brand_pmax&utm_ content=conversion.direct-response.anonymous&gclid=Cj0KCQjw98ujBhCgARIsAD7QeAj0m059k7l7Gqna7H0_9KBHW/l ZX45-yp1CCVk4j9ieoevuzb-2t3EaAnwQEALw_wcB&gclsrc=aw.ds Дата доступа: 20.05.2023 г.; The EU AI Act's Risk-Based Approach: High-Risk Systems and What They Mean for Users: — [Электронный ресурс]. — Режим доступа: https://futurium.ec.europa.eu/en/european-ai-alliance/document/eu-ai-acts-risk-based-approach-high-risk-systems-and-what-they-mean-users Дата доступа: 20.05.2023 г.
е о
ТЗ
2 А
С
ТЗ
гм о гм
а.
<
Z а.
О ©
х
о
ей О ей
2Е
с
<
ей н
и
-D
с;
ш
£ Ч О х
о <
п с
и
X
^
X
н
и
ш ей
отправления правосудия, государственных услуг, миграции и пограничного контроля). На эти системы распространяются строгие обязательства, и они должны пройти оценку соответствия требованиям, последующую регистрацию в специальной базе данных перед выпуском на рынок ЕС. По сути, все регулирование замыкается именно на этой категории систем ИИ.
Четвертая категория - системы с неприемлемым риском, запрещенные к распространению на рынке ЕС (например, системы идентификации лиц, которые нарушает принципы приватности и права человека)13.
Оппоненты такого подхода отмечают, что подход к регулированию, основанный на оценке риска, недостаточен для защиты прав человека, поскольку права человека должны соблюдаться независимо от уровня риска, связанного с внешними факторами. Так, организация Access Now предлагает ориентироваться, прежде всего, на Общеевропейский регламент по защите персональных данных (GDPR). Более того, были выявлены некоторые опасные приложения, которые классифицировали как системы с минимальным уровнем риска, а значит, согласно предлагаемому подходу, неподлежащие надзору и мерам безопасности14. Для предотвращения подобных случаев предложено возложить бремя доказывания безопасности системы ИИ, на организацию, желающую ее разработать, внедрить посредством проведения обязательной оценки воздействия на права человека (Human Rights Impact Assessment, HRIA)15. Это требование предлагается распространить на все приложения с ИИ во всех областях применительно как к государственному, так и к частному сектору.
В целом, подход на основе степени риска имеет свои преимущества, но его реализация может столкнуться с некоторыми вызовами и ограничениями, которые требу-
ют дальнейшей проработки и уточнения. В частности, в качестве возможных негативных последствий можно выделить:
- слишком строгое регулирование систем с высоким уровнем риска может создать барьеры для инноваций в ЕС, а также законодательное регулирование может отставать от последних технологических достижений;
- определение и оценка степени риска могут быть субъективными, зависеть от интерпретации регуляторов и привести к различному толкованию на практике;
- предлагаемая модель регулирования может сосредоточиться на системах с высоким и средним уровнем риска, оставляя вопросы регулирования систем с низким уровнем риска без должного внимания;
- отсутствие общепринятых стандартов классификации и оценки систем ИИ по степени риска несет в себе неопределенность в процессе определения степени риска и соответствующего регулирования.
Учитывая возможные негативные последствия строгого и рискоориентирован-ного законодательного регулирования, предлагаемого ЕС, Парламенту Великобритании в марте 2023 года представлен Проиннова-ционный подход к регулированию ИИ16.
Предлагаемый подход, по мнению разработчиков, будучи гибким и прозрачным, позволит адекватно реагировать на быстро меняющиеся технологические разработки и промышленные потребности17. Наблюдается стремление предоставить пространство для исследований и экспериментов, при условии соблюдения соответствующих норм и принципов регулирования. Суть предлагаемого подхода заключается в следующем:
- регулировать ИИ на основе его использования и влияния на пользователей в конкретном контексте и возлагать ответственность за разработку и внедрение соответствующих регуляторных мер на
13 Regulatory framework proposal on artificial intelligence: — [Электронный ресурс]. — Режим доступа: https://digital-stmtegy.ec.europa.eu/en/policies/regulatoryframework-ai Дата доступа: 20.05.2023 г.
14 Международная некоммерческая организация, занимающаяся защитой и содействием реализации прав человека в цифровой сфере. — [Электронный ресурс]. — Режим доступа: https://www.accessnow.org/eu-regulation-ai-risk-based-approach/Дата доступа: 20.05.2023 г.
15 Процесс оценки потенциального или фактического воздействия деятельности, политики или проекта на права человека. Целью такой оценки является установление, какие права человека могут быть затронуты, в какой мере и каким образом, а также разработка мер и рекомендаций для предотвращения или минимизации негативных воздействий и обеспечения защиты прав человека. — [Электронный ресурс]. — Режим доступа:https://www.humanrights.dk/tools/ human-rights-impact-assessment-guidance-toolbox/introduction-human-rights-impact-assessment Дата доступа: 30.05.2023 г.
16 Policy paper. AI regulation: a pro-innovation approach: — [Электронный ресурс]. — Режим доступа: https://www.gov. uk/ government/publications/ai-regulation-a-pro-innovation-approach Дата доступа: 28.05.2023 г.
17 A pro-innovation approach to AI regulation Presented to Parliament by the Secretary of State for Science, Innovation and Technology by Command of His Majesty March 2023: — [Электронный ресурс]. — Режим доступа: https://assets.publishing. service.gov.uk/government/uploads/system/uploads/attachment_data/file/1146542/a_pro-innovation_approach_to_AI_ regulation.pdf Дата доступа: 28.05.2023 г.
регуляторов18;
- сосредоточиться на опросах с высоким риском, имеющим явные доказательства реальных рисков или упущенных возможностей, а не на гипотетических или низкорисковых ситуациях. Это позволит поощрять инновации и избегать ненужных барьеров;
- установить набор универсальных принципов, применимых в разных секторах экономики. Для обеспечения гибкости регулирования принципы предлагается установить не на законодательной основе. При этом, законодательное закрепление отдельных положений не исключается;
- межсекторальные принципы будут интерпретироваться самими регуляторами, они же будут их реализовывать в своих секторах.
Для согласованности и поддержки инноваций, создания максимально понятной структуры предполагается налаживание координации регуляторных мер - например, путем тесного сотрудничества с Форумом сотрудничества в области цифрового регулирования и другими регуляторами и заинтересованными сторонами19.
Центральным элементом в предлагаемом регулировании являются межсекторальные принципы, согласно рассматриваемому документу, они следующие:
Пропорциональность: Регуляторы стремятся к гибкому и пропорциональному подходу к регулированию ИИ, обеспечивающему соответствие уровню риска, связанного с применением конкретного ИИ, и предотвратить чрезмерное ограничение развития ИИ-технологий.
Человекоцентричность: Регулирование ИИ должно быть ориентировано на защиту интересов и безопасность людей. Решения, принимаемые или поддерживаемые ИИ, должны быть согласованы с общественными ценностями и принципами.
Прозрачность: Необходимо обеспечить прозрачность в использовании ИИ путем раскрытия процессов принятия решений и
использования данных. Это позволяет пользователям лучше понимать взаимодействие с системой и принимать обоснованные решения.
Ответственность: Организации, занимающиеся разработкой и использованием ИИ, обязаны нести ответственность за действия системы. Они должны установить механизмы для обнаружения и исправления ошибок, сокращения негативного влияния на людей и соблюдения нормативных требований.
Инновационный подход: Регуляторы должны способствовать инновациям в области ИИ и поощрять развитие новых технологий применения ИИ, соблюдая основные принципы и нормы.
Международное сотрудничество: Регулирование ИИ должно учитывать международное сотрудничество и гармонизацию подходов с целью обеспечения эффективной защиты прав и обеспечения безопасности пользователей ИИ на глобальном уровне20.
На данном этапе весьма сложно проанализировать достоинства и недостатки предлагаемой модели, поскольку представлены лишь общие подходы к регулированию без детализации. Однако при слишком сильном акценте на стимулирование инноваций может возникнуть недостаток в эффективном регулировании и контроле негативных последствий. Кроме того, предоставление регуляторам широких полномочий по интерпретации и применению принципов в сфере ИИ может создать запутанное регулирование, когда несколько регуляторов контролируют использование одной и той же системы ИИ для идентичных целей.
Б) Законодательное регулирование ИИ в Казахстане также характеризуется фрагментарностью регулирования. В 2020 году в Закон РК «Об информатизации» включены поправки по вопросам цифровых технологий и закреплено понятие «интеллектуальный робот», предусмотрена статья 18-1 «Права и обязанности собствен-
го гп
Г) Т I s
Г)
Т
W А
о
о Д
Е
m Л сг
Г) Т
го А
В
го о го
о
18 В документе упоминаются несколько ключевых регуляторов (уполномоченных субъектов), включая Information Commissioner's Office (комиссия по информации), Competition and Markets Authority (комиссия по конкуренции и рынкам), Ofcom (регулятор коятуникаций), Medicine and Healthcare Regulatory Authority (регулятор медицины и здравоохранения) и Equality and Human Rights Commission (комиссия по равенству и правам человека). Эти организации играют важную роль в разработке и реализации регуляторных мер, связанных с использованием и воздействием ИИ в различных секторах экономики.
19 The Digital Regulation Cooperation Forum: — [Электронный ресурс]. — Режим доступа: https://www.gov. uk/government/ collections/the-digital-regulation-cooperation-forum Дата доступа: 29.05.2023 г.
20 A pro-innovation approach to AI regulation Presented to Parliament by the Secretary of State for Science, Innovation and Technology by Command of His Majesty March 2023: — [Электронный ресурс]. — Режим доступа: https://assets.publishing. service.gov.uk/government/uploads/system/uploads/attachment_data/file/1146542/a_pro-innovation_approach_to_AI_ regulation.pdf Дата доступа: 28.05.2023 г.
е о
ТЗ
2 А
С
ТЗ
КОНСТИТУЦИЯЛЫК Ж6НЕ 6К1МШ1Л1К К¥КЫК
гм о гм
а.
<
Z а.
о ©
X
о
CQ
о
CQ
iE
с
ника и владельца интеллектуального робота»21. Позже, в 2021 году, рассматриваемый закон дополнен понятиями «национальная платформа искусственного интеллекта», «оператор национальной платформы» и ст. 13-2 «Компетенция оператора национальной платформы искусственного интеллек-та»22. Динамика и характер внесенных изменений в национальное законодательство демонстрируют попытки законодательно закрепить основные понятия, имеющие отношение к основам применения цифровых технологий и ИИ. Наблюдается законодательное оформление явлений в наиболее общем виде вследствие объективной необходимости, поскольку цифровые процессы уже глубоко интегрировались в общественную жизнь и получили широкое распространение [8, с. 38; 9]. Однако такое регулирование едва можно считать адекватным современным реалиям и потребностям цифровой экономики. При этом вопрос о более зрелой законодательной регламентации сферы ИИ приобретает все большую актуальность.
Национальным планом развития Республики Казахстан (далее - РК) до 2025 года в рамках задачи 12 «Внедрение элементов искусственного интеллекта и повсеместное использование технологии Big Data» предусмотрено, что «В целях создания благоприятных условий для развития технологий с ИИ будет проведена работа по совершенствованию нормативно-правовой базы»23. При этом в Концепции правовой политики РК (далее - КПП РК) ставится вопрос о проработке с учетом международного опыта «необходимости кодификации законодательства в сфере информационно-коммуникационных технологий, связи, обработки данных, цифровых активов, автоматизации промышленности, информационной безопасности, машинного обучения и искус-
ственного интеллекта, защиты прав субъектов персональных данных»24.
Отметим, что оживленной научной дискуссии относительно кодификации обозначенного круга общественных отношений не наблюдается. Отдельные ученые высказали свою позицию о перспективах кодификации. Так, например, можно отметить статью С.К. Идрышевой, где автор приходит к выводу о преждевременности разработки Цифрового кодекса по состоянию на 20222024 годы [10, с. 82]. Еще до официального опубликования Концепции правовой политики РК, обращаясь к вопросу о подходах к правовому регулированию ИИ, Ж.У. Тлем-баева пришла к выводу о необходимости постепенного создания нормативно-правовой базы в сфере использования и разработки ИИ на основе четко выработанных подходов к регулированию [11, с. 71].
Не умаляя достоинств положений КПП РК, отметим, что их недостаточно для структурированного понимания перспектив законодательного регулирования ИИ. Кроме того, некоторые аспекты сформулированы весьма емко, а некоторые и вовсе упущены. Полагаем, что пробелы будут восполнены Дорожной картой по развитию ИИ25.
Результаты
По результатам проведенного исследования представляется возможным сформулировать следующие предложения по определению подходов к регулированию сферы ИИ в Казахстане.
Для целей гибкости и поощрения развития технологий с ИИ четко разграничить вопросы, подлежащие регулированию на законодательном и подзаконном уровне.
При этом законодательную регламентацию сферы ИИ на уровне кодифицированного акта считаем нецелесообразной,
<
CQ Н
и
-D
с;
ш
Ч О х
о <
п с
и
X
^
X
н
и
ш CQ
21 Закон Республики Казахстан от 24 ноября 2015 года № 418^ ЗРК «Об информатизации» ; Закон РК «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам регулирования цифровых технологий» от 25 июня 2020 года № 347-У1 ЗРК. — [Электронныйресурс]. — Режим доступа: https://adilet.zan.kz/rus/ docs/Z1500000418. Дата доступа: 24.04.2023 г
22 Закон Республики Казахстан от 2 января 2021 года № 399-У1 ЗРК «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам восстановления экономического роста» — [Электронный ресурс]. — Режим доступа: https://adilet.zan.kz/rus/docs/Z2100000399. Дата доступа:
23 Национальный план развития Республики Казахстан до 2025 года. Утвержден Указом Президента Республики Казахстан от 15 февраля 2018 г. № 636. — [Электронный ресурс]. — Режим доступа: https://adilet.zan.kz/rus/docs/ и1800000636 Дата доступа: 24.04.2023 г.
24 Концепция правовой политики Республики Казахстан до 2030 года. Утверждена указом Президента Республики Казахстан от 15 октября 2021 г. № 674 — [Электронный ресурс]. — Режим доступа: https://adilet.zan.kz/rus/docs/ и2100000674 Дата доступа: 16.05.2023 г.
25 Концепция цифровой трансформации, развития отрасли информационно-колимуникационных технологий и кибер-безопасности на 2023 - 2029 годы. Утверждена постановлением Правительства Республики Казахстан от 28 марта 2023 года № 269. — [Электронный ресурс]. — Режим доступа: https://adilet.zan.kz/rus/docs/P2300000269#z13 Дата доступа: 16.05.2023 г.
поскольку такое регулирование, как нам представляется, не соответствует природе стремительно развивающихся общественных отношений в сфере ИИ, которые будут требовать постоянного совершенствования законодательных норм.
Так, на законодательном уровне предлагается:
- закрепить определение ИИ, позволяющее его разграничить от других технологий. При этом такое определение должно быть максимально емким и нейтральным, которое позволит охватить и будущие тенденции в развитии ИИ;
- сформулировать принципы регулирования сферы ИИ. Для этого необходимо разработать, прежде всего, систему этических принципов. Поскольку именно они служат основой в определении подходов к регулированию рассматриваемой сферы. А в случае со стремительно развивающимися системами ИИ такие принципы позволят преодолевать пробелы законодательства посредством аналогии права и смогут служить основой для принятия решений в области ИИ. Такой подход позволит обеспечить этичность и социальную ответственность в разработке и применении ИИ;
- предусмотреть обязательность процедуры по оценке воздействия систем ИИ на права человека, своеобразный анализ ре-гуляторного воздействия. Регулирование сферы ИИ должно быть ориентировано на защиту прав и свобод человека и гражданина, обеспечение безопасности. В этой связи, возможно, потребуется ввести и технологическую оценку, определяющую степень воздействия технологий на развитие общественных отношений, экономики, государственного управления;
- четко регламентировать компетенцию уполномоченного органа по определению уровня риска систем ИИ, контролю за соответствующей сферой. Полагаем, без этого не будет возможным выстроить остальную систему по защите прав и обеспечению безопасности пользователей. При этом уполномоченный орган должен быть один, контролирующий распространение и применение
систем ИИ в разных секторах экономики. Это позволит обеспечить единообразие подхода и системность регулирования. Уполномоченный орган, при этом, должен обладать необходимыми ресурсами и человеческим капиталом для проведения независимой оценки и мониторинга систем ИИ, а также для разработки и обновления регулирующих норм и стандартов;
- закрепить требование по обеспечению прозрачности в использовании ИИ путем раскрытия процессов принятия решений и использования данных - для проведения процедур пересмотра, обжалования, исправления ошибок в случае необходимости.
Безусловно, на законодательном уровне должны быть решены и закреплены вопросы, предусмотренные КПП РК в разделах 4.10, 4.13. В свою очередь на подзаконном уровне регулирования считаем возможным регламентировать детали процедуры по оценке воздействия систем ИИ на права человека и технологической оценки. Также конкретные характеристики систем ИИ для определения степени их риска. Полагаем, что подобный подход позволит обеспечить баланс между защитой прав и свобод пользователей, обеспечением их безопасности и созданием условий для развития новых технологий ИИ.
Заключение
Учитывая разнообразие подходов в мире, можно извлечь уроки из зарубежной практики и адаптировать ее к своему контексту. Полагаем, что через установление четких этических принципов, разработку гибких стратегических документов и эффективное законодательное регулирование Казахстан может создать благоприятную среду для развития ИИ, защиты прав и интересов граждан, а также стимулирования инноваций. Внедрение сбалансированных подходов и учет международного опыта поможет Казахстану укрепить свою позицию в глобальном ИИ-сообществе и принести значительный вклад в достижение экономического и социального прогресса.
ЛИТЕРАТУРА
го гп
Г) Т I
п
Т
OJ А
о
о Д
Е
гп Л сг
Г) Т
го А
В
го о го
о
в о
тз
2 А
С
1. Lamiaa Ghoz, Mennatullah Hendawy. An Inventory of AI ethics: Tracing 100 documents // MSA ENGINEERING JOURNAL. — 2023. — Volume 2 Issue 2. — C. 28. — [Электронный ресурс] https:// msaeng.journals.ekb.egfarticle_291907_d0828aa2d7eb944108687ca096a2bf81.pdf Дата доступа: 11.05.2023 г.
2. Попова А.В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования // Правовое государство: теория и практика. — 2020. — №3(61). —
ТЗ
С. 34-43.
3. Van Roy, V., Rossetti, F., Perset, K. and Galindo-Romero, L. AI Watch - National strategies on Artificial Intelligence: A European perspective. — Luxembourg. — Publications Office of the European Union. — 2021. [Электронный ресурс] https://publications.jrc.ec.europa.eu/repository/handle/JRC122684 Дата доступа: 11.05.2023 г.
4. Пичков О.Б., Уланов А.А. Регулирование робототехники: анализ опыта ведущих стран. — Digital Law Journal. — 2021. — Vol 2, No 2. — С. 31-44. [Электронный ресурс] https://www. digitallawjournal.org/jour/article/view/54 Дата доступа: 11.05.2023 г.
5. Минбалеев А.В. Проблемы регулирования искусственного интеллекта //Вестник ЮУрГУ. Серия «Право». — 2018. — Т. 18, № 4. — С. 82-87.
6. Рахматулина Р.Ш., Савина В.С., Свиридова Е.А. Правовое регулирование искусственного интеллекта и роботизации - новый этап развития экономики // Гуманитарные и юридические исследования. Научно-теоретический журнал. — 2019. — № 4. — С. 209-216. — [Электронный ресурс] https://humanitieslaw.ncfu.ru/jour/article/view/127/127?locale=ru_RUДата доступа: 07.05.2023 г.
7. Kohn B., Pieper F-U. AI Regulation around the world. — [Электронный ресурс]. — Режим доступа: https://www.taylorwessing.com/en/interface/2023/ai—are-we-getting-the-balance-between-regulation-and-innovation-right/ai-regulation-around-the-worldДата доступа: 20.05.2023 г.
8. Амангельды А.А. Внедрение норм о цифровых технологиях в законодательство Республики Казахстан // Вестник Института законодательства и правовой информации Республики Казахстан. — 2021. — № 3 (66). — С. 34-43.
9. Сарпеков Р.К. Цифровизация правового пространства //Вестник Института законодательства и правовой информации Республики Казахстан. — 2020. — № 4. - С. 12-24.
10. Идрышева С.К. О цифровом кодексе Казахстана // Право и государство. . — 2022. — № 3 (96). — С72-82.
11. Тлембаева Ж.У. О некоторых подходах к правовому регулированию искусственного интеллекта // Вестник Института законодательства и правовой информации Республики Казахстан. — 2021. — № 2. - С. 61-74.
REFERENCES
1. Lamiaa Ghoz, Mennatullah Hendawy. An Inventory of AI ethics: Tracing 100 documents // MSA ENGINEERING JOURNAL. — 2023. — Volume 2 Issue 2. — C. 28. — [Elektronnyj resurs] https://msaeng.
§ journals.ekb.eg/article_291907_d0828aa2d7eb944108687ca096a2bf81.pdf Data dostupa: 11.05.2023 g.
2. Popova A.V. Eticheskie principy vzaimodejstviya s iskusstvennym intellektom kak osnova rt pravovogo regulirovaniya // Pravovoe gosudarstvo: teoriya i praktika. — 2020. — №3(61). — « S. 34-43.
3. Van Roy, V., Rossetti, F., Perset, K. and Galindo-Romero, L. AI Watch - National strategies on cl Artificial Intelligence: A European perspective. — Luxembourg. — Publications Office of the European i Union. — 2021. [Elektronnyj resurs] https://publications.jrc.ec.europa.eu/repository/handle/JRC122684
< Data dostupa: 11.05.2023 g.
g 4. Pichkov O.B., Ulanov A.A. Regulirovanie robototekhniki: analiz opyta vedushchih stran. — Digital © Law Journal. — 2021. — Vol 2, No 2. — S. 31-44. [Elektronnyj resurs] https://www.digitallawjournal.org/ s jour/article/view/54 Data dostupa: 11.05.2023 g.
5. Minbaleev A.V. Problemy regulirovaniya iskusstvennogo intellekta // Vestnik YUUrGU. Seriya о «Pravo». — 2018. — T. 18, № 4. — S. 82-87.
6. Rahmatulina R.SH., Savina V.S., Sviridova E.A. Pravovoe regulirovanie iskusstvennogo intellekta ^ i robotizacii - novyj etap razvitiya ekonomiki // Gumanitarnye i yuridicheskie issledovaniya. Nauchno-
< teoreticheskij zhurnal. — 2019. — № 4. — S. 209-216. — [Elektronnyj resurs] https://humanitieslaw.ncfu. Ь ru/jour/article/view/127/127?locale=ru_RU Data dostupa: 07.05.2023 g.
7. Kohn B., Pieper F-U. AI Regulation around the world. — [Elektronnyj resurs]. — Rezhim dostupa: ^ https://www.taylorwessing.com/en/interface/2023/ai—are-we-getting-the-balance-between-regulation-§ and-innovation-right/ai-regulation-around-the-world Data dostupa: 20.05.2023 g.
о 8. Amangeldy A.A. Vnedrenie norm o cifrovyh tekhnologiyah v zakonodatel'stvo Respubliki Kazahstan
< // Vestnik Instituta zakonodatel'stva i pravovoj informacii Respubliki Kazahstan. — 2021. — № 3 (66).
< — S. 34-43.
pi 9. Sarpekov R.K. Cifrovizaciya pravovogo prostranstva // Vestnik Instituta zakonodatel'stva i pravovoj ь informacii Respubliki Kazahstan. — 2020. — № 4. - S. 12-24.
x 10. Idrysheva S.K. O cifrovom kodekse Kazahstana //Pravo i gosudarstvo. . — 2022. — № 3 (96). — * S. 72- 82.
x 11. Tlembaeva ZH.U. O nekotoryhpodhodah kpravovomu regulirovaniyu iskusstvennogo intellekta // Vestnik у Instituta zakonodatel'stva ipravovoj informacii Respubliki Kazahstan. — 2021. — № 2. - S. 61-74.
m
