CC BY
295УДК 340.1
О НЕКОТОРЫХ ПОДХОДАХ К ПРАВОВОМУ РЕГУЛИРОВАНИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Тлембаева Жанна Урумбасаровна
Заведующая кафедрой медицинского права и этики Медицинского университета Астана, кандидат юридических наук, профессор, Республика Казахстан, г. Нур-Султан, e-mail: zhanna.ot@mail.ru
Аннотация. Статья посвящена исследованию подходов к правовому регулированию искусственного интеллекта. Отмечается недостаточная научная разработанность в казахстанской правовой науке проблем правовой природы, иных вопросов правового регулирования искусственного интеллекта. Проанализированы некоторые теоретические подходы к определению понятия «искусственный интеллект», дефиниция понятия «искусственный робот», установленная в Законе Республики Казахстан «Об информатизации». Автором сделан вывод о том, что при выработке дефиниции этого понятия следует учитывать разновидности систем искусственного интеллекта, особенности применения технологий искусственного интеллекта в каждой конкретной сфере, а также разный уровень применения технологий и особенности правовой системы государства. Проведен анализ деятельности международных организаций (Совет Европы, ЮНЕСКО, ОЭСР), государств - лидеров в развитии цифровых технологий (США, Китай), международных актов по вопросам, связанным с регулированием искусственного интеллекта. В статье отмечается, что в настоящее время применение искусственного интеллекта практически не обеспечено должной международной основой. Многосторонние международные договоры, принятые на уровне ООН, которые закрепляли бы общие положения для данной сферы, сегодня пока отсутствуют. Сравнительному исследованию подвергнута С практика регулирования искусственного интеллекта зарубежных стран. Для достижения Ел поставленных целей, автором предпринята попытка выработать на основе анализа науч- о ной литературы, законодательства рекомендации по формированию возможных подходов с правового регулирования в сфере разработки и использования искусственного интеллекта. Т Автором обосновывается необходимость последовательного и гибкого правового регули- Т рования, направленного на обеспечение баланса интересов всех участников правоотношений - отдельных индивидов, общества и государства. Проанализированы различные подхо- О ды к решению вопросов возложения юридической ответственности за ущерб, нанесенный о искусственным интеллектом, определения правосубъектности систем искусственного >, интеллекта. Автор заключает, что создание нормативно-правовой базы в этой сфере Ь должно осуществляться постепенно, на основе четко выработанных подходов к регули- В рованию, с учетом специфики использования искусственного интеллекта в различных сфе- ИИ рах и возможных рисков, а также необходимости развития новых технологий в интересах р человека, общества и государства. В
Ключевые слова: искусственный интеллект, правовое регулирование искусственного g интеллекта, правосубъектность искусственного интеллекта, ответственность в сфере И искусственного интеллекта, международное регулирование искусственного интеллекта. ф
О
А
O
Р
O
№
IO
OJ
6
)
2
ЖАСАНДЫ ИНТЕЛЛЕКТТ1 К^КЬЩТЬЩ РЕТТЕУДЩ КЕЙБ1Р ТЭС1ЛДЕР1 ТУРАЛЫ
Жанна Орынбасаркызы Т1лембаева
Астана Медицина Университеттщ медициналыц цуцыц
жэне этика кафедрасыныц мецгерушШ, зац гылымдарыныц кандидаты, профессор, Казацстан Республикасы, Нур-Султан ц., e-mail: zhanna.ot@mail.ru
Аннотация. Мацала жасанды интеллектш1 цуцыцтыц реттеудщ тэсшдерт зертте-уге арналган. Казацстандыц цуцыцтыц гылымда цуцыцтыц табигат проблемаларыныц, жасанды зерден цуцыцтыц реттеудщ взге де мэселелертщ гылыми эз1рленутщ жет-к1л1кс1зд1г1 байцалады. «жасанды интеллект» угымын аныцтауга цатысты кейб1р теори-ялыцтэсшдер, «Ацпараттандыру туралы» КазацстанРеспубликасыныц Зацында белгшен-ген «жасанды робот» угымыныц дефинициясы талданды. Автор осы Тужырымдаманыц аныцтамасын эзгрлеу кезтде жасанды интеллект жуйелертщ турлерт, эр нацты салада жасанды интеллект технологияларын цолдану ерекшелжтерт, сондай-ац технологияны цолданудыц эртурл1 децгеш мен мемлекеттщ цуцыцтыц жуйестщ ерекшелттерт ескеру цажет деген цорытындыга келд1. Халыцаралыц уйымдардыц (Еуропа КецеЫ, ЮНЕСКО, ЭЫД¥), цифрлыц технологияларды дамытудагы квшбасшы мемлекеттердщ (АКШ, Кы-тай) цызмет1не, жасанды зердеш реттеуге байланысты мэселелер бойынша халыцаралыц актшерге талдау жург1з1лд1. Мацалада цаз1рг1 уацытта жасанды интеллектт1 цолдану iс жузтде ти\ст1 халыцаралыц нег1змен цамтамасыз етшмегею атап втшген. Б¥¥ децгешнде цабылданган, осы сала ушт жалпы ережелердi бештетт квпжацты халыцаралыц шарттар бугтде жоц. Шет елдердщ жасанды интеллектшн реттеу тэжiрибесi салыстырмалы зерттеуге ушырады. Койылган мацсаттарга жету yшiн автор гылыми эдебиеттердi, зацнаманы талдау негiзiнде жасанды интеллекттi дамыту жэне пайда-лану саласындагы цуцыцтыц реттеудщ ыцтимал тэсшдерт цалыптастыру бойынша усыныстар жасауга эрекет жасады. Автор цуцыцтыц цатынастардыц барлыц цаты-¡3 сушыларыныц - жеке тулгалардыц, цогам мен мемлекеттщ мyдделерiнiц тепе-тецдтн цамтамасыз етуге багытталган дэйектi жэне икемдi цуцыцтыц реттеудщ цажеттш-гт негiздейдi. Жасанды интеллект келтiрген зиян ушт зацды жауапкершiлiктi жуктеу, жасанды интеллект жуйелертщ зацды тулгасын аныцтау мэселелерт шешудщ эртyрлi тэсiлдерi талданды. Автор бул салада нормативтт-цуцыцтыц базаны цуру бiртiндеп, эр тyрлi салаларда жасанды интеллекттi цолдану ерекшелттерт жэне ыцтимал цаут-тердi, сондай-ац адам, цогам жэне мемлекет мyдделерi ушт жаца технологияларды дамыту цажеттшгт ескере отырып, реттеудщ нацты дамыган тэсiлдерi негiзiнде жузеге асырылуы керек деп тужырымдайды. о Ty^h свздер: жасанды интеллект, жасанды интеллекттi цуцыцтыц реттеу, жасан-о ды интеллекттщ цуцыцтыц субъектш, жасанды интеллект саласындагы жауапкершшк, 2; жасанды интеллекттi халыцаралыц реттеу.
IN
SOME APPROACHES TO THE LEGAL REGULATION
<
CD
b .0
| OF ARTIFICIAL INTELLIGENCE
o x
^ Zhanna U. Tlembayeva
< Head of the Department of Medical Law and Ethics of the Astana
Medical University, candidate of Legal Sciences, Professor, Republic of Kazakhstan, Nur-Sultan, e-mail: zhanna.ot@mail.ru
X
S
^
x Abstract. The article is devoted to the study of approaches to the legal regulation of artificial
jj] intelligence. There is a lack of scientific development in the Kazakh legal science of the problems
m of legal nature, other issues of legal regulation of artificial intelligence. some theoretical
approaches to the definition of the concept of "artificial intelligence", the definition of the concept of "artificial robot", established in the Law of the Republic of Kazakhstan "On Informatization", are analyzed. The author concludes that when developing the definition of this concept, it is necessary to take into account the varieties of artificial intelligence systems, the features of the use of artificial intelligence technologies in each specific area, as well as the different level of technology application and the features of the legal system of the state. The analysis of the activities of international organizations (Council of Europe, UNESCO, OECD), leading states in the development of digital technologies (USA, China), international acts on issues related to the regulation of artificial intelligence. The article notes that at present, the use of artificial intelligence is practically not provided with a proper international basis. There are no multilateral international treaties adopted at the UN level that would establish general provisions for this area today. The practice of regulating artificial intelligence in foreign countries is subjected to a comparative study. To achieve these goals, the author attempts to develop recommendations on the formation ofpossible approaches to legal regulation in the development and use of artificial intelligence based on the analysis of scientific literature and legislation. The author substantiates the needfor consistent andflexible legal regulation aimed at ensuring a balance of interests of all participants in legal relations - individuals, society and the state. Various approaches to solving the issues of imposing legal liability for damage caused by artificial intelligence, determining the legal personality of artificial intelligence systems are analyzed. The author concludes that the creation of a regulatory framework in this area should be carried out gradually, on the basis of clearly developed approaches to regulation, taking into account the specifics of the use of artificial intelligence in various areas and possible risks, as well as the need to develop new technologies in the interests of the individual, society and the state.
Keywords: artificial intelligence, legal regulation of artificial intelligence, legal personality of artificial intelligence, responsibility in the field of artificial intelligence, international regulation of artificial intelligence.
DOI: 10.52026/2788-5291 2021 65 2 61
Введение. Появление понятия искусственный интеллект связывают с пророческой статьей Алана Тьюринга об искусственном интеллекте «Может ли машина мыслить?», которая вышла в свет в 1950 году и начитается с фразы: «Рассмотрим вопрос «Может ли машина думать?». Этот вопрос занимал его «не с точки зрения построения фантастического общества, в котором машины будут соревноваться с людьми», а с целью «выяснить качественное различие между физическими и умственными возможностями человека, провести четкое разграничение между ними» [1]. Впервые же термин «искусственный интеллект» (англ. - artificial intelligence) был введен в профессиональное и научное обращение в 1956 году на специализированной научной конференции, посвя-щённой данной тематике Джоном Маккарти (McCarthy) [2].
В настоящее время наблюдается рост практического применения технологий искусственного интеллекта в самых разнообразных сферах: транспорта, здравоохранения, образования, трудоустройства, безопасности, сферы услуг. Использование искусственного интеллекта является одним из глобальных трендов цифровизации. Неслучайно отмечаемый в этом году 30-летний юбилей Независимости Республики Казахстан, как отметил Глава государства Касым-Жомарт Токаев, «пройдет под знаком экономических и политических реформ, цифровизации, защиты прав детей и инвалидов, решения проблем экологии»1.
Развитие технологии искусственного интеллекта обозначано в качестве одного из основных приоритетов развития страны2, основного фактора глобального прогресса3, одного из трендов цифровизации, развитие
1 Казахстан отметит 30-летие Независимости в 2021 году. URL: https://ru.sputnik.kz/spravka/20210102/15912157/Ka-zakhstan-otmetit-30-letie-Nezavisimosti-v-2021-godu.html (дата обращения: 21.05.2021).
2 Токаев: Искусственный интеллект не сможет заменить главу государства/Informburo.kz/птирURL: https://inform-buro.kz/novosti/tokaev-predlozhil-mirovym-lideram-prinyat-memorandum-o-neprimenenii-tehnologiy-iskusstvennogo-intellek-ta-vo-vred-cheloveku-115005.html (дата обращения: 20.04.2021).
3 Послание Главы государства Касым-Жомарта Токаева народу Казахстана «Конструктивный общественный диалог -основа стабильности и процветания Казахстана»/Официальный сайт Президента Республики Казахстан. URL: https:// www.akorda.kz/ru/addresses/addresses_of_president/poslanie-glavy-gosudarstva-kasym-zhomarta-tokaeva-narodu-kazahstana
Н
X
ы А
о х о Д А
сг
В
СП А
А го О го О
X
е о
"U
2 А
JZ
"и
NJ
о
гм о гм
IX
< IX
О в х
о
со О
СП <
< СП
ь .0
ш £
ч О X
0 <
РЛ
1
которой приводит повышению эффективности и скорости работы бизнеса, открытости и обеспечению прозрачности диалога граждан со своими государствами4. Особое внимание развитию искусственного интеллекта было уделено в государственной программе «Цифровой Казахстан», Стратегическом плане развития Республики Казахстан до 2025 года5, которыми были определены конкретные проекты: по созданию на базе Назарбаев Университета научно-исследовательского института по разработке технологий искусственного интеллекта, национального кластера искусственного интеллекта и центров обработки данных6.
Стремительное развитие новых технологий и рост их применения повлекло за собой рост количества научных публикаций, посвященных вопросам правосубъектности искусственного интеллекта, ответственности за ущерб, нанесенный искусственным интеллектом, обеспечения прозрачности и контроля систем искусственного интеллекта и многие другие. В зарубежной правовой литературе на протяжении нескольких десятков лет формируется «робоправо», или «право роботов», как самостоятельная предметная область исследования. В Казахстане научные публикации по указанным вопросам единичны [3-6]. В этой ситуации всё очевиднее проявляется недостаточная научная разработанность проблем в этой сфере. Между тем, в настоящее время перед правовой наукой стоит множество вопросов. Какова правовая природа искусственного интеллекта? Каким должен быть объем и пределы правового регулирования отношений, связанных с использованием искусственного интеллекта? Можно ли приравнять системы искусственного интеллекта в своих правах человеку? Кто должен нести ответственность за причиненный ими вред? Каково влияние этой технологии на права человека? Какие риски могут возникнуть
при ее применении? В этой связи возникает настоятельная потребность в исследовании этих и других вопросов вопросы на основе анализа мнений учёных и экспертов, законодательства Республики Казахстан и зарубежных стран.
Искусственный интеллект: проблемы выработки универсальной дефиниции понятия
Первостепенная задача, с которой сталкивается законодатель при разработке понятийного аппарата в рассматриваемой сфере - правовое определение понятия «искусственный интеллект». В настоящее время существует большое количество научных разработок, демонстрирующих разные подходы к определению данного понятия. Вместе с тем, универсальное конвенционально признаваемое определение понятия «искусственный интеллект» до сих пор еще не выработано. Поэтому выработка общих правил для искусственного интеллекта на мировом уровне - очень сложная, хотя и нужная задача7. Как отмечают В. А. Шестак и А. Г. Володз, ни в одном официальном документе нормативного определения понятия «искусственный интеллект» не содержится, хотя сам термин активно используется во многих странах. Такое положение обусловлено отсутствием как в Старом, так и в Новом Свете единого правового подхода к установлению его сущностных характеристик [7, С. 199]. С учетом этого, в некоторых рекомендациях Совета Европы, к примеру, в Рекомендациях Комиссара Совета Европы по правам человека «10 шагов для защиты прав человека при использовании искусственного интеллекта», искусственный интеллект «используется в широком значении и обозначает совокупность научных областей, теорий и методов, которые занимаются повышением способности машин выполнять действия, требующие интеллекта»8. Это объясняется как отсутствием единства в понимании
(дата обращения: 01.04.2021).
4 Постановление Правительства Республики Казахстан от 12 декабря 2017 года № 827 «Обутверждении Государственной программы «Цифровой Казахстан» /Информационно-правовая система нормативных правовых актов Республики Казахстан. URL: http://adilet.zan.kz/rus/docs/P1700000827. (дата обращения: 02.04.2021).
5 Указ Президента Республики Казахстан от 15 февраля 2018 года № 636 «Об утверждении Стратегического плана развития Республики Казахстан до 2025 года и признании утратившими силу некоторых указов Президента Республики Казахстан»/Информационно-правовая система нормативных правовых актов Республики Казахстан/ URL: http://adilet. zan.kz/rus/docs/U1800000636#z13 (дата обращения: 02.04.2021).
6 Национальный кластер искусственного интеллекта появится в Казахстане/Деловой портал КапиталURL: https:// kapital.kz/tehnology/93211/natsional-nyy-klaster-iskusstvennogo-intellekta-poyavit-sya-v-kazakhstane.html. (дата обращения: 20.04.2021).
7 Итоги 2020: время детального регулирования искусственного интеллекта. ICT.Moscow. URL: https://ict.moscow/news/ itogi-2020-ai-regulation/ (дата обращения: 05.05.2021).
8 Раскрытие искусственного интеллекта: 10 шагов для защиты прав человека. Совет Европы, май 2019 г. URL: https:// rm.coe.int/-10-/16809a42e4. (дата обращения: 23.04.2021).
данного понятия, так и обширным и нео-предленным кругом вопросов, охватываемых понятием «искусственный интеллект» [8, С. 5].
Одни авторы (Эндрю А, Шилейко А.В) интерпретируют понятие искусственного интеллекта через понятие вычислительных машин, выполняющих функции, которые требуют интеллектуальных способностей при их реализации человеком [9, С. 17; 10, С. 4-5], другие (Джон Маккарти, Болотова Л.С) - через понятие интеллектуальных компьютерных программ [11, С. 31; 2], третьи (Морхат П.М, Понкин А.В, Редькина А.И, Кутейников Д. Л, Ижаев О.А, Зенин С.С, Лебедев В.а) [12, С. 7; 13, с 94; 14, С. 75] - через понятия полностью или частично автономной самоорганизующейся кибернетической компьютерно-программно-аппаратной системы или киберфизическую систему.
По мнению исследователей, отсутствие четкой юридической дефиниции данного понятия признается «сдерживающим фактором решения иных юридических вопросов» [15]. Согласно поправкам, внесенным 25 июня 2020 года9 в Закон Республики Казахстан от 24 ноября 2015 года «Об информатизации»10 введено правовое определение понятия «интеллектуальный робот», определяемое как «автоматизированное устройство, совершающее определенное действие или бездействующее с учетом воспринятой и распознанной внешней среды». Это определение вызвало критику со стороны экспертов. По их мнению, оно «сформулировано крайне широко и расплывчато, и вряд ли внесет какую-либо ясность при возникновении реальных правоотношений, связанных с использованием ИИ» [5]. Следует отметить, что понятие «искусственный робот» достаточно широко применяется в законодательстве зарубежных стран, в международных стандартах. Отсутствие же в законодательстве понятия «искусственный интеллект», по нашему мнению, объясняется
определенным сходством и слиянием дефиниций «искусственный интеллект» и «искусственный (или интеллектуальный) робот».
Рассматривая влияние технологий искусственного интеллекта и робототехники на отрасль гражданского права и гражданско-правовые проблемы роботизации, М.К. Сулейменов рекомендует избегать поспешных решений и проспризывает к постепенному решению правовых проблем, связанных с определением понятия «искусственный интеллект», которые надо решать постепенно, по мере развития искусственного интеллекта. Прежде всего, по его мнению, надо решить теоретические проблемы: это помощник или полноценная замена человека, насколько его решения являются юридически значимыми, кто отвечает за ошибки искусственного интеллекта, есть у него воля или нет, является ли такая система субъектом или объектом права? [4].
Неоднозначную реакцию российских юристов-практиков вызвало определение, сформулированное в Национальной стратегии развития искусственного интеллекта на период до 2030 года11 и Федеральном законе от 24 апреля 2020 г. № 123-ФЗ12. Под понятием «искусственный интеллект» в них понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». По мнению некоторых юристов, оно слишком широкое и вместе с тем спорное. Оно «смоделировано так, чтобы охватить максимально большой круг деятельности для будущего развития искусственного интеллекта, а не дать четкое и лаконичное объяснение основным понятием с технической точки зрения» [16]. Другие же считают, что такое определение на данном этапе
9 Закон Республики Казахстан от 25 июня 2020 года № 347-VIЗРК «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам регулирования цифровых технологий»/Информационно-право-вая система нормативных правовых актов Республики Казахстан. URL: http://adilet.zan.kz/rus/docs/Z2000000347 (дата обращения: 02.04.2021).
10 Закон Республики Казахстан от 24 ноября 2015 года «Об информатизации»/Информационно-правовая система нормативных правовых актов Республики Казахстан. URL: https://adilet.zan.kz/rus/docs/Z1500000418 (дата обращения: 02.04.2021).
11 Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». URL: https://www.garant.ru/products/ipo/prime/doc/72738946/#review. (дата обращения: 23.04.2021).
12 Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»/ГАРАНТ.РУ: URL: http://www.garant.ru/products/ipo/prime/doc/73845195/ (дата обращения: 23.04.2021).
Н
X
ы А
о х о Д А
сг
В
СП А
А
СП
О
СП
О
X
е о
"U
2 А
JZ
"и
NJ
о
IN О IN
CL
< Z
CL
О
е
X
о
m О
сп <
< СП
ь
-Q
с;
ш £
Ч О X
о <
РЛ
является скорее преимуществом, чем недостатком, поскольку проведение эксперимента по внедрению искусственного интеллекта позволит определить, каким образом следует изменить сформулированное понятие.
Авторы резолюции Civil Law Rules on Robotics полагают, что нельзя дать точную дефиницию искусственного интеллекта, что связано с реальным наличием различных видов роботов. В этой связи, по их мнению, к изучению последних нужно подходить казуистично, рассматривая каждую роботизированную систему в отдельности» [7, С. 199]. Попытки же сформировать некий общий шаблон - «это путь в никуда», когда «мы скорее уничтожим индустрию вместо того, чтобы сформировать некие правила игры»13.
Регулирование искусственного интеллекта: международный и национальный уровни
На сегодняшний день применение искусственного интеллекта практически не обеспечено должной международной основой. Многосторонние конвенции, принятые на уровне ООН, которые закрепляли бы общие положения для данной сферы, сегодня пока отсутствуют. Существует множество руководящих принципов и норм в области искусственного интеллекта, принятых международными организациями, способствующих «формированию основ международно-правового регулирования в сфере искусственного интеллекта и носящие рекомендательный характер, то есть присутствует нормативно-правовое регулирование в виде «мягкого права» [17, С. 33]. Но ни один из этих документов не является глобальным.
Активная работа в этом направлении ведется Совете Европы (СЕ), ЮНЕСКО, Организации экономического сотрудничества и развития (ОЭСР) и ряде государств - лидеров в развитии цифровых технологий (США и Китай). Спецкомитет по искусственному интеллекту СЕ активно разрабатывает подходы к европейскому регулированию для проведения консультаций по этим подходам со странами, входящими в СЕ. ЮНЕСКО разработало проект рекомендаций по этике
искусственного интеллекта. ОЭСР запущена платформу AI Policy Observatory, где собирается информация о регулировании ИИ в разных странах мира14. К одному из наиболее известных документов относятся «Ази-ломарские принципы искусственного интеллекта», принятые в январе 2017 года на конференции в Азиломаре, США15. Интерес также представляют Рекомендации Комиссара СЕ по правам человека «10 шагов для защиты прав человека при использовании ИИ (2019).
К наиболее значимым документам, определяющим регуляторные векторы развития искусственного интеллекта на ближайшие годы, разработанных в 2020 году, можно отнести: Указ Президента США по содействию и использованию надежного искусственного интеллекта федеральными органами власти, принятый 5 декабря 2020 года, Стратегию мирового лидерства в сфере новых технологи, включая технологии искусственного интеллекта, утвержденный в октябре 2020 года; «Белую книгу по регулированию искусственного интеллекта», разработанная в ЕС, определяющую подходы к отдельным проблемам искусственного интеллекта; Концепцию регулирования технологий искусственного интеллекта и робототехники до 2024 года, утвержденную Правительством Российской Федерации в августе 2020 года, в которой определяются и общие принципы регулирования, и отраслевые подходы16.
В ряде стран (Канада, Китай, Корея, США, Великобритания, Франция, Дания, Россия, ОАЭ, КНР, Франция, Швеция, Мексика, Сингапур, Япония, Германия и другие) приняты национальные стратегии. Наиболее известными являются: «Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий» (Япония, 2015)17, План развития технологий искусственного интеллекта нового поколения (Китай, 2017), Национальная стратегия развития искусственного интеллекта (Франция, 2018), Общеканадская стратегия искусственного интеллекта (Канада, 2018), Национальная стратегия развития искусственного
13 Mтоги 2020: epeMM детcmbного pe^nupoeamn искусстeенного uHmenneKma. ICT.Moscow. URL: https://ict.moscow/news/ itogi-2020-ai-regulation/ (dama o6pa^eHun: 05.05.2021).
14 Mmoгu 2020: epeMM дemanbнoгo peгуnupoeaнuм uскуссmeeннoгo mmenneKma. ICT.Moscow. URL: https://ict.moscow/news/ itogi-2020-ai-regulation/.(dama o6pa^eHun: 05.05.2021).
15 Asilomar AI Principles // Al News. URL: https://www.artificial-intelligence.blog/news/asilo mar-ai-principles (dama o6pa^eHun: 21.04.2021).
16 Mmoгu 2020: epeMM дemanbнoгo peгуnupoeaнuм uскуссmeeннoгo mmenneKma. ICT.Moscow. URL: https://ict.moscow/news/ itogi-2020-ai-regulation/.(dama o6pa^eHun: 05.05.2021).
17 New Robot Strategy. Japan's Robot Strategy. Vision, Strategy, Action Plan - The Headquarters for Japan's Economic Revitaliza-tion. 10/2/2015. URL: https://www.meti.go.jp/english/press/2015/pdf/0123_01b.pdf. (dama o6pa^eHun: 18.05.2021).
интеллекта на период до 2030 года (РФ, 2019). К примеру, в Японской стратегии роботов определены подходы к системному правовому регулированию, в том числе внесение изменений в законодательство с целью корректировки регулирования в различных сферах.
Национальная стратегия развития искусственного интеллекта РФ на период до 2030 года (2019)18 является основой для разработки (корректировки) государственных программ РФ, субъектов РФ, проектов, плановых и программно-целевых и стратегических документов, касающихся развития искусственного интеллекта.
В США определенные государством подходы к системному правовому регулированию пока отсутствуют. В Дорожной карте развития робототехники в США («Roadmap for US Robotics», 2011). прослеживается концептуальный подход к развитию отрасли. Вопросы права в ней затрагиваются они довольно поверхностно. Авторы документа выражают озабоченность тем, что действующие законы тормозят развитие робототехники и указывают на те сферы, которые требуют законодательного регулирования: безопасность, вопросы ответственности, страхования, защиты конфиденциальной информации и т.д. Тем не менее, в сентябре 2016 года был опубликован один из первых комплексных актов, регулирующих использование высокоавтоматизированных машин - Федеральная политика в сфере автоматизированных транспортных средств («Federal Automated Vehicles Policy») [18, С. 17].
Южная Корея по праву признается одним из лидеров в сфере регулирования робототехники. Приятый еще в 2008 году Закон о содействии развитию и распространению умных («Intelligent robots development and distribution promotion»)19 регулирует отношения, свяанные с развитием и распространением умных роботов. Закон определяет меры государственной поддержки производителей робототехники, содержит конкретные уголовно-правовые нормы, а также нормы, разграничивающие компетенцию
и ответственность конкретных государственных органов и местных властей в связи с реализацией административной и правовой реформы [18].
В ряде стран приняты акты, регулирующие применение систем искусственного интеллекта в автоматизированных автомобилях. К наиболее известным относятся: изменения, внесенные 12 мая 2017 в Закон о дорожном движении Германии для целей использования высокоавтоматизированных автомобилей20, Закон об автоматизированных электрических транспортных средствах (Великобритания, 2018), Руководство по испытаниям автоматизированных транспортных средств (Австралия, 2017), Пробный свод правил для испытания автономных транспортных средств на территории Китая (2018), Резолюция о запрете применения автономных смертельных систем вооружения (Бельгия, 2018), Директива об автоматизированном принятии решений для федеральных учреждений (Канада, 2019)21.
Системный анализ вопросов правового регулирования искусственного интеллекта являются в настоящее время одной из сложнейших задач, которые стоят перед международным юридическим сообществом. Однако они пока не нашли своего должного разрешения, а предлагаемые варианты регулирования носят дискуссионный характер. Между тем, использование технологий искусственного интеллекта может потенциально способствовать созданию спорных ситуаций и проблем во многих областях. В этой связи некоторые исследователи полагают полезным обсудить в ходе широкой научной дискуссии, в том числе на международном уровне, вопрос о формировании единых подходов к пониманию места искусственного интеллекта в современной системе знания, о возможности закрепления в международном праве и последующей имплементации в национальное право основных принципов (возможно, даже международных стандартов) распределения ответственности между множеством субъектов, участвующих в разработке или использовании технологий искусственного интеллекта [7, С. 204].
18 Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». https://www.garant.ru/products/ipo/prime/doc/72738946/#review (дата обращения: 23.04.2021).
19 Закон «Осодействии развитию и распространению умных роботов» № 9014 от 28.03.2008 г. /Проект «РОБОПРаАВО». Исследовательский центр проблем регулирования робототехники и искусственного интеллекта. URL: https://robopravo. ru/zakon_iuzhnoi_koriei_2008. (дата обращения: 10.05.2021).
20 Восьмой закон о внесении изменений в Закон о дорожном движении от 16 июня 2017 г. (неофициальный перевод Исследовательского центра проблем регулирования робототехники и искусственного интеллекта (Робоправо). URL: http:// robopravo.ru/initsiativyfrantsii_v_sfierie_robototiekhniki_20 13 2 (дата обращения: 25.05.2021).
21 Этика и «цифра»: этические проблемы цифровых технологий. Аналитический доклад. Центр подготовки руководителей цифровой трансформации сформирован на базе Высшей школы государственного управления РАНХиГС. URL: https://ethics.cdto.center/ (дата обращения: 25.05.2021).
Н
X
ы А
о х о Д А
сг
В
СП А
А
СП
О
СП
О
X
е о
"U
2 А
JZ
"и
NJ
о
IN О IN
CL
< Z
CL
О в X
о
m О
СП <
< СП
ь -Û с;
ш £
ч О X
о <
m t
Некоторые подходы к правовому регулированию искусственного интеллекта
Развитие технологий искусственного интеллекта повлекло за собой изменения в законодательстве многих стран. В настоящее время сделаны первые шаги в этом направлении. В законодательстве ряда стран закреплены обязанности государства по содействию развитию и контролю за разработкой, производством и использованием технологий. В отдельных странах приняты акты, посвященные конкретным разновидностям систем искусственного интеллекта, которые применяются в финансовой сфере, в здравоохранении, в автомобилях, при реализации проектов «умного» города и др. В ЕС с целью учета применения новых технологий обсуждаются вопросы возможной разработки правовых стандартов или внесения изменений в законодательство. Как отмечает П.М. Морхат, в последующем всё это «разовьётся в полноценные комплексные институты права и институты законодательства, возможно даже - отрасти и подотрасли права и законодательства» [12, С. 11].
В силу высокой актуальности вопроса разработки эффективного законодательства в области использования и развития искусственного интеллекта в настоящее время на уровне международных организаций, как правительственных, так и частных, а также в научной среде формируется множество предложений относительно основных особенностей и потенциально необходимых акцентов такого законодательства [13, С. 103]. В принятой в 2017 году Парламентом ЕС резолюции Law Rules on Robotics вместе с рекомендациями Комиссии от 16 февраля 2017 г. «Нормы гражданского права о робототехнике»22, указывается на необходимость правового регулирования ответственности, обеспечения прозрачности и подотчетности, поскольку они отражают универсальные человеческие ценности. Однако они не должны негативно влиять на развитие инноваций и робототехники. Также в ней подчеркивается, что необходим постепенный, прагматичный и осторожный подход при регулировании. В Отчете по индексу AI 2018 (AI Index 2018), подготовленном Стэнфордским университетом, отмечается, что потребность
в правовом опосредовании использования искусственного интеллекта обусловлена «как наличием отраслевых правовых проблем в действующем правовом поле, мешающим развитию технологий, так и стремлением активизировать процесс внедрения технологий в рамках цифровой экономики, что обусловливает необходимость создания соответствующих регулятивных механиз-мов»23.
Безусловно, быстрое развитие и широкое применение искусственного интеллекта во всех сферах жизни окажет влияние на большинство отраслей права и потребует адаптации законодательства к новым условиям. Поэтому формирование подходов правового регулирования искусственного интеллекта является объективной необходимостью. Вместе с тем, задача обеспечения правовых гарантий безопасного функционирования технологий искусственного интеллекта требует тщательного анализа подходов к вопросу об объеме и пределах правового регулирования разработки и использования искусственного интеллекта и «осмысления потребностей в создании такого регулирования и выработки согласованной позиции между ними» [17, С. 4]. Выполнение этой задачи является достаточно сложным ввиду того, что подходы экспертов в разных странах к нормативному регулированию искусственного интеллекта существенно отличаются. Сложность ее решения обусловлена рядом других факторов: чрезвычайно быстрыми темпами развития технологий искусственного интеллекта; их спецификой, как объекта правового регулирования; отсутствием единых международных стандартов в рассматриваемой сфере; наличием рисков, связанных с использованием искусственного интеллекта. Поэтому поиск новых решений нормативного регулирования технологии требует глубокого осмысления. В этой связи В.А. Шестак, А.Г. Волеводз, предлагают «логично проработать следующие задачи: сформулировать подходы к будущей стратегии или концепции правового регулирования искусственного интеллекта; определить рамки его правосубъектности и вероятность ответственности; предложить направления их развития как в
22 Report with recommendations to the Commission on Civil Law Rules on Robotics [Omnem c peKOMeHdaijuxMu Komuccuu no гpaм:дaнcко-npaвовbm HopMaM o poêomomexHUKe Komuccuu no гpaм:дaнcко-npaвовому peгуnupовaнum b cfyepe poêomo-mexHUKu] (2015/2103(INL)), 27.1.2017. URL: https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.htmnredi-rect(dama oôpa^eHun: 23.04.2021).
23 The AI Index 2018: Annual Report / Y. Shoham, R. Perrault, E. Brynjolfsson [et al.]. - Stanford: Stanford University, 2018. 94 p. URL: https://hai.stanford.edu/sites/default/files/2020-10/AI_Index_2018_Annual_Report.pdf. (dama oôpa^eHUM: 10.05.2021).
национальном, так и в международном праве; исследовать юридически значимые проблемы, возникшие в связи с новыми разработками искусственного интеллекта; определить перспективы создания доктрин и правовых положений, относящихся к разработке, контролю и развертыванию автономных интеллектуальных систем, правовых режимов, применимых к использованию таких систем; допустимость и пределы применения современных норм права об ответственности (административной, гражданско-правовой, уголовной) в отношении разработчиков систем искусственного интеллекта, их операторов и других лиц [7, С. 204].
При формировании подходов к правовому регулированию использования искусственного интеллекта необходимо учитывать следующее. Среди исследователей нет единодушия по вопросу о том, каким по характеру должно быть правовое регулирование искусственного интеллекта - универсальным или направленным на регламентацию конкретных новых систем искусственного интеллекта разделились. Одни авторы полагают, что нормативно-правовая база, регулирующая эту сферу, должна быть универсальной [13, С. 100], другие, поддерживая идею формирования универсальных стандартов и правил применения искусственного интеллекта, отмечают об объективной необходимости построения комплексной модели правового регулирования [19, С. 49-50]. Отдельными акторами предлагается устанавливать «ключевые принципы и стандарты, которые с высокой вероятностью смогут быть применимы даже к технологиям следующего поколения» [5]. По мнению некоторых исследователей, правовое регулирование должно осуществляться с учетом особенностей сферы применения искусственного интеллекта. П. М Морхат отмечает, что «в немалой степени особенности использования искусственного интеллекта, имеющие значение для разработки правового регулирования в этой области, зависят от конкретной сферы его применения» [20, С. 64]. Тогда ряд правовых проблем можно разрешить посредством регламентации в этой сфере, принятия стандартов. В то же время предлагается избегать усиленного регулирования, которое помешает развитию указанных технологий [21].
На современном этапе развития технологий искусственного интеллекта не обязательно формировать новые нормы, а достаточно адаптировать к ним действующие правовые
понятия и конструкции. Вместе с тем, существующие правила не всегда могут обеспечить контроль в случае возникновения негативных последствий их применения. Даже если система, использующая искусственный интеллект, управляется человеком, последний может иметь ограниченный контроль [7, С. 203].
Особое внимание, по мнению ряда исследователей, следует уделить принципам правового регулирования исследуемой тематики. В число этих принципов (помимо общеправовых, таких как гуманизм, законность, запрет дискриминации и стигматизации), они предлагают включать «основные начала правового регулирования, способные задать правильный вектор выстраиванию взаимодействия между двумя видами интеллектов». И «первым, здесь должен стать принцип недопустимости причинения вреда человеку» [22, С. 40]. В Концепции правового регулирования искусственного интеллекта и робототехники России предусмотрены такие принципы, как: стимулирование развития технологий регуляторными средствами («стимулирование как основа регулирования»); регуляторное воздействие, основанное на риск-ориентированном, междисциплинарном подходе; расширение применения инструментов со-регулирования и Е саморегулирования, формирование кодек- р сов (сводов) этических правил; человеко- К ориентированный подход [21].
По мнению И. Королева, в условиях по- р стоянного развития технологий и между- У народного опыта регулирования (как поло- ^ жительного, так и отрицательного) должна А проводиться оценка социально-экономи- о ческих последствий и рисков с принятием Д мер, направленных на минимизацию таких Е рисков и угроз [21]. Нередко решение про- ь блем правового регулирования искусствен- В ного интеллекта с расширением сферы его ИИ применения неразрывно связывают с этиче- р скими аспектами. Согласно закону Мура, в В недалеком будущем мыслительные процес- О сы роботов уже нельзя будет отличить от че- и ловеческих, сходство достигнет 95 %. Если ф это произойдет, человечество столкнется с р беспрецедентными юридическими пробле- А мами [23]. и
К основной проблеме правового регули- к рования в рассматриваемой сфере относится № проблема ответственности за причиненный ( технологией искусственного интеллекта — вред. Ее рассмотрение сводится к следую- Е2 щим вопросам. Является ли разумный робот 1
IN О IN
CL
< Z
CL
О
е
X
о
m О
сп <
< СП
ь
-Q
с;
ш £
Ч О X
о <
РЛ
объектом или субъектом? Можно ли рассматривать искусственный интеллект как технический объект, находящийся под контролем человека, или же объект, обладающий элементами автономии?
Как отмечают Т. Я. Хабриева и Н. Н. Чер-ногор, перед российским законодателем стоит задача определить статус новых «нетипичных» субъектов права, которым они относят в том числе и роботов. Предстоит определить: кто они: цифровая личность, электронное лицо, объект или субъект права? [24, С. 94].
В последние годы ряд британских и израильских юристов предложили разрабатывать законодательство в области использования искусственного интеллекта по аналогии с римским правом в отношении рабов. В римском праве хозяева несут ответственность за ущерб, причиненный их рабами. Ряд американских правоведов предложили рассматривать искусственный интеллект как наемного работника. При этом ответственность будет возлагаться на владельца. Нидерланды обратились в Европейский парламент с предложением, которое предусматривает рассмотрение семейство роботов, подключенных к единому мощному ИИ даже не как наемных работников, а как прямых юридических лиц, несущих неограниченную ответственность без связи с разработчиком [25].
В соответствии с действующим гражданско-правовым регулированием разумный робот может выступать в нескольких статусах - как вещь, как объект авторских прав и как источник повышенной опасности. Поэтому вопрос о наделении искусственного интеллекта деликтоспособностью в рамках существующей системы права несостоятелен. В рамках предлагаемой Р. Ибрагимовым и Е. Сурагиной концепции действия умного робота считаются совершенными его владельцем/пользователем и в их интересах [26]. Аналогичного мнения придерживаются и другие авторы, которые считают, что «незаконное поведение искусственного интеллекта всегда должно иметь следствием человеческую ответственность» [7, С. 203]. Этот вывод признан также в Рекомендации Парламентской Ассамблеи СЕ «Технологическая конвергенция, искусственный интеллект и права человека», где указывает-
ся, что ответственность и подотчетность за действие лежит на человеке, независимо от обстоятельств24.
К одним из предлагаемых исследователями решений относится введение специфической правосубъектности «электронного лица» [27; 28; 29]. Этот вопрос был предложен в 2016 году Парламентом ЕС в Резолюции с рекомендациями Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента 2017 года «Нормы гражданского права о робототехнике». В концепции закона о робототехнике, разработанной основателем компании Grishin Robotics Дмитрием Гришиным в 2016 году, в отношении роботов предложено частично использовать гражданско-правовое регулирование, которое применяется к животным и юридическим лицам. Согласно данной концепции, искусственный интеллект в отсутствие эмоций не может делать роботов субъектами права, но роботы схожи с животными, поскольку способны совершать автономные действия. По мнению Гришина, робот, как и юридическое лицо является особой юридической конструкцией, к создателям которых могут применяться нормы об ответственности владельца источника повышенной опасности25.
Таким образом, анализ научной литературы, международных актов позволяет вывести ряд следующих моментов в правовом регулировании искусственного интеллекта: системы искусственного интеллекта должны рассматриваться исключительно как объекты; ответственность за причиненным ими вред несут владельцы и пользователи, но при возрастании автономности систем искусственного интеллекта их ответственность может изменяться в сторону уменьшения; необходимо обсуждение проблем, возникающих в этой сфере.
Заключение. В настоящее время системное регулирование разработки, производства и применения искусственного интеллекта на национальном и международном уровнях практически отсутствует, что затрудняет решение юридически значимых проблем, возникшие в связи с с применением искусственного интеллекта. Одной из проблем, сдерживающих формирование международ-
24 Recommendation 2102 (2017) Technological convergence, artificial intelligence and human rights, 28 April 2017 [PeKoMeHda-napjiaMeHmcKOü ÄccaMÖneu Coeema Eeponu № 2102 (2017) om 28.04.2017 г. «Cnumue c meхнonoгuммu, ucKyccmeeHHUü
uHmenneKm u npaea nenoeeKa»]. URL: http://assembly.coe.int/nw/xml/XRef/Xref-XML2HTML-en.asp?fileid=23726&lang=en. (dama oöpa^eHun: 20.05.2021).
25 OcHoeamenb Grishin Robotics ffMumpuü rpummpa3pa6oman m^en^m saKoHa opoöomomexHUKe. URL: https://cyberpedia. su/11x111a.html. (dama oöpa^eHun: 10.05.2021).
но-правовой основы решения вопросов правосубъектности и ответственности за вред, причинённый искусственным интеллектом и иных, связанных с ним вопросов, является отсутствие унифицированного определения понятия «искусственный интеллект». Поскольку «искусственный интеллект» является обобщающим понятием, при выработке дефиниции этого понятия следует учитывать разновидности систем искусственного интеллекта, особенности применения технологий искусственного интеллекта в каждой конкретной сфере, а также разный уровень применения технологий и особенности правовой системы государства.
Анализ мировой практики показывает, что вопрос о необходимости регулирования искусственного интеллекта в каждой стране решается по разному, с учетом особенностей правовой системы. В одних странах ограничиваются разработкой государственных программ, направленных на обеспечение конкурентоспособности в сфере искусственного интеллекта (Китай), стратегических планов исследований и разработок в области искусственного интеллекта (США), в других
- принимаются попытки нормативно-правового регулирования искусственного интеллекта путем принятия нормативных правовых актов, стандартов. В некоторых странах разрабатываются экспериментальные подходы к регулированию (использование «нормативных песочниц», инструментов открытого правительства, анализ нормативных правовых актов с привлечением представителей бизнес-сообществ и гражданского общества, мониторинг эффективности уже принятых актов и др.). Комплексных нормативных актов, регламентирующих порядок разработки и использования искусственного интеллекта в мире пока нет.
Создание нормативно-правовой базы в сфере разработки и использования искусственного интеллекта должно осуществляться постепенно, на основе четко выработанных подходов к регулированию, с учетом специфики использования искусственного интеллекта в различных сферах и возможных рисков, а также необходимости развития новых технологий в интересах человека, общества и государства.
ЛИТЕРАТУРА
1. Тьюринг А. Может ли машина мыслить? Перевод с английского Ю. А. Данилова. Государственное издательство физико-математической литературы. Москва, 1960. URL: http://www. etheroneph.com/files/can_the_machine_think.pdf.
2. Резник Б. Искусственный интеллект и кризис теорий сознания. URL: https://habr. com/ru/post/500732/.
3. Ударцев. С.Ф. Верховенство права, проблемы современного правопонимания и правовые позиции совета/ Из кн. Утверждение верховенства права, общечеловеческих ценностей и приоритетов современного государства: деятельность Конституционного Совета Республики Казахстан/Под общ. ред д.ю.н., проф. К.А. Мами / Авт. предисл. д.ю.н., проф. К.А. Мами. - Нур-Султан: Деловой Мир. - Астана, 2020. - 464 с.
4. Сулейменов М.К. Гражданское право Казахстана в современном мире: влияние на развитие национального права. URL: https://online.zakon.kz/Document/?doc_ id=36714219#pos=6;-106.
5. Кирилюк О. Международно-правовой анализ проекта Закона Республики Казахстан «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам регулирования цифровых технологий». URL: https://www.soros.kz/wp-content/uploads/2020/07/kz_digital-technologies-amendments-analysis_-Kirilyuk.pdf.
6. Жаркынбеков М. Искусственный интеллект в юриспруденции. URL: https://online. zakon.kz/Document/?doc_id=36647699#pos=4;-106.
7. Шестак В.А, Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России// Всероссийский криминологический журнал. 2019. Т. 13, № 2. C. 197-206.
8. Фомин С.В. Предисловие редактора перевода// Нильсон Н. Искусственный интеллект: методы поиска решений: Пер. с англ. В.Л. Стефанюка; под ред. С.В. Фомина. - М.: Мир, 1973. - 272 с.
Н
X
ы А
о х о Д А
сг
В
СП А
А
СП
О
СП
О
X
е о
"U
2 А
JZ
"и
NJ
о
9. Эндрю А. Искусственный интеллект: Пер. с англ. / Под ред. и с предисл. Д.А. Поспелова. - М.: Мир, 1985. 264 с.
10. Шилейко А.В. Дискуссии об искусственном интеллекте. -М.: Знание, 1970. 48 с.
11. БолотоваЛ.С. Системы искусственного интеллекта: модели и технологии основанные на знаниях: Учебник. - М., 2012. - 664 с
12. Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография / РОО «Институт государственно-конфессиональных отношений и права». - М.: Буки Веди, 2017. 257 с.
13. Понкин А. В., Редькина А. И. Искусственный интеллект с точки зрения права. Вестник РУДН. Серия: Юридические науки. 2018. С. 91-109.
14. Кутейников Д. Л, Ижаев О.А, Зенин С.С, Лебедев В.А. Киберфизические, кибербио-логические и искусственные когнитивные системы: сущность и юридические свойства. Российское право: образование, практика, наука. 2019. № 3. С. 75-80.
15. Васильев А.А, Шпоппер Д, Матаева М.Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ. Юрислингвистика. 2018. № 7-8. URL: https:// cyberleninka.ru/article/n/termin-iskusstvennyy-intellekt-v-rossiyskom-prave-doktrinalnyy-analiz.
16. Сазонова М. Искусственный интеллект и право: есть контакт? 16 июля 2020/ГА-РАНТ.РУ: URL: http://www.gamnt.ru/news/1401154Mixzz6qgTJyUb9.
17. Филипова И.А. Правовое регулирование искусственного интеллекта: учебное пособие - Нижний Новгород: Нижегородский госуниверситет, 2020. 90 с. URL: http://www.lib. unn.ru/students/src/Prav_reg_I_I.pdf.
18. Незнамов А.В., Наумов В.Б. Вопросы развития законодательства о робототехнике в России и в мире //Юридические исследования. 2017. № 8. С. 14 - 25. DOI: 10.25136/24097136.2017.8.23292 URL: https://nbpublish.com/library_read_article.php?id=23292.
19. Карцхия А. Искусственный интеллект как средство управления в условиях глобальных рисков//Мониторинг правоприменения№1 (34). 2020. С. 49-50. URL: https://kbtu.edu.kz/ images/elibrary_42715049.pdf.
20. Морхат П.М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах//Закон и
™ право. 06-2018. С. 64. URL: https://cyberleninka.ru/article/n/k-voprosu-o-spetsifike-pravovogo-iS regulirovaniya-iskusstvennogo-intellekta-i-o-nekotoryh-pravovyh-problemah-ego-primeneniya-™ v-otdelnyh.
21. Королев И. В России отрегулируют отношения человека с роботами и искусствен-^ ным интеллектом. URL: https://www.cnews.ru/articles/2021-02-08_v_rossii_otreguliruyut_
otnosheniya.
g 22. Попова. А.В, Горохова С.С, Азназгулова Г.М. Теоретико-правовые подходы к опреде-е лению системы принципов законодательного регулирования искусственного интеллекта
1 на современном этапе развития правового государства/Правовое государство: теория и о практика. 2019. № 3 (57). С. 40.
2 23. Хисамова З.И. Правовое регулирование искусственного интеллекта/З.И. Хисамова, | И.Р. Бегишев //Baikal Research Journal. 2019. Т. 10, № 2. file:///C:/Users/0/Desktop/%D0%BC s %D0%B0%D0%BC%D0%B0/pravovoe-regulirovanie-iskusstvennogo-intellekta. pdf.
24. Хабриева Т. Я., Черногор Н. Н. Право в эпоху цифровой реальности //Журнал российского права. 2018. № 1. С. 94. URL: file:///C:/Users/ASUS/Downloads/pravo-v-usloviyah-tsifrovoy-realnosti.pdf.
25. Ларина Е, Овчинский В. Искусственный интеллект. Судебная система. Этика и право. Сайт С.П. Курдюмова. URL: http://spkurdyumov.ru/networks/iskusstvennyj-intellekt-sudebnaya-sistema-etika-i-pravo-glavy-iz-knigi/.
26. Ибрагимов Р. Право машин. Как привлечь робота к ответственности/Р. Ибрагимов, Е. Сурагина//Корпоративный юрист. 2017. № 11. С. 10-17. URL: https://e.korpurist. ru/599113.
27. Ястребов О.А. Искусственный интеллект в правовом пространстве //Вестник РУДН. Серия: Юридические науки 2018 Т. 22. № 3. 315-328. URL: file:///C:/Users/0/Deskto
Ь p/%D0%BC%D0%B0%D0%BC%D0%B0/iskusstvennyy-intellekt-v-pravovom-prostranstve%20 (1).pdf.
IN
X
28. Морхат П.М. К вопросу о правосубъектности «электронного лица» // Юридические исследования. 2018. № 4. С. 1-8. URL: https://nbpublish.com/library_read_article. php?id=25647.
29. Красилова Е. «Они» уже на подходе. В Европе могут появиться «электронные лица». URL: <https://ria.ru/accents/20160626/1451097825.html>.
REFERENCES
1. T'juring A. Mozhet li mashina myslit'? Perevod s anglijskogo Ju. A. Danilova. Gosudarstvennoe izdatel'stvo fiziko-matematicheskoj literatury. Moskva, 1960. URL: http:// www.etheroneph.com/files/can_the_machine_think.pdf.
2. Reznik B. Iskusstvennyj intellekt i krizis teorij soznanija. URL: https://habr.com/ru/ post/500732/.
3. Udarcev. S.F. Verhovenstvo prava, problemy sovremennogo pravoponimanija i pravovye pozicii soveta/ Iz kn. Utverzhdenie verhovenstva prava, obshhechelovecheskih cennostej i prioritetov sovremennogo gosudarstva: dejatel'nost' Konstitucionnogo Soveta Respubliki Kazahstan/Pod obshh. red d.ju.n., prof. K.A. Mami / Avt. predisl. d.ju.n., prof. K.A. Mami. - NurSultan: Delovoj Mir. - Astana, 2020. - 464 c.
4. Sulejmenov M.K. Grazhdanskoe pravoKazahstanavsovremennom mire: vlijanie narazvitie nacional'nogoprava. URL: https://online.zakon.kz/Document/?doc_id=36714219#pos=6;-106.
5. Kiriljuk O. Mezhdunarodno-pravovoj analiz proekta Zakona Respubliki Kazahstan «O vnesenii izmenenij i dopolnenij v nekotorye zakonodatel'nye akty Respubliki Kazahstan po voprosam regulirovanija cifrovyh tehnologij». URL: https://www.soros.kz/wp-content/ uploads/2020/07/kz_digital-technologies-amendments-analysis_-Kirilyuk.pdf.
6. Zharkynbekov M. Iskusstvennyj intellekt v jurisprudencii. URL: https://online.zakon.kz/ Document/?doc_id=36647699#pos=4;-106.
7. Shestak V.A, Volevodz A.G. Sovremennye potrebnosti pravovogo obespechenija iskusstvennogo intellekta: vzgljad iz Rossii// Vserossijskij kriminologicheskij zhurnal. 2019. T. e 13, № 2. C. 197-206. |
8. Fomin S.V. Predislovie redaktora perevoda// Nil 'son N. Iskusstvennyj intellekt: metody k poiska reshenij: Per. s angl. V.L. Stefanjuka; pod red. S.V. Fomina. - M.: Mir, 1973. - 272 s. HH
9. Jendrju A. Iskusstvennyj intellekt: Per. s angl. /Pod red. i s predisl. D.A. Pospelova. - M.: 3 Mir, 1985. 264 s.
10. Shilejko A.V. Diskussii ob iskusstvennom intellekte. - M.: Znanie, 1970. 48 s. >
11. Bolotova L.S. Sistemy iskusstvennogo intellekta: modeli i tehnologii osnovannye na K znanijah: Uchebnik. - M., 2012. - 664 s 0
12. Morhat P.M. Iskusstvennyj intellekt: pravovoj vzgljad: Nauchnaja monografija / ROO § «Institut gosudarstvenno-konfessional'nyh otnoshenij i prava». - M.: Buki Vedi, 2017. 257 s. m
13. Ponkin A. V., Red'kina A. I. Iskusstvennyj intellekt s tochki zrenijaprava. Vestnik RUDN. q Serija: Juridicheskie nauki. 2018. S. 91-109. g
14. KutejnikovD. L, Izhaev O.A, Zenin S.S, Lebedev V.A. Kiberfizicheskie, kiberbiologicheskie ^ i iskusstvennye kognitivnye sistemy: sushhnost' i juridicheskie svojstva. Rossijskoe pravo: > obrazovanie, praktika, nauka. 2019. № 3. S. 75-80. g
о
15. Vasil'ev A.A, Shpopper D, Mataeva M.H. Termin «iskusstvennyj intellekt» v rossijskom prave: doktrinal'nyj analiz. Jurislingvistika. 2018. № 7-8. URL: https://cyberleninka.ru/article/n/ H termin-iskusstvennyy-intellekt-v-rossiyskom-prave-doktrinalnyy-analiz. o
16. Sazonova M. Iskusstvennyj intellekt i pravo: est' kontakt? 16 ijulja 2020/ GARANT.RU: URL: http://www.garant.ru/news/1401154/#ixzz6qgTJyUb9.
17. FilipovaI.A. Pravovoe regulirovanie iskusstvennogo intellekta: uchebnoeposobie -Nizhnij Novgorod: Nizhegorodskij gosuniversitet, 2020. 90 s. URL: http://www.lib.unn.ru/students/src/ Prav_reg_I_I.pdf.
18. Neznamov A.V., Naumov V.B. Voprosy razvitija zakonodatel 'stva o robototehnike v Rossii i v mire//Juridicheskie issledovanija. 2017. № 8. S. 14-25. DOI: 10.25136/2409-7136.2017.8.23292 URL: https://nbpublish.com/library_read_article.php?id=23292.
> JZ
"O
Kl
о
19. Karchija A. Iskusstvennyj intellekt kak sredstvo upravlenija v uslovijah global'nyh riskov//Monitoringpravoprimenenija№1 (34). 2020. S. 49-50. URL: https://kbtu.edu.kz/images/ elibrary 42715049.pdf
20. Morhat P.M. K voprosu o specifike pravovogo regulirovanija iskusstvennogo intellekta i o nekotoryh pravovyh problemah ego primenenija v otdel'nyh sferah//Zakon i pravo. 06-2018. S. 64. URL: https:ffcyberlemnka.rufarticlefnfk-voprosu-o-spetsifike-pravovogo-regulirovamya-iskusstvennogo-intellekta-i-o-nekotoryh-pravovyh-problemah-ego-primeneniya-v-otdelnyh.
21. Korolev I. V Rossii otregulirujut otnoshenija cheloveka s robotami i iskusstvennym intellektom. URL: https://www. cnews.ru/articles/2021-02-08_v_rossii_otreguliruyut_ otnosheniya.
22. Popova. A.V, Gorohova S.S, Aznazgulova G.M. Teoretiko-pravovyepodhody k opredeleniju sistemy principov zakonodatel'nogo regulirovanija iskusstvennogo intellekta na sovremennom jetape razvitija pravovogo gosudarstva//Pravovoe gosudarstvo: teorija i praktika. 2019. № 3
23. Hisamova Z.I. Pravovoe regulirovanie iskusstvennogo intellekta/Z.I. Hisamova, I.R. Begishev //Baikal Research Journal. 2019. T. 10, № 2. file:///C:/Users/0/Desktop/%D0%BC%D 0%B0%D0%BC%D0%B0/pravovoe-regulirovanie-iskusstvennogo-intellekta. pdf.
24. Habrieva T. Ja., Chernogor N. N. Pravo vjepohu cifrovoj real'nosti //Zhurnalrossijskogo prava. 2018. № 1. S. 94. URL: file:///C:/Users/ASUS/Downloads/pravo-v-usloviyah-tsifrovoy-realnosti.pdf.
25. Larina E, Ovchinskij V. Iskusstvennyj intellekt. Sudebnaja sistema. Jetika i pravo. Sajt S.P. Kurdjumova. URL: http://spkurdyumov. ru/networks/iskusstvennyj-intellekt-sudebnaya-sistema-etika-i-pravo-glavy-iz-knigi/.
26. Ibragimov R Pravo mashin. Kak privlech' robota k otvetstvennosti/R Ibragimov, E. Suragina//Korporativnyj jurist. 2017. № 11. S. 10-17. URL: https://e.korpurist.ru/599113.
27. Jastrebov O.A. Iskusstvennyj intellekt v pravovom prostranstve //Vestnik RUDN. Serija: Juridicheskie nauki 2018 T. 22. № 3. 315-328. URL: file:///C:/Users/0/Desktop/%D0%BC%D0% B0%D0%BC%D0%B0/iskusstvennyy-intellekt-v-pravovom-prostranstve%20(1).pdf.
^ 28. Morhat P.M. K voprosu o pravosub#ektnosti «jelektronnogo lica» // Juridicheskie ™ issledovanija. 2018.№ 4. S. 1-8. URL: https://nbpublish.com/library_read_article.php?id=25647. iS 29. Krasilova E. «Oni» uzhe na podhode. V Evrope mogut pojavit'sja «jelektronnye lica». ™ URL: <https://ria.ru/accents/20160626/1451097825.html>.
(57). S. 40.
CL
<
CL
O 0
X
X
X
LU
en
