CC BY
19DOI 10.37523/SUI.2023.56.5.004 УДК 340
Кобец Петр Николаевич
доктор юридических наук, профессор, главный научный сотрудник,
Всероссийский научно-исследовательский институт Министерства внутренних дел Российской Федерации, 121069, Россия, г. Москва, ул. Поварская, 25, стр. 1, e-mail: pkobets37@rambler.ru
Peter N. Kobets
Doctor of Law, Professor, Chief Researcher,
National Research Institute of the Ministry of Internal Affairs of the Russian Federation,
build. 1, 25, Povarskaya str., Moscow, Russia, 121069, e-mail: pkobets37@rambler.ru
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: СОВРЕМЕННЫЕ ПОДХОДЫ ПО ФОРМИРОВАНИЮ ПОНЯТИЙНОГО АППАРАТА И РЕГУЛИРОВАНИЮ ПРАВООТНОШЕНИЙ В РАССМАТРИВАЕМОЙ СФЕРЕ
Аннотация. Актуальность обсуждаемых в работе вопросов обусловлена тем, что стремительное совершенствование технологий, функционирующих на основе искусственного интеллекта, требует разработки соответствующих мер по их правовому регулированию. Подробные подходы смогут предупреждать возможные потенциальные угрозы, возникающие в процессе использования указанных технологий, а также предусматривать адекватные меры ответственности в случае причинения вреда общественным отношениям. В этой связи в процессе исследования современных подходов по формированию понятийного аппарата и регулированию правоотношений в сфере искусственного интеллекта автором убедительно доказано, что в скором будущем нашей стране необходимо будет приступить к работе по комплексному правовому регулированию данной сферы деятельности. Им также отмечается, что в дальнейшем актуальность проблематики разработки правовых основ в области использования технологий на основе исследуемого явления будет только повышаться. Вместе с тем автором акцентируется внимание на том, что отечественным правоведам уже сегодня необходимо прогнозировать при помощи каких юридических оснований в дальнейшем в нашей стране предстоит регулировать общественные отношения в сфере роботизации и искусственного интеллекта, поскольку в настоящее время уже возникают реальные предпосылки признания субъектами правовых отношений робототехники, функционирующей на основе данных технологий. В процессе исследования автор приходит к выводу о том, что, вне всякого сомнения, дальнейшее совершенствование технологий по искусственному интеллекту потребует разработки необходимого комплекса правовых норм в данной области. Им также отмечается, в юридической сфере остается множество вопросов по проблематике правового регулирования новых технологий, которые требуют своего скорейшего научного разрешения. В первую очередь в дальнейшей перспективе ждут своего законодательного решения вопросы правосубъектности в процессе применения обозначенных технологий, поэтому так важны и необходимы научные исследования, относительно определения их правовой природы и правового статуса.
Ключевые слова: зарубежные подходы, искусственный интеллект, информтехнологии, законодательные основы, международное право, уголовное право, нормативное регулирование, кибертехнологии, правовая база, юридические основания, противодействие преступности, нормотворчество.
ARTIFICIAL INTELLIGENCE: MODERN APPROACHES TO FORMING A CONCEPTUAL APPARATUS AND REGULATING LEGAL RELATIONS IN THE FIELD IN CONSIDERATION
Summary. The relevance of the issues discussed in the work is due to the fact that the rapid improvement of technologies operating on the basis of artificial intelligence requires the development of appropriate measures for their legal regulation. Detailed approaches will be able to prevent possible potential threats arising in the process of using the technologies in question, as well as provide adequate measures of liability in case of harm to public relations. In this regard, in the process of studying modern approaches to the formation of a conceptual apparatus and regulation of legal relations in the field of artificial intelligence, the author convincingly proved that in the near future our country will need to begin work on comprehensive legal regulation of this field of activity. He also notes that in the future the relevance of the issue of developing a legal framework in the field of the use of technologies based on the phenomenon under study will only increase. At the same time, the author focuses on the fact that domestic legal scholars today need to predict with the help of what legal grounds in the future in our country it will be necessary to regulate public relations in the field of robotization and artificial intelligence, since at present there are already real prerequisites for recognition by subjects of legal relations of robotics operating on the basis of these technologies. In the process of research, the author comes to the conclusion that, without a doubt, further
© 2023 Кобец П. Н.
improvement of artificial intelligence technologies will require the development of the necessary set of legal norms in this area. He also notes that in the legal sphere there remain many questions regarding the legal regulation of new technologies that require their earliest scientific resolution. First of all, in the future, issues of legal personality in the process of applying the designated technologies are awaiting their legislative solution, which is why scientific research regarding the determination of their legal nature and legal status is so important and necessary.
Keywords: foreign approaches, artificial intelligence, information technology, legislative framework, international law, criminal law, regulatory regulation, cyber technology, legal framework, legal grounds, combating crime, rule-making.
Использование в настоящее время достижений в сфере технологий, связанных с искусственным интеллектом, представляет из себя одно из полей битв по конкурентной борьбе среди большинства мировых держав в научных, военных, космических, а также иных сферах жизнедеятельности общества. Во многом это обусловлено тем, что разработки в рассматриваемой области способствуют сохранению государственности, повышению различных видов благосостояния, выживанию людей в условиях неблагоприятной экологической обстановки. Большинство современных процессов, вызванных ростом информационных технологий и соответственному бумом, связаны с нестабильностью мировых глобализационных процессов. Решение указанных проблем невозможно без использования ведущих передовых технологических процессов, которые в обязательном порядке требуют принятия новых правовых решений.
Необходимость изучения данной проблематики обуславливает серьезный скачок научно -технического развития, который способствует продвижению в обществе новых роботизированных систем, которые основаны на рассматриваемых технологиях, способных самообучаться, создавать собственные алгоритмы, приспосабливаться к окружающей среде, а также к замещению людей в процессе их трудовой деятельности. Сегодня у многих ученых-юристов наблюдается серьезная обеспокоенность из-за отсутствия требуемых законодательных основ по правовому регулированию данной деятельности, что по большей части и послужило основанием изучения проблематики правового регулирования автоматизированных систем, функционирующих на основе технологий, использующих искусственный интеллект.
В условиях третьего десятилетия XXI столетия исследования проблематики искусственного интеллекта в значительной степени далеки от завершения. Так, на сегодняшний день полемичными остаются вопросы, которые касаются самого понятия искусственного интеллекта. До сих пор не обозначены состав и сами механизмы рассматриваемого феномена. Касательно проблематики искусственного интеллекта как в нашей стране, так и за рубежом было проведено немало исследований, они продолжаются и в настоящее время, между тем однозначного суждения ученых относительно реальных возможностей изобретения и постройки искусственного интеллекта, который был бы способен действительно конкурировать с интеллектом людей, пока нет. Нет также и каких-то серьезных научных доказательств, разъясняющих принципиальные возможности машинной имитации интеллекта людей.
Анализ научных источников из различных сфер жизнедеятельности человека, включая экономику, информатику, кибернетику и др., позволяет утверждать, что в них по-разному подходят к определению искусственного интеллекта, как правило, рассматривая его в качестве имитации различных видов человеческой деятельности либо же научных направлений, в рамках которых происходит решение задачи по аппаратному моделированию интеллектуальной деятельности людей. Вместе с тем в рамках рассматриваемой проблематики могут быть также использованы такие термины, как интеллектуальные информационные системы либо искусственный разум [1, с. 215]. Следует сказать и о том, что определение понятия искусственного интеллекта сделано во многих научных областях, как правило, с учетом особенности их объектов и предметов исследования. Так, в частности, в биологии и психологии искусственный интеллект трактуется на основе понятий высшей нервной системы человека, в информационной сфере рассматриваемое понятие завязано на информационных задачах.
Отечественные эксперты отмечают, что «сегодня перед правоведами также встают задачи по выяснению правовой природы робототехники, ее юридической формы и содержания, правовых аспектов поведенческой деятельности общества, человека и роботов» [2, с. 11]. Автор полностью солидарен с мнением специалистов, «утверждающих, что прежде, чем решать проблему правового статуса искусственного интеллекта следует разобраться в его правовой структуре» [3, с. 82].
По большей части такая позиция «вызвана тем, что искусственный интеллект является междисциплинарным и многофункциональным институтом, который изучается нейрофизиологией, этикой, социологией, философией, когнитивной психологией, юриспруденцией, естественными и техническими науками» [4, с. 49].
Сразу же важно отметить, что отдельные представители научного сообщества высказывают идеи, «что под искусственным интеллектом следует понимать в первую очередь компьютерные системы с человекоподобным интеллектом, не основанные на биоматериалах и биотехнологиях» [5, с. 82]. В то же время их оппоненты, не соглашаются с высказанными утверждениями и уверены в том, что наделенную искусственным интеллектом возможно считать любую машину, в тех случаях, когда этой технике доступно моделирование хотя бы одной функции, которая традиционно включается в сферу разумной деятельности [6, с. 14]. Ряд авторов вообще сводит определение искусственного интеллекта к понятию цифровых вычислительных систем, которые заняты выполнением функций, требующих интеллектуальные способности в процессе их реализации людьми. Прочие эксперты к данной области познания относят рассматриваемое явление к понятию интеллектуальной компьютерной программы [7, с. 31], однако немалая часть исследователей отнесли эти технологии к автоматизированным саморегулирующимся кибернетическим компьютерно-программно-аппаратным системам [8, с. 75].
Интересны и не вызывает возражений различные подходы ряда зарубежных специалистов в области искусственного интеллекта, по мнению которых понимание данного феномена определяется четырьмя разными моделями - как системы, думающей так же, как человек; действующей подобно человеку; реально думающей; рационально действующей. Однако автор полагает, что такой подход зарубежных экспертов по большей части дает основание, выстраивая дефиницию рассматриваемого понятия, в какой-то степени отходить от нерешенных проблем, раскрывающих сущность исследуемого в данной работе явления. При этом зарубежными экспертами особо отмечается способность к самообучению рассматриваемых интеллектуальных систем, в том числе без необходимости контролирования данных процессов со стороны человека. Данное обстоятельство в свою очередь дает возможность этим системам решать необходимые проблемы в изменяющейся среде, опираясь на регулярный сбор разнообразных и необходимых информационных данных [9].
Кроме того, проведенный в процессе данного исследования анализ свидетельствует о том, что многими зарубежными авторами искусственный интеллект рассматривается исключительно через призму автоматизации действий, которые находятся в группе принятия различных решений и решении сложных задач [10]. Немало зарубежных исследователей рассматривают искусственный интеллект в качестве вычислительной техники, способной интеллектуально мыслить. Причем некоторые зарубежные ученые полагают, что искусственный интеллект является именно таким видом деятельности, на основе которой компьютерные системы можно сделать вполне разумными [11]. Кроме того, стоит отметить, что некоторыми зарубежными специалистами искусственный интеллект трактуется слишком широко, а именно в качестве компьютеризированной системы, поведение которой свидетельствует о наличии у нее некоего разума [12].
Так же широко, как и зарубежные эксперты, рассуждают об искусственном интеллекте и многие отечественные специалисты, отмечая, что он является «совокупностью метапроцедур, знаний, рассуждений, поиска релевантной информации в среде имеющихся знаний, их пополнение, корректировка и пр., имитирующих деятельность человека, также отмечается, что система искусственного интеллекта является неким аппаратным информационно-программным комплексом, действие которого выступает аналогичным действию механизмов мышления личности и сходно с решениями, которые принимал бы человек-эксперт, выступающий профессионалом в рассматриваемой области» [13, с. 53].
В юриспруденции проблематика рассматриваемых технологий, как полагают специалисты, «требует серьезных разработок как с позиций определения и содержания данного феномена, последствий его использования, так и правового воздействия, поскольку современной правоохранительной и судебной практике приходится сталкиваться с многочисленными сложностями» [14, с. 11]. В связи с этим многочисленные отечественные специалисты, обобщив различные варианты анализируемого в данной работе понятия, рассматривают его как «систему, которая обладает способностью целеустремленно изменять параметры функционирования и способы своего поведения, которая осуществляет компьютерное моделирование разумного мышления и человеческого поведения, позволяющая усилить интеллектуальные возможности человека путем осмысленного диалога с ним» [15, с. 16].
Многие из ученых, исследующих правовые проблемы использования технологий искусственного интеллекта, все больше акцентируют внимание на некоем кризисе права, регулирующего данную сферу деятельности. По их мнению, по большей мере рассматриваемая ситуация осложняется из-за неразрешенных на законодательном уровне вопросов по легальному определению интеллектуальных систем; отнесением искусственного интеллекта, а также других объектов информтехнологий к субъектам либо объектам правоотношений; «содержанием, вида и особенностей юридической ответственности за неверные решения или действия искусственного интеллекта; определения прав искусственного интеллекта, особенностей трудовых и налоговых правоотношений при условии использования его работодателями и др.» [16, с. 19].
В настоящее время при регулировании отношений в сфере использования искусственного интеллекта нередко применяются правовые институты, не способные учитывать все специфические отношения, которые усложнены из-за современных технологий. В результате обозначенные выше обстоятельства значительно затрудняют возможности по продвижению их на рынок и, следовательно, интегрирование в производственную деятельность. Конечно же, все эти явления неизбежно способствуют различным стагнационным процессам, происходящим в стране и обществе.
В рассматриваемом контексте следует учитывать мнение отечественных правоведов, в том числе отмечающих, что пока также нет и единого международного нормативного определения понятия искусственного интеллекта, при этом оно активно применяется большинством стран. Во многом это объясняется тем, что мировое сообщество не пришло к единому правовому подходу при установлении сущностных характеристик искусственного интеллекта [17, с. 199]. При этом еще в 1955 г. автором термина «искусственный интеллект» Дж. Маккарти была описана цель искусственного интеллекта - разработка машин, которым следовало вести себя как разумным существам. Очевидно, что в глобальном смысле очень сложно давать точное и полное правовое определение искусственному интеллекту, поскольку в настоящее время существуют различные виды робототехники. Поэтому к исследованию робототехники необходимо подходить казуистично, и каждая система должна быть рассмотрена по отдельности. Формировать какой-то единый шаблон не следует, поскольку это является путем в никуда и с такими подходами рассматриваемая индустрия может быть уничтожена вовсе.
Вполне вероятно, что отсутствие законодательного определения искусственному интеллекту в международном праве можно объяснить неким сходством этого понятия с дефиницией «искусственный робот». Однако это лишь предположение, высказанное автором, требующее дальнейшей научной проработки. В любом случае во многом правы те многочисленные ученые, и автор также солидарен с ними, которые полагают, что поспешные решения по глобальному правовому регулированию рассматриваемых проблем будут только вредить, эти вопросы должны решаться согласованно всеми субъектами международно-правовых отношений.
Хотелось бы подчеркнуть, что «юридическое понятие искусственного интеллекта в нашей стране впервые было сформулировано на подзаконном уровне Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», в Национальной стратегии развития искусственного интеллекта на период до 2030 г., и определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» [18, с. 115]. Причем «аналогическое определение данного феномена также дается и в Федеральном законе от 24 апреля 2020 г. «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных"» [19].
Между тем многие необходимые дефиниции в сфере искусственного интеллекта в современной отечественной правовой системе пока еще только формируются. При этом некоторые из них используют в стратегических документах - стратегиях, программах и др., не имеющих нормативного правового характера. Во многом это обусловлено тем, что многочисленные понятия в сфере искусственного интеллекта пока не имеют однозначного доктринального определения ни в зарубежной, ни в отечественной правовой науке.
Важно упомянуть о том, что при определении различных явлений, в том числе искусственного интеллекта, в первую очередь происходит их теоретическое обоснование. По большей части обозначение разнообразных явлений выступает в качестве неких ориентиров для их последующей эксплуатации. Следовательно, подобные теоретические разработки являются механизмами по регулированию отношений при создании продуктов их дальнейшего производства и эксплуатации, позволяя также в дальнейшем проводить работу по совершенствованию специальных и социальных свойств этих же продуктов. Поэтому в настоящее время выработка разного рода дефиниций в рассматриваемой сфере является не только чрезвычайно значимой теоретической, но и по большей части практической задачей.
Также важно упомянуть о том, что в характеристику искусственного интеллекта должны быть включены признаки, которые отражают ряд его сущностных свойств, его специфику. Сущностные специальные и социальные признаки искусственного интеллекта чрезвычайно точно характеризуют его в статическом и динамическом состоянии, констатируют социальный статус, а именно предназначение для общества. Кроме того, наличие социальных свойств явления помогает в предметном регулировании его позитивными отраслями права, а при наличии преступных угроз обеспечивает их предотвращение либо нейтрализацию.
Говоря о понятийном аппарате рассматриваемой сферы, также чрезвычайно важно и необходимо отметить, что пока он еще не успел полностью сформироваться в связи с использованием всевозможных и порою даже противоречивых научных подходов. Вместе с тем, важность развития правового регулирования рассматриваемой технологии определяет необходимость скорейшей разработки основных базовых понятий в рассматриваемой сфере, чтобы все вновь возникающие дефиниции в полной мере отличались тождественностью друг к другу, и их бы не следовало разграничить при использовании правовых режимов. Также важно подчеркнуть, что в настоящее время отечественными учеными и практиками ведутся серьезные научные дискуссии относительно содержания необходимого для современных условий, правового регулирования сферы искусственного интеллекта. Причем, как правило, все эксперты сходятся во мнении относительно того, что законодательные меры, регулирующие правоотношения в сфере искусственного интеллекта, в обязательном порядке должны иметь комплексный характер, а также и содержательную основу [20, с. 50].
В дальнейшей перспективе весь комплекс правовых проблем, которые стоят перед отечественными законодателями в сфере искусственного интеллекта, должен быть как следует отработан с учетом существующих особенностей правоприменительной практики и имеющегося зарубежного положительного опыта по рассматриваемому направлению, для того чтобы создаваемые отечественные правовые нормы по вопросам правового регулирования деятельности в сфере искусственного интеллекта в полном объеме соответствовали всем современным технологическим требованиям и стандартам.
Кроме того, «в процессе реализации всех положений по дальнейшему развитию искусственного интеллекта в нашей стране целевым результатом следует считать внедрение в правовую систему Российской Федерации технологий правового мониторинга, юридического прогнозирования, проектирования юридических норм, анализ законопроектов и др.» [21, с. 35]. Также необходимо принятие новой научной концепции цифровизации интеграционного права в законодательстве нашей страны, ориентированной на международные стандарты в едином виртуальном пространстве.
Проведенный автором анализ делает возможным прийти к выводу о том, что существующие сегодня и предполагаемые к принятию нормативные правовые акты в сфере искусственного интеллекта вполне могли бы стать частью новой правовой отрасли - робототехнического права. Что касается основных начал и принципов новой отрасли права, то после серьезной научной проработки данного вопроса их вполне возможно было бы представить в виде отдельного унифицированного акта права. Между тем, для этого следует соблюсти все процедуры и оформить специальные методы и предмет правового регулирования данной отрасли права. В этой связи автору кажутся вполне логичными и правильными высказывания отдельных экспертов относительно того, что контролировать соблюдение регулирования и реализацию политики в сфере искусственного интеллекта обязательно должен один из органов власти в связи с особой значимостью данного вопроса.
Таким образом, сегодня в юридической сфере остается множество вопросов по проблематике правового регулирования рассматриваемых технологий, которые требуют своего научного разрешения. В частности, необходимы серьезные научные исследования, которые бы поставили точку относительно определения правовой природы технологий по искусственному интеллекту. Также требуют своего дальнейшего разрешения вопросы правосубъектности в процессе применения рассматриваемых технологий, и многие из проблемных аспектов по их правовому регулированию. Кроме прочего, как можно быстрее необходимо принятие законодательных норм, в том числе уголовно-правовых и гражданского-правовых, которые бы имели хорошую результативность, потому что пока не завершены процессы, определяющие гражданско-правовой статус робототехники, а от них зависит, каким образом будет выстраиваться концепция уголовно-правовых рисков использования технологий искусственного интеллекта. Конечно же, современная отечественная и зарубежная юридическая наука обладает рядом неплохих научных исследований по данной проблематике, но их все же недостаточно для проведения успешной и результативной нормотворческой работы. И кроме того, исследования обозначенных процессов должны быть такие же динамичные, как и сами эти явления и не в коей мере не отставать от них.
Библиографический список
1. Романов В. П. Интеллектуальные информационные системы в экономике: учебное пособие для студентов вузов, обучающихся по специальности «Прикладная информатика» и другим междисциплинарным специальностям / под ред. Н. П. Тихомирова. 2-е изд., стер. М.: Экзамен, 2007. 493 с.
2. Петров И. В., Макаров Е. В. Некоторые вопросы правового регулирования технологий «искусственного интеллекта» и «интернета вещей» в области обеспечении безопасности // Военное право. 2020. № 2 (60). С. 9-15.
3. Филиппова И. А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика // Государство и право. 2018. № 9. С. 79-88.
4. Цыганков С. В., Макаренков А. А. Информационно-психологическое воздействие и противоборство в сети Интернет: нормативно-правовые аспекты // Военное право. 2020. № 3 (61). С.47-52.
5. Липчанская М. А., Заметина Т. В. Социальные права граждан в условиях использования искусственного интеллекта: правовые основы и пробелы законодательного регулирования в России // Журнал российского права. 2020. № 11. С. 77-96.
6. Шилейко А. В. Дискуссии об искусственном интеллекте. М.: Знание, 1970. 48 с.
7. Болотова Л. С. Системы искусственного интеллекта: модели и технологии основанные на знаниях: учебник. М., 2012. 664 с.
8. Киберфизические, кибербиологические и искусственные когнитивные системы: сущность и юридические свойства / Д. Л. Кутейников [и др.] // Российское право: образование, практика, наука. 2019. № 3. С. 75-80.
9. Humerick M. Taking AI Personally: How the EU must learn to balance the interests of personal data and privacy and artificial intelligence // Santa Clara High Technology Law Journal. 2018. Vol. 34. No. 4.
10. Bellman R. E. An Introduction to Artificial Intelligence: Can Computers Think? San Francisco: Boyd & Fraser Publishing Company, 1978. 146 p.
11. Nilsson N. J. The quest for artificial intelligence: a history of ideas and achievements. New York: Cambridge University Press, 2009. 707 p.
12. Searle J. R. Minds, brains, and programs // Behavioral and Brain Sciences. 1980. № 3 (3). P.417-457.
13. Ручкин В. Н., Фулин В. А. Универсальный искусственный интеллект и экспертные системы. СПб.: БХВ-Петербург, 2009. 240 с.
14. Бочков А. А. Методологические и правовые основы искусственного интеллекта, и робототехники в зарубежных странах и Республике Беларусь // Право. Экономика. Психология. 2019. № 3 (15). С. 3-13.
15. Смолин Д. В. Введение в искусственный интеллект: конспект лекций. М., 2004. 208 с.
16. Попова А. В. Новые субъекты информационного общества и общества знания: к вопросу о нормативном правовом регулировании // Журнал российского права. 2018. № 11 (263). С. 14-25.
17. Шестак В. А, Волеводз А. Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13. № 2. C. 197-206.
18. Кобец П. Н. Совершенствование правового регулирования в сфере использования технологий искусственного интеллекта // Философия права. 2023. № 3 (106). С. 112-118.
19. Кобец П. Н. Национальная стратегия искусственного интеллекта на период до 2030 года -отправная точка в сфере правового регулирования данных процессов в Российской Федерации // Правовое и этическое регулирование роботизации и внедрения искусственного интеллекта (ИИ): материалы научно-практической конференции с международным участием, Владимир, 18 марта 2022 г. Владимир, 2022. С. 35-40.
20. Пройдаков Э. М. Современное состояние исследований в области искусственного интеллекта // Цифровая экономика. 2018. № 3 (3). С. 50-63.
21. Красноносов Е. Ю., Затейщикова Е. Л. Современное правовое регулирование систем с искусственным интеллектом в Российской Федерации // Вестник Донецкого национального университета. Серия Е: Юридические науки. 2021. № 1. С. 33-38.
References
1. Romanov V. P. Intellektualnie informacionnie sistemi v ekonomike_ uchebnoe posobie dlya studentov vuzov_ obuchayuschihsya po specialnosti «Prikladnaya informatika» i drugim mejdiscipli-narnim specialno_styam [Intelligent information systems in economics: a textbook for university students studying in the specialty «Applied Informatics» and other interdisciplinary specialties]. Moscow, 2007, 493 p. [in Russian].
2. Petrov I. V., Makarov E. V. Nekotorye voprosy pravovogo regulirovaniya tekhnologii «is-kusstvennogo intellekta» i «interneta veshchei» v oblasti obespechenii bezopasnosti [Some issues of legal regulation of «artificial intelligence» and «Internet of things» technologies in the field of security]. Voennoe parvo [Military law], 2020, no. 2 (60), pp. 9-15 [in Russian].
3. Filipova I. A. Pravovoe regulirovanie iskusstvennogo intellekta: regulirovanie v Rossii, inostrannye issledovaniya i praktika [Legal regulation of artificial intelligence: regulation in Russia, foreign research and practice]. Gosudarstvo ipravo [State and law], 2018, no. 9, pp. 79-88 [in Russian].
4. Tsygankov S. V., Makarenkov A. A. Informatsionno-psikhologicheskoe vozdeistvie i protivo-borstvo v seti Internet: normativno-pravovye aspekty [Information-psychological influence and confrontation on the Internet: regulatory and legal aspects]. Voennoe parvo [Military Law], 2020, no. 3 (61), pp. 47-52 [in Russian].
5. Lipchanskaya M. A., Zametina T. V. Sotsial'nye prava grazhdan v usloviyakh ispol'zovaniya iskusstvennogo intellekta: pravovye osnovy i probely zakonodatel'nogo regulirovaniya v Rossii [Social rights of citizens in the context of the use of artificial intelligence: legal foundations and gaps in legislative regulation in Russia]. Zhurnal rossiiskogo prava [Journal of Russian Law], 2020, no. 11, pp. 77-96 [in Russian].
6. Shileiko A. V. Diskussii ob iskusstvennom intellekte [Discussions about artificial intelligence]. Moscow, 1970, 48 p. [in Russian].
7. Bolotova L. S. Sistemy iskusstvennogo intellekta: modeli i tekhnologii osnovannye na znani-yakh: uchebnik [Artificial intelligence systems: knowledge-based models and technologies: Textbook]. Moscow, 2012, 664 p. [in Russian].
8. Kiberfizicheskie, kiberbiologicheskie i iskusstvennye kognitivnye sistemy: sushchnost' i yuridicheskie svoistva [Cyberbiological and artificial cognitive systems: essence and legal properties]. Rossiiskoeparvo [Russian law], 2019, no. 3, pp. 75-80 [in Russian].
9. Humerick M. Taking AI Personally: How the EU must learn to balance the interests of personal data and privacy and artificial intelligence. Santa Clara High Technology Law Journal. 2018, vol. 34, no. 4 [in English].
10. Bellman R. E. An Introduction to Artificial Intelligence: Can Computers Think? San Francisco, 1978, 146 p. [in English].
11. Nilsson N. J. The quest for artificial intelligence: a history of ideas and achievements. New York, 2009, 707 p. [in English].
12. Searle J. R. Minds, brains, and programs. Behavioral and Brain Sciences, 1980, no. 3 (3), рр. 417-457 [in English].
13. Ruchkin V. N., Fulin V. A. Universal'nyi iskusstvennyi intellekt i ehkspertnye sistemy [Universal artificial intelligence and expert systems]. Saint-Petersburg, 2009, 240 p. [in Russian].
14. Bochkov A. A. Metodologicheskie i pravovye osnovy iskusstvennogo intellekta, i roboto-tekhniki v zarubezhnykh stranakh i Respublike Belarus' [Methodological and legal foundations of artificial intelligence and robotics in foreign countries and the Republic of Belarus]. Pravo. Ehkonomika. Psikhologiya [Law. Economy. Psychology], 2019, no. 3 (15), pp. 3-13 [in Russian].
15. Smolin D. V. Vvedenie v iskusstvennyi intellekt: konspekt lektsi [Introduction to artificial intelligence: lecture notes]. Moscow, 2004, 208 p. [in Russian].
16. Popova A. V. Novye sub"ekty informatsionnogo obshchestva i obshchestva znaniya: k voprosu o normativnom pravovom regulirovanii [New subjects of the information society and knowledge society: on the issue of normative legal regulation]. Zhurnal ross. prava [Russian Journal rights], 2018, no. 11, pp. 14-25 [in Russian].
17. Shestak V. A, Volevodz A. G. Sovremennye potrebnosti pravovogo obespecheniya iskusstvennogo intellekta: vzglyad iz Rossii [Modern needs of legal support for artificial intelligence: a view from Russia]. Vserossiiskii kriminologicheskii zhurnal [All-Russian Criminological Journal], 2019, no. 13, pp. 197-206 [in Russian].
18. Kobets P. N. Sovershenstvovanie pravovogo regulirovaniya v sfere ispol'zovaniya tekhnologii iskusstvennogo intellekta [Improving legal regulation in the field of using artificial intelligence technologies]. Filosofiyaprava [Philosophy of Law], 2023, no. 3 (106), pp. 112-118 [in Russian].
19. Kobets P. N. Natsional'naya Strategiya iskusstvennogo intellekta na period do 2030 goda -otpravnaya tochka v sfere pravovogo regulirovaniya dannykh protsessov v Rossiiskoi Federatsii [National Strategy for Artificial Intelligence for the period up to 2030 - the starting point in the field of legal regulation of these processes in the Russian Federation]. Pravovoe i ehticheskoe regulirovanie robotizatsii i vnedreniya iskusstvennogo intellekta (II): Materialy nauchno-prakticheskoi konferentsii s mezhdu-narodnym uchastiem, Vladimir, 18 marta 2022 goda [Legal and ethical regulation of robotization and implementation of artificial intelligence (AI): Proceedings of a scientific and practical conference with international participation, Vladimir, 18 March 2022]. Vladimir, 2022, pp. 35-40 [in Russian].
20. Proidakov E. M. Sovremennoe sostoyanie issledovanii v oblasti iskusstvennogo intellekta [Current state of research in the field of artificial intelligence]. Tsifrovaya ehkonomika [Digital Economy], 2018, no. 3 (3), pp. 50-63 [in Russian].
21. Krasnonosov E. Yu., Zateishchikova E. L. Sovremennoe pravovoe regulirovanie sistem s iskusstvennym intellektom v Rossiiskoi Federatsii [Modern legal regulation of systems with artificial intelligence in the Russian Federation]. Vestnik Donetskogo natsional'nogo universiteta [Bulletin of the Donetsk National University], 2021, no. 1, pp. 33-38 [in Russian].
