CC BY
288
уголовное право и криминология /
CRIMINAL LAW AND CRiMiNOLOGY
УДК 34:004.8 DOI: http://dx.doi.org/10.21202/1993-047X.14.2020.1.79-91
И. Р. БЕГИШЕВ1, Э. Ю. ЛАТЫПОВА, Д. В. КИРПИЧНИКОВ1
1 Казанский инновационный университет им. В. Г. Тимирясова (ИЭУП), г. Казань, Россия
искусственный интеллект как правовая категория: доктринальный подход к разработке дефиниции
Контактное лицо:
Бегишев Ильдар Рустамович, кандидат юридических наук, заслуженный юрист
Республики Татарстан, старший научный сотрудник, Казанский инновационный
университет им. В. Г. Тимирясова (ИЭУП)
Адрес: г. Казань, ул. Московская, 42, тел.: +7 (843) 231-92-90
E-mail: begishev@mail.ru
ORCID: https://orcid.org/0000-0001-5619-4025
Web of Science Researcher ID: T-2409-2019
Scopus Author ID: 57205305394
Латыпова Эльвира Юрьевна, кандидат юридических наук, заведующая кафедрой уголовного права и процесса, Казанский инновационный университет им. В. Г. Тимирясова (ИЭУП)
Адрес: г. Казань, ул. Московская, 42, тел.: +7 (843) 231-92-90 E-mail: elegys@mail.ru
ORCID: https://orcid.org/0000-0001-9089-1887
Кирпичников Данила Владимирович, лаборант кафедры уголовного права и процесса, Казанский инновационный университет им. В. Г. Тимирясова (ИЭУП) Адрес: г. Казань, ул. Московская, 42, тел.: +7 (843) 231-92-90 E-mail: Danila667@outlook.com
Цель: проведение критического анализа существующих дефиниций искусственного интеллекта и разработка авторского варианта рассматриваемого понятия.
Методы: методологическую основу исследования составляет совокупность методов научного познания, в том числе абстрактно-логический, сравнения и корреляционного анализа.
Результаты: выявлены основные закономерности принятия решений искусственным интеллектом, определен механизм восприятия им обстоятельств объективной реальности, подтверждена принципиальная способность кибернетического образования соотносить свое поведение с социально приемлемыми процессами. Высказано предположение, что существует множество способов описания искусственного интеллекта: посредством указания на
ME
ISSN 1993-047Х (Print) / ISSN 2410-0390 (Online)
механизм действия, основных принципов работы, спектра решаемых задач и т. д., и т. п. Однако наиболее убедительна и последовательна позиция тех исследователей, которые склонны к описанию феномена искусственного интеллекта посредством обозначения его свойств и характеристик. Авторы статьи констатируют, что в современной правовой доктрине отсутствует определение «искусственный интеллект». В результате комплексного анализа различных источников научной информации, в системном единстве с собственными суждениями предложено ввести в научный оборот авторский вариант понятия «искусственный интеллект».
Научная новизна: в работе приведена оценка имеющихся в научной литературе и нормативно-правовой базе определений понятия «искусственный интеллект» с высказыванием авторский позиции об их относимости, всесторонности и актуальности, а также предпринята попытка с учетом всех значимых свойств искусственного интеллекта сформулировать его определение.
Практическая значимость: обусловлена отсутствием в настоящее время возможности применения к отношениям с участием искусственного интеллекта правовых норм и правил, учитывающих их специфику. Основные положения и выводы исследования могут быть использованы для совершенствования механизмов правового регулирования искусственного интеллекта в Российской Федерации.
Ключевые слова: уголовное право и криминология; интеллектуальная система; искусственный интеллект; нейронная сеть; осознанно-волевое поведение; понятие искусственного интеллекта; правовое регулирование; самоконтроль; самообучение; цифровая безопасность; цифровая экономика; цифровое право; юнит искусственного интеллекта
Конфликт интересов: авторами не заявлен.
Mill Mill ММ Mill ММ Mill ММ Mill Mill ММ Mill ММ Mill ММ Mill ММ Mill ММ M
Как цитировать статью: Бегишев И. Р., Латыпова Э. Ю., Кирпичников Д. В. Искусственный интеллект как правовая категория: доктринальный подход к разработке дефиниции // Актуальные проблемы экономики и права. 2020. Т. 14, № 1. С. 79-91. DOI: http://dx.doi.Org/10.21202/1993-047X.14.2020.1.79-91
■ 11 il il I il il 11 Iii 11 Iii 11 Iii 11 Iii 11 Iii 11 Iii 11 il il I il il 111 il 111 il 111 il 111 il il I il il 111 il 111 il 111 il 111 il il I il il 111 il 111 il 111 il 111 il 111 il il I il il 11 Iii 11 Iii 11 Iii 11 Iii 11 Iii 11 il il I il il 111 il 111 il 111 il 111 il 111 il il I il il 111 il 111 il 111 il 111 il il I il il 11 il
I. R. BEGISHEV1, E. YU. LATYPOVA1, D. V. KIRPICHNIKOV1
1 Kazan Innovative University named after V. G. Timiryasov, Kazan, Russia
ARTIFICIAL INTELLIGENCE AS A LEGAL CATEGORY: DOCTRiNAL APPROACH TO FORMULATING A DEFiNiTiON
Contact:
Ildar R. Begishev, PhD (Law), Honored Lawyer of the Republic of Tatarstan, Senior
Researcher, Kazan Innovative University named after V. G. Timiryasov (IEML)
Address: 42 Moskovskaya Str., Kazan, tel.: +7 (843) 231-92-90
E-mail: begishev@mail.ru
ORCID: https://orcid.org/0000-0001-5619-4025
Web of Science Researcher ID: T-2409-2019
Scopus Author ID: 57205305394
Elvira Yu. Latypova, PhD (Law), Head of the Department of Criminal Law and Procedure, Kazan Innovative University named after V. G. Timiryasov (IEML) Address: 42 Moskovskaya Str., Kazan, tel.: +7 (843) 231-92-90 E-mail: elegys@mail.ru
ORCID: https://orcid.org/0000-0001-9089-1887
Danila V. Kirpichnikov, Laboratory Assistant, Kazan Innovative University named after V. G. Timiryasov (IEML)
Address: 42 Moskovskaya Str., Kazan, tel.: +7 (843) 231-92-90 E-mail: Danila667@outlook.com
ISSN 1993-047Х (Print) / ISSN 2410-0390 (Online) ...........................................................................
Objective: to conduct a critical analysis of the existing definitions of artificial intelligence and develop an authors' version of the concept acceptable for legal sciences.
Methods: the methodological basis of the study is a set of scientific cognition methods, including abstract-logical method, comparison and correlation analysis.
Results: the main regularities of decision-making by artificial intelligence are identified; the mechanism of its perception of objective reality is determined; the fundamental ability of machine learning to conform its behavior to socially acceptable processes is confirmed. It is assumed that there are many ways to describe artificial intelligence: by indicating the action mechanism, the basic operation principles, the range of tasks to be solved, etc. However, the most convincing and consistent is position of those researchers who tend to describe the AI phenomenon by designating its properties and characteristics. The authors state that there is no definition of "artificial intelligence" in the modern legal doctrine. As a result of a comprehensive analysis of various scientific sources in a systematic unity with own judgments, it is proposed to introduce the author's version of the "artificial intelligence" concept into scientific circulation.
Scientific novelty: the paper presents an assessment of the "artificial intelligence" concept definitions available in the scientific literature and legal framework, as well as the authors' opinion on their relevance, comprehensiveness and topicality; there is an attempt to formulate the definition taking into account all the significant properties of artificial intelligence. Practical significance: is due to the current impossibility to apply legal norms and rules to relations involving artificial intelligence taking into account their specifics. The main provisions and conclusions of the study can be used to improve the mechanisms of legal regulation of artificial intelligence in the Russian Federation.
Keywords: Criminal Law and Criminology; Intelligent system; Artificial intelligence; Neural network; Consciously-volitional behavior; Concept of artificial intelligence; Legal regulation; Self-control; Self-learning; Digital security; Digital economy; Digital law; Artificial intelligence unit
Conflict of Interest: No conflict of interest is declared by the authors.
Ml MM Mill Mill Mill MM Mill Mill MM Mill Mill MM Mill Mill Mill MM Mill Mill MM Mill M^
For citation: Begishev I. R., Latypova E. Yu., Kirpichnikov D. V. Artificial intelligence as a legal category: doctrinal approach to formulating a definition, Actual Problems of Economics and Law, 2020, Vol. 14, No. 1, pp. 79-91 (in Russ.). DOI: http:// dx.doi.org/10.21202/1993-047X.14.2020.1.79-91
INI INI lllll lllll lllll INI lllll lllll INI lllll lllll INI lllll lllll lllll INI lllll lllll INI lllll lllll INI lllll 1111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111 ^
Введение
В современных исследованиях по уголовному праву и криминологии активно обсуждаются вопросы применения искусственного интеллекта (далее - ИИ), правового регулирования общественных отношений, возникающих при разработке, проектировании, производстве, использовании и модификации ИИ [1, р. 50; 2, р. 400; 3, р. 6; 4, р. 5160; 5, с. 350; 6, с. 177; 7, с. 773; 8, с. 60; 9, с. 108; 10, с. 44; 11, с. 359].
Следует отметить, что единого доктринального подхода к определению понятия «искусственный интеллект» и сущности этого явления пока не выработано. По этому поводу активно ведутся научные дискуссии, предлагаются различные авторские интерпретации рассматриваемого понятия, оно является новым и многозначным [12, с. 15; 13, с. 93; 14, с. 90; 15, с. 126; 16, с. 82]. Более того, на правовое регулирование искусственного интеллекта направлена целая
группа политических1, нормативных правовых актов и распорядительных документов Президента Российской Федерации2 и органов публичной власти3.Таким
1 Послание Президента Российской Федерации В. В. Путина Федеральному Собранию Российской Федерации от 20 февраля 2019 г. // Российская газета. 2019. № 38 (7796); Послание Президента Российской Федерации В. В. Путина Федеральному Собранию Российской Федерации от 15 января 2020 г. // Российская газета. 2020. № 7 (8061).
2 О развитии искусственного интеллекта в Российской Федерации: Указ Президента Российской Федерации от 10 октября 2019 г. № 490 // Собрание законодательства РФ. 2019. № 41. Ст. 5700; Перечень поручений по итогам совещания по вопросам развития технологий в области искусственного интеллекта (утв. Президентом РФ 12 июня 2019 г. № Пр-1030). URL: http:// www.kremlin.ru/acts/assignments/orders/60748 (дата обращения: 20.01.2020).
3 Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект». URL: https://digital.gov.ru/ru/documents/6658/ (дата обращения: 20.01.2020).
образом, на этом пути развития цифровой экономики крайне важно выработать правовое определение понятия «искусственный интеллект».
Понятие «искусственный интеллект» постепенно входит в нашу повседневную жизнь. Научные достижения в сфере использования ИИ создали огромное количество практических разработок, упрощающих наш быт, труд и досуг. Голосовое управление, распознавание речи и символов, машинный перевод и решение задач классификации документов, цифровые сервисы и медицинские приложения - это далеко не полный перечень благ, доступных человеку вследствие развития искусственного интеллекта. Потенциал ИИ успешно реализовывается в различных сферах: в образовании, медицине, робототехнике, экономике, в особенности банковской деятельности, промышленности, сельском хозяйстве, а также человеческом быту и многих иных сферах человеческой жизнедеятельности [12, с. 29].
Сегодня инновационные интеллектуальные системы имеют широкое распространение за пределами исследовательских центров. К разработкам в области ИИ проявляют интерес государственные корпорации, представители бизнеса, по внедрению таких разработок организуются различные стартапы и пр. [13, с. 131]. Также повышается доступность технологий, созданных на основе передовых знаний, включая ИИ4, который по праву отнесен к основным направлениям развития российских цифровых технологий.
Результаты исследования
Число сфер деятельности, в которых используется искусственный интеллект, постоянно растет. К особенностям ИИ следует отнести то, что при выполнении многогранных задач, делегированных людьми, юниты ИИ обладают способностью самостоятельно включаться в общественные отношения и часто даже выступать в качестве их неотъемлемой части.
Предметное уяснение содержания, сущности и направленности ИИ возможно при обращении к области технических наук. Как явление ИИ интерпретируется учеными по-разному, но в классификации этого по-
4 О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы: Указ Президента Российской Федерации № 203 от 9 мая 2017 г. // Собрание законодательства РФ. 2017. № 20. Ст. 2901.
нятия достигнута определенная солидарность. Например, принято различать сильный ИИ, представляющий собой программное обеспечение, благодаря которому компьютеры могут думать так же, как и люди, а равно получать иные способности разумного существа, и слабый ИИ, который способен осуществлять единственный вид деятельности, для которого конкретно и был создан, например, проводить диагностику заболевания [14, с. 130].
Имеет место и более широкая классификация. Так, в отчете обсерватории киберпреступности Австралийского национального университета [15] искусственный интеллект подразделяется на три категории: Weak AI, Medium AI и Strong AI.
Согласно рассуждениям австралийских ученых, первые два элемента вышеуказанной классификации обладают ограниченным набором функций и строго определенным назначением. Направленность их заключается в получении, накоплении и поиске информации исходя из запросов пользователя. В вышеуказанном отчете подобными разновидностями ИИ признаются многие предметы, которыми человек пользуется повсеместно (к примеру, голосовые ассистенты цифровых устройств). Разграничение между Weak AI и Medium AI построено на эффективности взаимодействия с человеком, скорости принятия решений и комфорте коммуникации.
Следует отметить, что существенные отличия имеет Strong AI, который обладает способностью к самообучению и автономному, осознанно-волевому поведению [15, p. 28]. Указанная способность, на наш взгляд, может стать важнейшим признаком, поскольку возможность самообучения предполагает самостоятельное, автономное выявление новых знаний на основе способности к восприятию, обработке, накоплению и использованию информации внешнего мира.
Вышеизложенное позволяет говорить о том, что ИИ способен к поведению, не поддающемуся конструктивному прогнозированию со стороны сторонних субъектов, так как основой данного поведения являются самостоятельно сформулированные поведенческие алгоритмы.
Механизм принятия решения ИИ был обоснован М. Т. Джонсом, по мысли которого для поиска оптимального решения ИИ первоначально воспринимает случайное текущее решение, не оценивая его эффективность, после же производит исследование
первичного случайного решения, чтобы установить его эффективность для разрешения поставленной проблемы, результатом чего выступает оригинальное решение, лишенное недостатков первичного [16, с. 16]. Затем следует фаза оценки с точки зрения критериев допуска. В качестве единственного критерия для формирования интеллектуального алгоритма выступает эффективность выполнения задания, поставленного перед искусственным интеллектом. Таким образом, можно заключить, что если указанное задание будет нацелено на нарушение законности и правопорядка, то ИИ будет представлять несравнимо большую общественную опасность из-за своей способности быстро и эффективно обрабатывать информацию [17].
В таком случае если посредством или с участием ИИ совершается преступление, то речь идет об умышленной форме вины, так как механизм или устройство действует четко, выполняя волю создателя программы [18, с. 19].
Обладая способностью к самообучению, ИИ может дать оценку эффективности влияния на него разработчика и в последующем принять решение о невыполнении поступающих от него команд. Подобную гипотетическую ситуацию мы приводим для того, чтобы продемонстрировать реальную возможность ИИ к осознанно-волевой автономной деятельности, что мы рассмотрим далее.
С учетом вышесказанного интересной представляется позиция В. С. Дороганова и М. И. Баумгартена, которые указывают следующее. По своей сущности ИИ представляет собой математическую модель, расположенную в определенном техническом устройстве. Указанная модель - это способная к самообучению модель нейронных связей, способных воспринимать информацию объективной реальности, обрабатывать ее и в результате этого получать новое знание, не вкладываемое разработчиками. Соответственно, потенциал прогнозирования его поведения существенно снижается, вернее, переходит из плоскости контроля за созданным объектом в область предвидения поведения автономного субъекта. По этой причине в современной информатике существует определенный раздел, разрабатывающий искусственные нейронные сети для последующего их использования в системах ИИ [19, с. 134].
Некоторые исследователи понимают под искусственными нейронными сетями математические мо-
дели, способные к обучению и созданные наподобие человеческого мозга [20, с. 580]. При этом необходимо обратить внимание на то, что в отличие от мозга человека, имеющего биологическое происхождение, центр интеллектуальной активности ИИ - это образование цифровое, вследствие чего возникает необходимость разъяснить некоторые существенные отличия, оказывающие влияние на способность к осознанно-волевому поведению, которые приводятся нами для понимания взаимной корреляции двух интеллектуальных образований: человеческого мозга и ИИ.
Согласно Г. Ю. Айзенку, биологический интеллект возникает на основе нейрофизиологических и биохимических факторов и непосредственно связан с деятельностью коры больших полушарий, вследствие чего представляет собой генетически детерминированную биологическую базу когнитивного функционирования и всех его индивидуальных различий [21, с. 120]. Соответственно, качество человеческой интеллектуальной деятельности находится под влиянием социальных и биологических факторов, определяющих его эффективность, что, в свою очередь, для ИИ не свойственно. Например, на развитие вербального интеллекта детей могут оказать влияние как биологические (гипоксия головного мозга), так и социальные факторы (общение с педагогами, сверстниками, сложности в обучении и пр.), а интеллект взрослого человека может испытать влияние внезапно возникшего сильного душевного волнения, фрустрации [22, с. 39]. Соответственно, можно заключить, что человеческий интеллект выступает более динамичной категорией, менее устойчивой к внешнему воздействию. В свою очередь, ИИ не испытывает на себе подобных влияний, поэтому к нему не применимы некоторые современные правовые институты, как то: психическое расстройство, не исключающее уголовную ответственность (ограниченная вменяемость); признание недееспособным и ограниченно дееспособным; эмансипация; аффект; невменяемость; причинение вреда в результате непреодолимого психического принуждения.
В итоге рассмотрения данного вопроса можно сказать, что существующие антропоцентрические модели правового регулирования не могут обеспечить полное включение ИИ в общественные отношения, этим дополнительно подтверждается необходимость производства исследований в данном направлении, чтобы
обеспечить устойчивость общественной системы по отношению к различным возмущающим воздействиям [23, с. 146], наиболее существенным из которых, безусловно, является повсеместное внедрение ИИ.
Одним из свойств ИИ сегодня выступает способность превосходить человека по многим параметрам. В частности, благодаря высокой скорости просчета различных вариантов действий ИИ одерживает победу над людьми в авиационных симуляторах, а особенно в воздушном бою [24]; автомобили, снабженные системами ИИ, лишены правового нигилизма, неосведомленностью об изменениях законодательства, субъективных ошибок в управлении [25, p. 242]; самообучающиеся алгоритмы позволяют системам ИИ оказывать больным высококачественную медицинскую помощь без учета таких факторов, как транспортное сообщение, инфраструктура территории, удаленность больного от медицинской организации и его материальное состояние [26, p. 835] и пр.
В перспективе возможности искусственного интеллекта также имеют тенденцию к расширению: к примеру, 8 июня 2018 г. в Национальной лаборатории Министерства энергетики США был представлен суперкомпьютер The Summit, который обеспечивает производительность 200 петафлотс, способен производить квадриллион операций и, как следствие, аккумулировать и использовать значительные массивы данных [27]. Также в литературе имеется точка зрения о возможности использования ИИ в деятельности по предупреждению, раскрытию и расследованию преступлений [28, с. 108].
Благодаря описанным выше свойствам ИИ развитие цифровых технологий выступает в качестве неотъемлемой части большинства из существующих социальных практик. По этой причине указанные категории становятся предметом изучения не только технических, но и гуманитарных наук, в том числе и правовой науки.
Высокая динамика развития ИИ обусловила дис-куссионность вопроса в правовой литературе о том, обладает ли он потенциальной возможностью (или невозможностью) иметь права и обязанности и нести юридическую ответственность [29, с. 570].
Современный уровень развития искусственного интеллекта не ставит остро проблему его «сдерживания» как потенциальной угрозы человечеству [30]. Правовое регулирование ИИ должно выступать в качестве приоритетной задачи законодателя. Научному обществу, в свою очередь, необходимо ори-
ентироваться на разработку доктринальных аспектов эффективного и всестороннего правового регулирования общественных отношений с применением ИИ. Однако необходимо учесть, что в зависимости от области правового регулирования предмет и метод нормативного воздействия на ИИ варьируются, так как по своей фундаментальной сущности правовое регулирование представляет собой целенаправленное организационно-нормативное опосредование общественных отношений [31, с. 27].
Исходя из этого следует, что специфика этих отношений, в частности их субъектной структуры, налагается на сами формируемые правовые нормы. Однако основой правового регулирования искусственного интеллекта является выработка терминологического аппарата, в первую очередь понятия ИИ, включающего в себя признаки, позволяющие отграничить его от иных явлений цифрового мира.
Сегодня в российской правовой системе термины, потенциально способные иметь отношении к ИИ, -«робот» и «робототехника», - фигурируют лишь в нескольких правовых актах далеко не первостепенной важности [32]. Наиболее широко данный термин описывается в зарубежных правовых актах. Например, согласно п. 2 ст. 2 Базового закона Японии от 14 декабря 2016 г. № 103 «Об улучшении использования данных публичного и частного секторов», используемый в вышеуказанном законе термин «технология, связанная с искусственным интеллектом» означает технологию для реализации таких интеллектуальных функций, как обучение, умозаключение и суждение, воплощаемых с помощью искусственных средств, и использования соответствующих функций, реализуемых с помощью искусственных средств5.
Первоначально термин «искусственный интеллект» был введен в научное употребление Д. Маккар-ти в 1956 г., во время проведения первого семинара по ИИ в Дартмуте6, повестка которого заключалась
5 Об улучшении использования данных публичного и частного секторов: Базовый закон Японии № 103 от 14 декабря 2016 г URL: http://wwwjapaneselawtranslation.go.jp (дата обращения: 20.01.2020).
6 Помогать людям или заменять их? Как в Америке 1950-х создавали искусственный интеллект. Фрагмент книги «Homo Roboticus? Люди и машины в поисках взаимопонимания». URL: https://meduza.io/feature/2017/07/01/pomogat-lyudyam-ili-zamenyat-ih-kak-v-amerike-1950-h-sozdavali-iskusstvennyy-intellekt (дата обращения: 20.01.2020).
в выработке способов применения машинами естественного языка, решения ими свойственных человеку задач, осуществления самостоятельного улучшения. Необходимо отметить, что такая концептуальная константа, как способность к самообучению, включена в содержание названной повестки, что позволяет сформулировать следующий вывод: в указанный период времени учеными феномен ИИ уже неразрывно связывался с автономным приобретением знаний.
В настоящее время в России предпринимаются попытки дать непротиворечивое определение рассматриваемого термина, при этом, как отмечается в научной литературе, указанная деятельность сопряжена с определенными трудностями [33, с. 260].
Вместе с тем существует значительное количество дефиниций понятия «искусственный интеллект» как в юридической литературе, так и в других областях научного познания.
Д. Холдрен и Э. Фелтерн считают, что не существует единого определения ИИ, которое было бы общепринято практиками [34, р. 6]. Некоторые определяют ИИ в широком смысле как компьютеризированную систему, которая демонстрирует интеллектуальное поведение. Другие определяют ИИ как систему, способную рационально решать сложные задачи или предпринимать соответствующие действия для достижения своих целей в любых реальных условиях, с которыми она сталкивается.
Р. Курцвейл считает, что искусственный интеллект - это машина, реализующая функции, которые требуют интеллектуальных способностей при их выполнении человеком [35, р. 40]. Однако в данном случае вызывает состояние неопределенности текстуальная конструкция (требует интеллектуальных способностей), поскольку любое даже самое элементарное по своей сути действие может быть расценено как проявление интеллекта.
Ю. Н. Харари считает, что человеческие инстинкты есть простейшие результаты многократно повторенной и генетически закрепленной интеллектуальной деятельности на простейшем уровне, не всегда осознаваемом человеком [36, с. 223]. Из названного следует, что некоторые поведенческие реакции, традиционно определяемые как имеющие инстинктивную природу, по своей основе являются деятельностью нейронных сетей, однако находящейся за пределами человеческого сознания.
Рассмотрим также другие определения ИИ, имеющиеся в научной литературе.
Д. В. Смолин считает, что ИИ - это система, обладающая способностями и возможностями целеустремленно изменять (исходя из состояния информационных входов) параметры функционирования и сам способ своего поведения, ставя таковой в зависимость от текущего состояния информационных входов и от предыдущего состояния системы (при этом специалист приводит следующую интересную аналогию: пример целенаправленной системы - артиллерийский выстрел; пример целеустремленной системы - самонаводящаяся ракета) [37, с. 16].
Соглашаясь с замечанием относительно способности к самообучению, считаем необходимым оспорить оценку ИИ как инструмента, поскольку подобный подход может существенно изменить метод регулирования общественных отношений, возникающих по поводу его использования.
Для указанной позиции скорее свойственно расценивать искусственный интеллект как предмет правоотношений, что не находит поддержки даже в области гражданско-правовых исследований. Как отмечает В. П. Камышанский, при введении в правоотношение ИИ следует расширять именно круг субъектов (юнит ИИ, электронное лицо) [38, с. 44]. С указанным мнением сложно не согласиться, мы совершенно солидарны с ним в части определения положения ИИ в структуре правоотношения и убеждены, что рассматривать ИИ - осознанно-волевое, автономное кибернетическое образование - недопустимо именно как орудие или предмет.
Мы также солидарны с теми исследователями, которые отмечают необходимость разработок нового понятия субъекта в связи с распространяющимся внедрением ИИ в социальные практики [39, р. 29].
А. А. Щитова под искусственным интеллектом понимает программу, обладающую таким уровнем интеллектуальности, что способна осознать себя и способна к самостоятельному принятию решений [40, с. 98].
Л. С. Болотова интерпретирует его как «некоторую искусственную (компьютерную) систему, способную имитировать интеллект человека, что выражается в воссоздании способности получать, обрабатывать и хранить информацию и знания, а также выполнять над таковыми различные действия, совокупно на-
зываемые мышлением» [41, с. 31]. Хотя указанное определение и близко по контексту с теми, которые нашими рассуждениями оценивались как релевантные, оно не содержит в себе прямого указания на способность к самообучению, хотя косвенно это исходит из описания способностей аккумулирования и накопления информации; в целом же изложенная интерпретация находится в идентичной нашей плоскости размышлений.
Достаточно дискуссионным представляется вопрос о наличии у ИИ волевого элемента деятельности. В литературе зачастую встречаются достаточно категоричные заявления об отсутствии у ИИ волевого элемента, при этом исходя из отсутствия достаточно убедительного обоснования позиции создается впечатление, что авторы рассуждают апостериори [42, с. 40]. По своей сути проблема находится на стыке биологии и философии, и для ее разрешения необходимо определиться, что является источником воли как элемента психического отношения.
Г. А. Есаков определяет волевой элемент применительно к прямоумышленной форме вины как желание наступления определенных общественно опасных последствий [43, с. 37]. Автор определяет волю посредством проявления определенного желания, демонстрирующего отношение субъекта волеизъявления к определенному обстоятельству. Однако он не затрагивает рассуждением причины появления данного отношения. Применительно к человеку заметим, что желания могут быть детерминированы выработкой определенных гормонов, деятельностью желез организма. Наряду с ними присутствуют и иные - образующиеся в результате деятельности, по оценке приемлемости наступления определенного события и его релевантности. Иными словами, лицо на основе обработки и оценки информации формулирует для себя вывод, составлять ли по поводу определенного события такое отношение, которое бы характеризовалось приемлемостью, допустимостью его наступления. При этом подобное отношение формируется исключительно за счет деятельности нейронных связей головного мозга, которые, как нами разъяснялось ранее, дублируются в ИИ.
На основании изложенного полагаем, что позиция, согласно которой волевые процессы присущи только биологическим сущностям, поскольку имеют биологическую природу, не являются состоятельными
и обоснованными. Наряду с процессами биологическими у человека протекают и интеллектуальные, которые также способны сформировать убеждение лица в целесообразности проявления своего волеизъявления. То есть воля - процесс принятия решений, альтернативно основанный на деятельности биологических факторов и интеллекта. Безусловно, указанный процесс применительно к ИИ не может быть вызван гормонами или железами, однако необоснованно исключать обусловленность процесса принятия решений ИИ деятельностью нейронов представляется недопустимым. Искусственный интеллект, обладая нейронными сетями, может аналогично человеку проявлять собственные побуждения, однако основанные исключительно на интеллектуальной деятельности, т. е. обладать волей.
Представляется, что источником происхождения желания является определенная потребность, которую лицо осознает и в силу определенных причин не удовлетворяет. Желания, стремления и побуждения, которые находятся вне осознания, не обладают уголовно-правовой релевантностью [44, с. 150].
Резюмируя предшествующие рассуждения, можно сказать, что желание формулируется осознанием определенной потребности, что по сути своей есть процесс интеллектуальный. Осознание происходит в результате анализа окружающей действительности и достоверного отражения ее сущностных характеристик применительно к области, в интересах которой происходит анализ. С точки зрения вины осознание есть понимание фактических обстоятельств совершаемого, образующих юридически значимые, объективные признаки конкретного состава преступления [45, с. 9].
Основываясь на вышеизложенном, мы можем предположить, что существует множество способов описания ИИ: посредством указания на механизм действия, основных принципов работы, спектра решаемых задач и т. д., и т. п. Однако, на наш взгляд, наиболее убедительна и последовательна позиция тех исследователей, которые склонны к описанию феномена ИИ посредством обозначения его свойств и характеристик. Полагаем, что ими обоснованно признаны: осознанно-волевой характер деятельности, автономность деятельности и принятия решений, способность к самообучению. При этом все указанные признаки в той или иной степени определяют значительные затруднения
прогнозирования поведения ИИ, что представляется особо значимым с точки зрения правовой науки, поскольку позволяет определять ИИ как полноценного субъекта правоотношения [46, с. 148].
В затронутом контексте необходимо отметить, что предсказуемость изначально была одной из конститутивных особенностей конструкции механизмов общепромышленного производства. Машины, конструируемые согласно предусмотренным критериям технического регулирования, способны (и должны) выполнять только те задачи, которые предусмотрены конструкцией, иными словами, механизмы данного рода неспособны изменять свой функционал для приспособления к изменяющимся объективным условиям, что, в частности, характерно для робототехники нового поколения, снабженной технологией ИИ. Указанные положения принципиальны для построения системы правового регулирования искусственного интеллекта. Необходимо исключить тенденциозную интерпретацию ИИ как средства, оборудования, инструментария достижения определенных целей, в своем применении подконтрольного человеку. В дополнение к изложенному при построении правовых концепций следует, на наш взгляд, исходить из того, что по своей природе искусственный интеллект есть
более статичное, нежели человеческий интеллект, образование, он гораздо устойчивее к внешним раздражающим факторам, вследствие чего его восприятие действительности не способно претерпеть вред от внезапно возникшего сильного душевного волнения (аффекта), вследствие приложения источника травмирующей силы он не может быть введен в состояние, требующее ограничения его дееспособности, сообразно чему названные правовые институты, нашедшие успешное применение в регулировании отношений человека, вряд ли могут быть применимы к области использования ИИ.
Выводы
В связи с вышеизложенным предлагаем ввести в научный оборот авторский вариант понятия «искусственный интеллект», под которым следует понимать автономную интеллектуальную систему, обладающую способностями к осознанно-волевому поведению, самообучению и самоконтролю, моделирующую деятельность нейронных сетей и синапсов человеческого мозга посредством аккумулирования, накопления, изучения и использования информации и имеющую материальное выражение в технических устройствах - юнитах ИИ.
111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111
Список литературы
1. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford Univ. Press, 2014. 390 p.
2. Humerick M. Taking AI Personally: How the E.U. Must Learn to Balance the Interests of Personal Data Privacy & Artificial Intelligence // Santa Clara High Technology Law Journal. 2016. Vol. 34, № 4. Pp. 393-418.
3. Criminological Risks and Legal Aspects of Artificial Intelligence Implementation / I. I. Bikeev, P. A. Kabanov, I. R. Begishev, Z. I. Khisamova // In Proceedings of the International Conference on Artificial Intelligence, In-formation Processing and Cloud Computing (AIIPCC'19). Association for Computing Machinery. New York, NY, USA. Article 20. Pp. 1-7. DOI: 10.1145/3371425.3371476
4. On Methods to Legal Regulation of Artificial Intelligence in the World / Z. I. Khisamova, I. R. Begishev, R. R. Gaifutdinov // International Journal of Innovative Technology and Exploring Engineering. 2019. Vol. 9, № 1. Pp. 5159-5162. DOI: 10.35940/ ijitee.A9220.119119
5. Малько А. В. Проект концепции российской правовой политики в сфере искусственного интеллекта как доктринальный документ // Балтийский гуманитарный журнал. 2019. Т. 8, № 4 (29). С. 348-352.
6. Кибальник А. Г., Волосюк П. В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Юридическая наука и практика: Вестник Нижегородской академии МВД России. 2018. № 4 (44). С. 173-178.
7. Бегишев И. Р., Хисамова З. И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12, № 6. С. 767-775. DOI: 10.17150/2500-4255.2018.12(6).767-775
8. Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИ РАН. 2017. Т. 6, № 55. С. 46-62.
9. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Сер.: Юридические науки. 2018. Т. 22, № 1. С. 91-109.
10. Морхат П. М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. 257 с.
........................................................................... ISSN 1993-047Х (Print) / ISSN 2410-0390 (Online) ...........................................................................
11. Ужов Ф. В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. С. 357-360.
12. Гаджиев Г. А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1 (253). С. 15-30. DOI: 10.12737/art_2018_1_2
13. Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79-102. DOI: 10.17323/2072-8166.2019.2.79.102
14. Холодная Е. В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта // Вестник Университета имени О. Е. Кутафина (МГЮА). 2019. № 12 (64). С. 89-96. DOI: 10.17803/23115998.2019.64.12.089-096
15. Сушкова О. В. Особенности реализации искусственного интеллекта как объекта информационной среды в сфере предпринимательской деятельности в зарубежных странах // Вестник Университета имени О. Е. Кутафина (МГЮА). 2019. № 12 (64). С. 121-128. DOI: 10.17803/2311-5998.2019.64.12.121-128
16. Соменков С. А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета имени О. Е. Кутафина (МГЮА). 2019. № 2 (54). С. 75-85. DOI: 10.17803/2311-5998.2019.54.2.075-085
17. Афанасьев А. Ю. Искусственный интеллект или интеллект субъектов выявления, раскрытия и расследования преступлений: что победит? // Библиотека криминалиста. Научный журнал. 2018. № 3 (38). С. 28-34.
18. Бегишев И. Р., Хисамова З. И. Искусственный интеллект и робототехника: теоретико-правовые проблемы разграничения понятийного аппарата // Вестник Удмуртского университета. Серия: Экономика и право. 2020. Т. 30, № 2. C. 130-138.
19. Пройдаков Э. М. Современное состояние искусственного интеллекта // Науковедческие исследования. 2018. № 2018. С. 129-153.
20. Broadhurst R., Brown P., Maxim D., Trivedi H., Wang J. Artificial Intelligence and Crime // Research Paper, Korean Institute of Criminology and Australian National University Cybercrime Observatory, College of Asia and the Pacific, Canberra, June 2019. Pp. 1-70. DOI: 10.2139/ssrn.3407779
21. Джонс М. Т. Программирование искусственного интеллекта в приложениях: пер. с англ. А. И. Осипов. М.: ДМК Пресс, 2011. 312 с.
22. Ingringements on Digital Information: Modern State of the Problem / E. Yu. Latypova, E. V. Nechaeva, E. M. Gilmanov, N. V. Aleksandrova // SHS Web of Conferences. Problems of Enterprise Development: Theory and Practict. 2019. Vol. 62. DOI: 10.1051/shsconf/20196210004
23. Денисов Н. Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом // Международное уголовное право и международная юстиция. 2019. № 4. С. 18-20.
24. Дороганов В. С., Баумгартэн М. И. Возможные проблемы, возникающие при создании искусственного интеллекта // Вестник Кузбасского государственного технического университета. 2013. № 4 (98). С. 132-135.
25. Зенкова Н. А. Моделирование на основе искусственных нейронных сетей как метод исследования в психологической науке // Вестник российских университетов. Математика. 2009. Т. 14, № 3. С. 577-590.
26. Айзенк Г. Ю. Интеллект: новый взгляд // Вопросы психологии. 1995. № 1. С. 111-131.
27. Нейробиологические основы интеллекта / И. С. Депутат, А. В. Грибанов, А. А. Нехорошкова // Экология человека. 2012. № 12. С. 36-45.
28. Шайкеров Н. А. Правовое обеспечение интересов личности. Свердловск: Изд-во Урал. ун-та, 1990. 200 с.
29. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions / N. Ernest , D. Carroll , C. Schumacher et al. // Journal of Defense Management. 2016. Vol. 6, № 1. DOI: 10.4172/2167-0374.1000144
30. Internet of vehicles: From intelligent grid to autonomous cars and vehicular clouds / G. Mario, E.-K. Lee, P. Giovanni et al. // IEEE World Forum on Internet of Things. 2014. Pp. 241-246. DOI: 10.1109/WF-IoT.2014.6803166
31. Algorithms for Smartphone and Tablet Image Analysis for Healthcare Application / P. J. F. White, B. W. Podaima, M. R. Friesen // IEEE Access. 2014. Vol. 2. Pp. 831-840. DOI: 10.1109/ACCESS.2014.2348943
32. Ночевка Ф. IBM представила самый мощный компьютер в мире // Коммерсантъ. 2018. URL: https://www.kommersant. ru/doc/3656183 (дата обращения: 10.01.2020).
33. Кравцов Д. А. Искусственный разум: предупреждение и прогнозирование преступности // Вестник Московского университета МВД России. 2018. № 3. С. 108-110.
34. Хисамова З. И., Бегишев И. Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13, № 4. С. 564-574. DOI: 10.17150/2500-4255.2019.13(4).564-574
35. Хисамова З. И., Бегишев И. Р. Правовое регулирование искусственного интеллекта // Baikal Research Journal. 2019. Т. 10, № 2. DOI: 10.17150/2411-6262.2019.10(2).19
........................................................................... ISSN 1993-047Х (Print) / ISSN 2410-0390 (Online) ...........................................................................
36. Алексеев С. С. Теория права. М.: Бек, 1995. 320 с.
37. Соколова М. Коллизии «права роботов». Дискуссии юристов в связи с разработкой КиберКодекса в России // itWeek. 2017. URL: https://www.itweek.ru/ai/article/detail.php?ID=195514 (дата обращения: 10.01.2020).
38. Анализ терминологических и содержательных аспектов понятий «искусственный интеллект» и «робототехника» в свете необходимости их правового регулирования / К. С. Яковлев, А. В. Боковой, С. Ю. Кашкин // Пятый Всероссийский научно-практический семинар «Беспилотные транспортные средства с элементами искусственного интеллекта». Труды семинара. СПб., 2019. С. 253-262.
39. Holdren John P. Preparing for the Future of Artificial Intelligence. Executive Office of the President National Science and Technology Council Committee on Technology of USA. 2016. 48 p. URL: https://obamawhitehouse.archives.gov/sites/default/ files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf (дата обращения: 10.01.2020).
40. Kurzweil R. The Age of Intelligent Machines. Cambridge: MIT Press, 1990. 580 p.
41. Харари Ю. Н. 21 урок для XXI века. М.: Синдбад, 2019. 416 с.
42. Смолин Д. В. Введение в искусственный интеллект: конспект лекций. М.: Физматлит, 2004. 208 с.
43. Камышанский В. П., Корецкий А. В. Понятие и правовой статус носителей искусственного интеллекта // Власть Закона. 2019. № 1. (37). С. 42-50.
44. Simmler M., Markwalder N. Guilty Robots? - Rethinking the Nature of Culpability and Legal Personhood in an Age of Artificial Intelligence // Criminal Law Forum. 2019. № 30. Pр. 1-31. DOI: 10.1007/s10609-018-9360-0
45. Щитова А. А. О потенциальной правоспобности искусственного интеллекта // Аграрное и земельное право. 2019. № 5 (173). С. 94-98.
46. Болотова Л. С. Системы искусственного интеллекта: модели и технологии, основанные на знаниях. М.: Финансы и статистика, 2012. 664 с.
47. Васильев А. А., Шпоппер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7-8. С. 35-44.
48. Есаков Г. А. Комментарий к Уголовному кодексу Российской Федерации (постатейный). М.: Проспект, 2017. 736 с.
49. Бикеев И. И., Латыпова Э. Ю. Ответственность за преступления, совершенные с двумя формами вины. Казань: Таглимат, 2009. 228 c.
50. Латыпова Э. Ю. Актуальные проблемы ответственности за преступления, совершенные с двумя формами вины // Следователь. 2008. № 7. С. 8-9.
51. Бегишев И. Р., Бикеев И. И. Преступления в сфере обращения цифровой информации. Казань: Изд-во «Познание» Казанского инновационного университета, 2020. 300 с.
Ill ММ Mill Mill Mill ММ Mill Mill ММ Mill Mill ММ Mill Mill Mill ММ IMM
References
1. Bostrom N. Superintelligence: Paths, Dangers, Strategies, Oxford, Oxford Univ. Press, 2014, 390 p.
2. Humerick M. Taking AI Personally: How the E.U. Must Learn to Balance the Interests of Personal Data Privacy & Artificial Intelligence, Santa Clara High Technology Law Journal, 2016, Vol. 34, No. 4, pp. 393-418.
3. Bikeev I. I., Kabanov P. A., Begishev I. R., Khisamova Z. I. Criminological Risks and Legal Aspects of Artificial Intelligence Implementation, In Proceedings ofthe International Conference on Artificial Intelligence, Information Processing and Cloud Computing (AIIPCC'19), Association for Computing Machinery, New York, NY, USA, Article 20, pp. 1-7. DOI: 10.1145/3371425.3371476
4. Khisamova Z. I., Begishev I. R., Gaifutdinov R. R. On Methods to Legal Regulation of Artificial Intelligence in the World, International Journal ofInnovative Technology and Exploring Engineering, 2019, Vol. 9, No. 1, pp. 5159-5162. DOI: 10.35940/ ijitee.A9220.119119
5. Mal'ko A. V. Draft concept of the Russian legal policy in the sphere of artificial intelligence as a doctrinal document, Baltiiskii gumanitarnyi zhurnal, 2019, Vol. 8, No. 4 (29), pp. 348-352 (in Russ.).
6. Kibal'nik A. G., Volosyuk P. V. Artificial intelligence: issues of criminal-legal doctrine, awaiting for answers, Yuridicheskaya nauka ipraktika: VestnikNizhegorodskoi akademiiMVD Rossii, 2018, No. 4 (44), pp. 173-178 (in Russ.).
7. Begishev I. R., Khisamova Z. I. Criminological risks of applying artificial intelligence, Vserossiiskii kriminologicheskii zhurnal, 2018, Vol. 12, No. 6, pp. 767-775 (in Russ.). DOI: 10.17150/2500-4255.2018.12(6).767-775
8. Arkhipov V. V., Naumov V. B. Artificial intelligence and autonomous devices in the context of law: on developing the first Russian law on robotics, Trudy SPIIRAN, 2017, Vol. 6, No. 55, pp. 46-62 (in Russ.).
9. Ponkin I. V., Red'kina A. I. Artificial intelligence from the viewpoint of law, VestnikRUDN, Ser. Yuridicheskie nauki, 2018, Vol. 22, No. 1, pp. 91-109 (in Russ.).
........................................................................... ISSN 1993-047X (Print) / ISSN 2410-0390 (Online) ...........................................................................
10. Morkhat P. M. Artificial intelligence: legal view, Moscow, Buki Vedi, 2017, 257 p. (in Russ.).
11. Uzhov F. V. Artificial intelligence as a subject of law, Probely v rossiiskom zakonodatel'stve, 2017, No. 3, pp. 357-360 (in Russ.).
12. Gadzhiev G. A. Is robot-agent a person? (searching for legal forms to regulate digital economy), Zhurnal rossiiskogo prava,
2018, No. 1 (253), pp. 15-30 (in Russ.). DOI: 10.12737/art_2018_1_2
13. Laptev V. A. The notion of artificial intelligence and legal liability for its performance, Pravo. Zhurnal Vysshei shkoly ekonomiki, 2019, No. 2, pp. 79-102 (in Russ.). DOI: 10.17323/2072-8166.2019.2.79.102
14. Kholodnaya E. V. On prospective directions of legal regulation in the sphere of artificial intelligence, Vestnik Universiteta imeni O. E. Kutafina (MGYuA), 2019, No. 12 (64), pp. 89-96 (in Russ.). DOI: 10.17803/2311-5998.2019.64.12.089-096
15. Sushkova O. V. Features of implementing an artificial intelligence as an object of informational environment in the sphere of business activity in foreign countries, Vestnik Universiteta imeni O. E. Kutafina (MGYuA), 2019, No. 12 (64), pp. 121-128 (in Russ.). DOI: 10.17803/2311-5998.2019.64.12.121-128
16. Somenkov S. A. Artificial intelligence: from an object to a subject?, Vestnik Universiteta imeni O. E. Kutafina (MGYuA),
2019, № 2 (54), pp. 75-85 (in Russ.). DOI: 10.17803/2311-5998.2019.54.2.075-085
17. Afanas'ev A. Yu. Artificial intelligence or intelligence of the subjects of identifying, revealing and investigating crimes: what will win?, Biblioteka kriminalista. Nauchnyi zhurnal, 2018, No. 3 (38), pp. 28-34 (in Russ.).
18. Begishev I. R., Khisamova Z. I. Artificial intelligence and robotics: theoretical-legal issues of demarcating the notional apparatus, Vestnik Udmurtskogo Universiteta. Ser. Ekonomika i pravo, 2020, Vol. 30, No. 2 (in Russ.).
19. Proidakov E. M. Contemporary state of artificial intelligence, Naukovedcheskie issledovaniya, 2018, No. 2018, pp. 129-153 (in Russ.).
20. Broadhurst R., Brown P., Maxim D., Trivedi H., Wang J. Artificial Intelligence and Crime, Research Paper, Korean Institute of Criminology and Australian National University Cybercrime Observatory, College of Asia and the Pacific, Canberra, June 2019, pp. 1-70. DOI: 10.2139/ssrn.3407779
21 Jones M. T. Programming artificial intelligence in applications, Moscow, DMK Press, 2011, 312 p. (in Russ.).
22. Latypova E. Yu., Nechaeva E. V., Gilmanov E. M., Aleksandrova N. V. Infringements on Digital Information: Modern State of the Problem, SHS Web of Conferences. Problems of Enterprise Development: Theory and Practice, 2019, Vol. 62. DOI: 10.1051/shsconf/20196210004
23. Denisov N. L. Conceptual bases of developing an international standard when imposing criminal liability for actions related to artificial intelligence,Mezhdunarodnoe ugolovnoepravo i mezhdunarodnayayustitsiya, 2019, No. 4, pp. 18-20 (in Russ.).
24. Doroganov V. S., Baumgarten M. I. Possible problems arising during artificial intelligence development, Vestnik Kuzbasskogo gosudarstvennogo tekhnicheskogo universiteta, 2013, No. 4 (98), pp. 132-135 (in Russ.).
25. Zenkova N. A. Modeling based on artificial neural networks as a research method in psychological science, Vestnik rossiiskikh universitetov. Matematika, 2009, Vol. 14, No. 3, pp. 577-590 (in Russ.).
26. Aizenk G. Yu. Intellect: new view, Voprosy psikhologii, 1995, No. 1, pp. 111-131 (in Russ.).
27. Deputat I. S., Gribanov A. V., Nekhoroshkova A. A. Neurobiological bases of intellect, Ekologiya cheloveka, 2012, No. 12, pp. 36-45 (in Russ.).
28. Shaikerov N. A. Legal provision ofpersonality interests, Sverdlovsk, Izd-vo Ural. Un-ta, 1990, 200 p. (in Russ.).
29. Ernest N., Carroll D., Schumacher C., Clark M., Cohen K, Lee G. Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions, Journal of Defense Management, 2016, Vol. 6, No. 1. DOI: 10.4172/2167-0374.1000144
30. Mario G., Lee E-K, Giovanni P., Lee U. Internet of vehicles: From intelligent grid to autonomous cars and vehicular clouds, IEEE World Forum on Internet of Things, 2014, pp. 241-246. DOI: 10.1109/WF-IoT.2014.6803166
31. White P. J. F., Podaima B. W.; Friesen M. R. Algorithms for Smartphone and Tablet Image Analysis for Healthcare Applications, IEEE Access, 2014, Vol. 2, pp. 831-840. DOI: 10.1109/ACCESS.2014.2348943
32. Nochevka F. IBM presented the world's most powerful computer, Kommersant", 2018, available at: https://www.kommersant. ru/doc/3656183 (access date: 10.01.2020) (in Russ.).
33. Kravtsov D. A. Artificial intelligence: preventing and predicting crimes, VestnikMoskovskogo universitetaMVD Rossii, 2018, No. 3, pp. 108-110 (in Russ.).
34. Khisamova Z. I., Begishev I. R. Criminal liability and artificial intelligence: theoretical and applied aspects, Vserossiiskii kriminologicheskii zhurnal, 2019, Vol. 13, No. 4, pp. 564-574 (in Russ.). DOI: 10.17150/2500-4255.2019.13(4).564-574
35. Khisamova Z. I., Begishev I. R. Legal regulation of artificial intelligence, Baikal Research Journal, 2019, Vol. 10, No. 2 (in Russ.). DOI: 10.17150/2411-6262.2019.10(2).19
36. Alekseev S. S. Theory of law, Moscow, Izd-vo "Bek", 1995, 320 p. (in Russ.).
шаг
ISSN 1993-047Х (Print) / ISSN 2410-0390 (Online)
37. Sokolova M. Collisions of the "robots' law". Lawyers' discussions regarding CyberCode elaboration in Russia, itWeek, 2017, available at: https://www.itweek.ru/ai/article/detail.php?ID=195514 (access date: 10.01.2020) (in Russ.).
38. Yakovlev K. S., Bokovoi A. V., Kashkin S. Yu. Analysis of terminological and conceptual aspects of the notions "artificial intelligence" and "robotics" in the light of the need for their legal regulation, Pyatyi Vserossiiskii nauchno prakticheskii seminar "Bespilotnye transportnye sredstva s elementami iskusstvennogo intellekta", Trudy seminara, Saint Petersburg, 2019, pp. 253-262 (in Russ.).
39. Holdren John P. Preparing for the Future of Artificial Intelligence, Executive Office of the President National Science and Technology Council Committee on Technology of USA, 2016, 48 p. available at: https://obamawhitehouse.archives.gov/sites/ default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf (access date: 10.01.2020).
40. Kurzweil R. The Age of Intelligent Machines, Cambridge, MIT Press, 1990. 580 p.
41. Kharari Yu. N. 21 lessons for the 21st century, Moscow, Izd-vo "Sindbad", 2019, 416 p. (in Russ.).
42. Smolin D. V. Introduction to the artificial intelligence: Lecture notes, Moscow, Fizmatlit, 2004, 208 p. (in Russ.).
43. Kamyshanskii V. P., Koretskii A. V. Notion and legal status of artificial intelligence carriers, Vlast'Zakona, 2019, No. 1 (37), pp. 42-50 (in Russ.).
44. Simmler M., Markwalder N. Guilty Robots? - Rethinking the Nature of Culpability and Legal Personhood in an Age of Artificial Intelligence, Criminal Law Forum, 2019, No. 30, pp. 1-31. DOI: 10.1007/s10609-018-9360-0
45. Shchitova A. A. On the potential legal capacity of artificial intelligence, Agrarnoe i zemel'noe pravo, 2019, No. 5 (173), pp. 94-98 (in Russ.).
46. Bolotova L. S. Systems of artificial intelligence: knowledge based models and techniques, Moscow, Finansy i statistika, 2012, 664 p. (in Russ.).
47. Vasil'ev A. A., Shpopper D., Mataeva M. Kh. "Artificial intelligence" term in the Russian law: doctrinal analysis, Yurislingvistika, 2018, No. 7-8, pp. 35-44 (in Russ.).
48. Esakov G. A. Comment to the Criminal Code of the Russian Federation (by article), Moscow, Prospekt, 2017, 736 p. (in Russ.).
49. Bikeev I. I., Latypova E. Yu. Liability for crimes committed with two forms of guilt, Kazan, Taglimat, 2009, 228 p. (in Russ.).
50. Latypova E. Yu. Topical issues of liability for crimes committed with two forms of guilt, Sledovatel', 2008, No. 7, pp. 8-9 (in Russ.).
51. Begishev I. R., Bikeev I. I. Crimes in the sphere of digital information circulation, Kazan, Izd-vo "Poznanie" Kazanskogo innovatsionnogo universiteta, 2020, 300 p. (in Russ.).
Дата поступления /Received 20.01.2020 Дата принятия в печать /Accepted 22.02.2020 Дата онлайн-размещения /Available online 25.03.2020
© Бегишев И. Р., Латыпова Э. Ю., Кирпичников Д. В., 2020 © Begishev I. R., Latypova E. Yu., Kirpichnikov D. V., 2020
