CC BY
9
Научная статья УДК 343.97
DOI: 10.37973/^ТМККШ-2024-57-6
КОНЦЕПЦИЯ РИСК-ОРИЕНТИРОВАННОГО под: В УСЛОВИЯХ РАЗВИТИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Данил Вячеславович Будко, Академия управления МВД России, Москва, Россия, [email protected]
Аннотация
Введение: в статье представлены результаты исследования криминологических рисков, исходящих от технологий искусственного интеллекта, а также факторы риска, обусловливающие их развитие.
Материалы и методы: материалами исследования послужили российское законодательство в области применения риск-ориентированного подхода и развития технологий искусственного интеллекта; социологические теории, обосновывающие концепт «риск»; уголовно-правовые и криминологические исследования. В процессе изучения использовались всеобщий диалектический метод познания, общенаучные методы познания: анализ и синтез, дедукция и индукция, обобщение, а также частнонаучные методы познания: формально-юридический и социологический.
Обзор литературы: проанализированы труды отечественных ученых в области уголовной политики; рассмотрены социологические теории, а также изучены результаты зарубежного практического опыта.
Результаты исследования: автор приходит к выводу о необходимости развития и применении риск-ориентированного похода в криминологических исследованиях; дает расширительное толкование понятия «криминологический риск»; выделяет особенности криминологических рисков, исходящих от технологий искусственного интеллекта; определяет факторы риска, характеризующие технологии искусственного интеллекта.
Обсуждение и заключение: технологии искусственного интеллекта в настоящее время выступают основным источником рисков, исходящих от технического прогресса. Применение риск-ориентированного подхода в криминологических исследованиях позволит снизить криминологические риски, детерминированные данными технологиями.
Ключевые слова: научно-техническая революция; технологии искусственного интеллекта; криминальная рискология; криминологический риск; факторы риска
© Будко Д.В., 2024
Для цитирования: Будко Д.В. Концепция риск-ориентированного подхода в условиях развития технологий искусственного интеллекта // Вестник Казанского юридического института МВД России. 2024. Т. 15. № 3 (57). С. 49 - 58. DOI: 10.37973/^Т№ККШ-2024-57-6
Scientific article
UDC 343.97
DOI: 10.37973/VESTNIKKUI-2024-57-6
THE CONCEPT OF A RISK-BASED APPROACH TO THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES
Danil Vyacheslavovich Budko, Academy of Management of the Ministry of Internal Affairs of Russia, Moscow, Russia,
Abstract
Introduction: this article presents the findings of a study examining the criminological risks associated with artificial intelligence (AI) technologies and the risk factors that contribute to their development.
Materials and Methods: the research materials included the following: The legislation of the Russian Federation on the risk-based approach to the development of artificial intelligence; sociological theories that support the concept of risk; criminal law and criminological studies. The research employed established methods, including the universal dialectical method, general scientific methods (analysis, synthesis, deduction, induction, and generalization), and specific scientific methods (formal legal and sociological).
Literature review: a review of the literature was conducted, encompassing the works of Russian scientists in the field of criminal policy, the consideration of sociological theories, and the examination of the outcomes of practical experience derived from foreign research.
Results: the study's findings indicate that a risk-based approach to criminological research is a necessary development, based on an analysis of sociological theories and law enforcement practices. The author provides a detailed elaboration of the concept of "criminological risk" and underscores the distinctive characteristics of risks associated with artificial intelligence technologies, as well as identifies the risk factors that characterise these technologies.
Discussion and Conclusions: the modern society is confronted with an array of risks that have emerged alongside technological advancement. The advent of artificial intelligence (AI) technologies has given rise to significant concerns. A risk-based approach to criminological research may prove an effective means of mitigating the risks associated with these technologies.
Keywords: scientific and technical revolution; artificial intelligence technologies; criminological risk; criminal riskology; risk factors
© Budko D.V., 2024
For citation: Budko D.V. The concept of a risk-based approach to the development of artificial intelligence technologies. Bulletin of the Kazan Law Institute of MIA of Russia. 2024;15(3):49-58. (In Russ.). DOI: 10.37973/VESTNIKKUI-2024-57-6
Введение
Современный мир невозможно представить без цифровых технологий, являющихся результатом прошедших научно-технических революций (далее-НТР); они тесно связаны с обеспечением повседневной жизнедеятельности человека. Их интеграция практически во все сферы общества детерминирована многофункциональными техническими возможностями, предоставляемыми для решения множества задач. Основа научно-технической революций выражена развитием производственного потенциала в виде автоматизации и повышении производительности человеческого труда посредством создания новых технических изобретений. Разработка передовых достижений техники, представленная научным сообществом,
и введение их в эксплуатацию двигают социум на новую ступень прогресса.
При этом не следует забывать, что НТР несут также и негативные тенденции, выражающиеся в возникающих рисках и угрозах для общества. Так, например, открытия в области физики, химии и биологии поставили общество в следующие условия существования: нарушение равновесия в экологической системе, ядерная напряженность, постоянная угроза техногенных катастроф и т.д. Прикладные цифровые технологии ограничивают право человека на неприкосновенность частной жизни. Также на их базе были созданы новые методы киберпреступности, такие как социальная инженерия и фишинг.
Бабаев М.М. обращает внимание на отрицательные последствия, произошедшие в ходе НТР: «В ходе хорошо известных огромных цивилиза-ционных процессов в глобальном обществе произошли изменения, принесшие бесконечное число самых разнообразных новых, ранее не известных миру опасностей и угроз. Экономические, технические, технологические, информационные, демографические, экологические и иные новации - все они, как известно, обладали и обладают одновременно как созидательным, так и разрушительным потенциалом» [1, с. 105].
Обзор литературы
В целях раскрытия сущностных характеристик концепта «риск» в современном обществе были изучены труды Э. Гидденса, У. Бэка, О.Н. Яницкого. Вопрос толкования понятия «риск» представлен в Малом академическом словаре, Социологическом словаре, в Толковых словарях С.И. Ожегова и Д.Н. Ушакова. Большой вклад в развитие риск-ориентированного подхода в криминологических исследованиях внес М.М. Бабаев. Уголовно-правовая сфера им-плементации концепции «риска» представлена исследованиями И.Р. Бегишева, Ю.Е. Пудовочки-на, В.Н. Воронина, З.И. Хисамовой и др. ученых. Криминологические риски, исходящие от технологий искусственного интеллекта, представлены в работах В.С. Овчинского, Н.В. Ткачевой, М.А. Иващенко и др.
Материалы и методы
Материалами исследования выступили нормативные правовые акты, составляющие основу стратегического развития технологий искусственного интеллекта и применения риск-ориентированного подхода, а также научные исследования уголовно-правового и криминологического характера; на основе анализа социологических теорий был сделан вывод об актуальности использования концепта «риск» в гуманитарных исследованиях. Использованы общенаучные (диалектика, обобщение, анализ, синтез, индукция и дедукция) и частнонаучные (формально-юридический, социологический, юридический анализ нормативных документов и контент-анализ) методы научного познания.
Результаты исследования
«Концепция риска» - новая парадигма изучения и управления общественными отношениями. Её актуальность детерминирована существованием множества потенциальных угроз, обусловленных процессом модернизации. Данные положения подтверждаются большим интересом со стороны научного сообщества к применению
методологических основ риск-ориентированного подхода в различных областях исследования.
На данный момент в современной науке сформировался традиционный (или технический) подход, в основе которого лежит представление о риске как «физически присущем опасным технологиям атрибуте, который может объясняться, предсказываться и контролироваться наукой, независимо от субъективных ценностей» [2, с. 381].
В социологической теории делается заключение, что динамика развития феномена «риска» пропорциональна эволюционному процессу, то есть с переходом социума на новую ступень прогресса происходят качественные преобразования в концепции риска. Прямым тому обоснованием послужили исследования выдающихся социологов Э. Гидденса, У. Бэка, О.Н. Яницкого и др.
Небезобоснованно высказывается концепция под названием «Общество риска», предложенная У. Бэком [3, с. 7-12]. Характерные черты данного общества: интенсификация; глобализация; отсутствие границ в пространстве и времени в развитии рисков. Он подчеркивает практическую беззащитность человечества перед техногенными угрозами, создаваемыми «вторичной природой», детищем индустриального общества; трактует переход к эпохе риска как объективную историческую закономерность, как результат действия механизмов модернизации [4]. Согласно его концепции риски так же неизбежны, как и процесс модернизации, их момент возникновения обусловлен созданием технических разработок, находящихся в основе процесса научно-технического развития.
Своим исследованием Э. Гидденс внес значительный вклад в развитие концепции «Общество риска» и ввёл концепт «конец природы», в котором отметил, что не остаётся даже малейшей части окружающей среды, не испытавшей на себе человеческого воздействия. В современных условиях развития он выделил антропогенные риски, созданные руками человека. По его мнению, именно технологические достижения наряду с несомненно положительными результатами, порождают новые опасности [5].
Российский социолог О.Н. Яницкий развил взгляды У. Бэка и выдвинул понятие «общество всеобщего риска». Становление и развитие риска он также связывает с процессом модернизации, что делает возникновение рисков неизбежным явлением, вследствие чего необходимо стремиться к минимизации неприемлемых рисков1. Так, он указывает на возможность выявления рисков, не-
1 Яницкий О.Н. Рискология как наука. URL: http://moyuniver.net/1990-e-ggriskologiya-kak-nauka-yanickij-o-n/ (дата обра-
51
сущих большой вред, и предотвращения последствий, исходящих от них.
Как представляется, повышенная опасность современных рисков процесса модернизации в постиндустриальном обществе представлена в следующих взаимосвязанных между собой причинах: материальная выгода ставится выше общественных интересов; появление в бытовом употреблении сложных технических продуктов без их должной процедуры апробации; острая конкурентная борьба между коммерческими корпорациями за лидирующее место на рынке.
Учитывая представленную социологическую теорию и существующие условия, обусловленные постиндустриальным обществом, мы приходим к выводу, что сквозные цифровые технологии, являющиеся двигателем последующей НТР, несут в себе множество потенциальных угроз для общества.
Перспективной метатехнологией современного постиндустриального общества выступает такая технология, как искусственный интеллект (далее-ИИ). Подтверждение данного положения отражено в указе Президента Российской Федерации от 18.06.2024 № 529 «Об утверждении приоритетных направлений научно-технологического развития и перечня важнейших наукоемких тех-нологий»1.
Многие ученые, философы, технические разработчики выделяют особое место технологиям ИИ ввиду их технических возможностей, позволяющих эффективно просчитывать решения в организационно-управленческих процессах, оказывать помощь в обработке BigData, осуществлять генерацию оригинальных решений и различное множество других генеративных цифровых операций. По мнению И.Р. Бегишева, «расширение горизонтов использования ИИ развязывает новую промышленную революцию» [6, с. 106]. Таким образом, именно технологии ИИ в дальнейшем своём развитии представляют потенциальную угрозу для человека.
Практическая реализация данной технологии стала доступна для большинства граждан совсем недавно, на рубеже 20-х гг. XXI в., что вызвало к ней большой интерес. Также и органы государственной власти признают её большую перспективность, необходимость в её развитии отражена
в нормативных правовых актах стратегического значения.
Ввиду того что технология ИИ только недавно получила импульс к широкому распространению, деятельность по её внедрению в цифровые продукты лишь начинает обороты. Согласно классической дилемме Коллингриджа, разработанной им в 1980 г., на технологии, которые только начинают свое развитие и становление в обществе, еще можно повлиять, чтобы уменьшить негативные риски их использования [7, с. 292]. Эта мысль призывает к ответственному инновационному процессу новых технических достижений человека. Однако стоит учесть, что внедрение технологий ИИ происходит быстрыми темпами. В случае отставаний решений, направленных на выявление и предупреждение возникающих рисков от процесса интеграции, согласно дилемме Коллингриджа, будет трудно повлиять на негативные тенденции, исходящие от технологий.
Таким образом, создание комплексной предупредительной системы по минимизации рисков, исходящих от технологий ИИ, должно лежать в основе их развития и имплементации в общественные отношения.
В частности, Президентом Российской Федерации В.В. Путиным также было отмечено, что необходимо определить границы развития ИИ; разработать соответствующие этические, социальные и нравственные нормы при его использовании; обеспечить безопасность и разумность при его дальнейшем развитии; свести к минимуму угрозы для граждан.
Основными нормативными правовыми актами, обосновывающими запрос со стороны государства на необходимость определения основных условий, обеспечивающих должную степень защиты прав и свобод человека и гражданина от потенциальных угроз, поступающих в связи с внедрением технологий ИИ, являются Указ Президента Российской Федерации от 10.10.2019. № 490 «О развитии искусственного интеллекта в Российской Федерации» (далее-Национальная стратегия)2 и распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р (да-лее-Концепция развития)3. В частности, в Концепции развития указывается на потребность
щения 08.06.2024).
1 Об утверждении приоритетных направлений научно-технологического развития и перечня важнейших наукоемких технологий: утверждены указом Президента Российской Федерации от 18.06.2024 № 529. СПС «Консультант Плюс» (дата обращения: 19.06.2024).
2 Национальная стратегия развития искусственного интеллекта на период до 2030 года: утверждена указом Президента Российской Федерации от 10.10.2019 № 490. СПС «Консультант Плюс» (дата обращения: 05.06.2024).
3 Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года: утверждена распоряжением Правительства Российской Федерации от 19.08.2020 № 2129-р. СПС «Консультант Плюс» (дата обращения: 05.06.2024).
применения риск-ориентированного подхода для выработки конкретных регуляторных решений.
Использование риск-ориентированного подхода сложно переоценить в условиях постиндустриального общества, наполненного различного рода рисков и угроз. Широкий спектр его применения обусловливается особой значимостью в выработке организационно-распорядительных решений.
Например, отечественная правовая доктрина представляет в правоприменительной деятельности образец практической реализации данного подхода в области контроля (надзора) за хозяйственно-экономической и предпринимательской деятельностью1. Также концепция «Риска» интегрирована в государственную деятельность Счётной палаты Российской Федерации2.
Актуальность эффективного применения риск-ориентированного подхода также исследуется в рамках уголовно-правовых наук.
В своём обширном исследовании Ю.Е. Пу-довочкин выделяет следующие ключевые преимущества применения концепта «риск» в методологии исследования уголовно-правовых наук: во-первых, рискологический анализ позволит объединить феномен «опасность» с категориальным аппаратом, устоявшимся в предметной плоскости уголовно-правовых дисциплин; во-вторых, обеспечит предупредительное воздействие в рамках ранней и сверхранней стратегии предупреждения преступности; в-третьих, установит необходимый баланс применения мер уголовно-правового воздействия в соответствии с обстоятельствами и тяжестью совершенного преступления; в-четвертых, предоставит возможность исследовать аспекты, ранее не попадавшие в научный круг воззрения [8, с. 61].
Как отмечает в своей работе В.Н. Воронин, «цифровое общество требует от законотворчества соответственно прогрессивных форм его регулирования. Традиционными методами уголовно-правового воздействия добиться необходимого результата не получится. Поскольку уголовное право должно способствовать цифровому прогрессу и формированию цифрового общества, не создавая при этом излишних препятствий, действующий подход, связанный с оценкой общественной опасности какого-либо поведения и его криминализацией, не будет эффективным». Предлагается введение в механизм правового регулирования нового термина «уголовно-правовой риск» и оценка на основе новой разработанной
концепции рисков всех цифровых технологий посредством установления их потенциальной опасности для общества [9, с. 76].
В гуманитарной среде были приложены усилия для выявления общей концепции риска, но в итоге был сделан вывод, что каждой научной сфере необходимо изучать ту предметную область риск-ориентированного подхода, в которой проводятся основные исследования. Каждая научная дисциплина, проявляющая интерес к феномену риска, определяет свой специфический предмет изучения [10, с.32].
В свою очередь, принятие и развитие риск-ориентированного подхода в такой науке, как криминология, позволило бы более качественно и эффективно выполнять задачи по предотвращению преступности. По утверждению М.М. Бабаева и Е.Ю. Пудовочкина, «криминальная рискология -частная теория криминологии, требующая своего развития, наряду со сверхранней профилактикой преступности» [11, с. 141].
Одним из основоположников современного развития и введения в общую систему знаний криминологии теоретико-методологических положений риск-ориентированного подхода является известный российский криминолог М.М. Бабаев. Его труды необходимо брать за основу дальнейшего становления феномена «риск» в криминологических исследованиях. Проводимые им исследования в данной области выделяют основные категории, раскрывающие концепцию «риска» в предмете криминологии, а также выделяют круг научных проблем, требующих решения от научного сообщества.
Криминальная рискология - эволюционно новое направление общей теории криминологии, завладевшее вниманием исследователей уголовно-правовой специальности. В силу быстрого социального развития, стремительного технического прогресса современная картина мира представляет множество неразрешенных правовых споров и разногласий. Основным положением, доказывающим преимущество риск-ориентированного подхода среди других разделов криминологии, по мнению М.М. Бабаева, И.Р. Бегишева, З.И. Хисамовой, Ю.Е. Пудовочкина и др., является утверждение того, что еще на ранней стадии появляется возможность выявить тенденцию развития процесса криминализации, что позволит принимать соответствующие криминологические меры, не дожидаясь наступления негативных
1 О защите прав юридических лиц и индивидуальных предпринимателей при осуществлении государственного контроля (надзора) и муниципального контроля: Федеральный закон от 26.12.2008 № 294-ФЗ (в ред. Федерального закона от 24.07.2023 № 366-ФЗ). СПС «КонсультантПлюс» (дата обращения: 05.06.2024).
2 Концепция риск-ориентированного подхода в Счетной палате Российской Федерации (утв. Коллегией Счетной палаты Российской Федерации, протокол от 22.06.2021 № 44К (1487). СПС «КонсультантПлюс» (дата обращения: 05.06.2024).
последствий по формированию состояния общественной опасности.
На данный момент существует множество различных исследований, раскрывающих положения криминальной рискологии. Выделены основные направления её дальнейшего развития в превентивной деятельности, но всё же недостаточно полно раскрыты её теоретические и методологические основы, которые позволили бы ей сформироваться как частной научной теории криминологии. Отсутствие серьезного блока криминологических исследований, посвященных исследованию понятия риска, создает значительные препятствия для повышения эффективности уголовно-правового регулирования [12, с. 188].
Криминологический риск - центральная дефиниция, находящаяся в основе предметной области знаний криминальной рискологии. Её содержание М.М. Бабаев раскрывает следующим образом: «возможная криминогенная опасность, которая характеризуется, как реальная, но еще не реализованная потенциальная угроза».
Согласно Малому академическому словарю под «риском» понимается «возможная опасность чего-либо»1. Социологический словарь раскрывает слово «риск» как «возможная опасность», либо «ситуативная характеристика деятельности, состоящая в неопределенности ее исхода и возможных неблагоприятных последствий в случае неу-спеха»2. В Толковом словаре Ожегова3 и Толковом словаре Ушакова4: «риск-возможная опасность».
Так, феномен «опасность» довольно часто фигурирует при раскрытии сущностных характеристик понятия «риск». В рамках уголовной политики Н. Ф. Кузнецова характеризовала опасность, как «определенное состояние объекта в результате общественно вредных изменений в нем, произведенных преступным действием субъекта» [13, с. 43].
С целью выделения основных аспектов, характеризующих понятие «криминологический риск», нами было дано его расширительное толкование.
Криминологический риск - возможная криминогенная опасность, потенциальная угроза наступления общественно вредных изменений, которые при своём дальнейшем бесконтрольном развитии могут привести к криминальным последствиям и сформировать условия для реализации преступной деятельности.
В данном определении выделяются следующие аспекты: 1) криминологический риск ведёт
к изменениям социально отрицательного характера, создающего криминогенную ситуацию; 2) криминологические риски можно и необходимо контролировать и минимизировать; только в случае полной бесконтрольной ситуации они приведут к криминальным последствиям; 3) криминологические риски при их реализации переходят в состояние общественной опасности и формируют процесс криминализации; 4) криминологические риски создают условия для совершения преступной деятельности.
Учитывая характерные особенности понятия криминологический риск, необходимо выстраивать комплексный правовой механизм регулирования общественных отношений, в частности, складывающихся в сфере противодействия использования современных информационных систем на основе ИИ в преступных целях.
Наличие криминологических рисков в условиях быстрого развития технологии ИИ представлено в следующих исследованиях.
Характеризирует определение «криминологический риск» Н.В. Ткачева, рассматривая его в рамках развития ИИ: «Это своего рода неблагоприятные последствия, которые могут наступить при применении искусственного интеллекта». В свою очередь, криминологические риски она отождествляет с последствиями морального, этического и правового характера [14, с. 58].
Высокие криминологические риски применения ИИ выделяют И.Р. Бегишев и З.И. Хиса-мова, представляют их классификацию: прямой криминологический риск - непосредственное воздействие на человека в результате опасности, вызванной применением ИИ; косвенный криминологический риск - непреднамеренные опасности, исходящие от ИИ [15, с. 773].
Иващенко М.А. выделяет новую форму организованной преступности: совершение преступлений с использованием искусственного интеллекта. Также в ходе исследования автор приходит к выводу, что деятельность определенных лиц, создавших искусственный интеллект, и, как итог, действия искусственного интеллекта могут быть общественно опасными и причинять вред охраняемым законом общественным отношениям. В результате, любой искусственный интеллект может совершить общественно опасное деяние в той сфере, в которой он действует [16].
Объектом преступного посягательства может выступать и сама система ИИ, например, вслед-
1 Малый академический словарь. URL: https://gufo.me/dict/mas/p^K (дата обращения: 01.06.2024).
2 Социологический словарь. URL: https://gufo.me/dict/social/P^K (дата обращения: 01.06.2024).
3 Толковый словарь С.И. Ожегова. URL: https://gufo.me/dict/ozhegov/риск (дата обращения: 01.06.2024).
4 Толковый словарь Д.Н. Ушакова URL: https://gufo.me/dict/ushakov/риск (дата обращения: 01.06.2024).
ствие перехвата кода управления беспилотного транспортного средства, что повлечет за собой создание прямой угрозы причинения вреда жизни и здоровью человека.
Большую потенциальную угрозу для достижения преступных целей представляет технология DeepFake. Это методика синтеза изображения и (или) голоса, основанная на искусственном интеллекте. Она использует генеративно-состязательные нейросети (GAN) для соединения и наложения существующих изображений или видео на исходные материалы.
Проведенное группой иностранных ученых исследование на предмет определения возможности выявления и распознавания речевых и аудио-подделок, созданных с помощью технологий DeepFake, привело к следующим результатам: даже в контролируемой среде, где участники были заранее ознакомлены с подложными примерами, - низкий уровень распознаваемости фей-ковых материалов, а с усложнением процесса и архитектуры технологии DeepFake успех на выявления подделки сводится практически к нулю1. Данные обстоятельства позволяют констатировать существование серьезных криминологических рисков для общества при дальнейшем развитии этой технологии.
Необходимо отметить, что возможности данной технологии уже были использованы в преступной деятельности. В частности, первая практическая преступная реализация технологий ИИ представлена применением именно технологи DeepFake. Мошенники применили метод синтеза и генерации голоса директора банковской компании, создав убедительную звуковую модель копии голоса. Представившись директором данной компании, мошенники дали поручения перевести определенную сумму денег на банковский счет в течение часа, что не вызвало подозрений у сотрудников, так как голос был идентичен оригиналу его носителя.
На данный момент в Китае уже введена уголовная ответственность за генерацию поддельных цифровых изображений, а в Российской Федерации этот вопрос рассматривается на законодательном уровне.
Также одной из особенностей криминологических рисков, исходящих от технологий ИИ, является наличие открытого программного кода для создания собственной искусственной нейросети, что дает возможность обучить и использовать её в преступных целях. Данное положение находит своё отражение в исследовании
В.С. Овчинского: «У киберкриминала есть из чего выбрать для создания собственных мощных платформ ИИ. Практически все разработки ИИ с открытым исходным кодом представляют собой контейнеры. Контейнер - это платформа, на которой при помощи API могут монтироваться любые сторонние программы, сервисы, базы данных и т. п. Если раньше каждый при создании собственной программы или сервиса должен был от начала до конца первоначально разработать алгоритмы, а затем, пользуясь тем или иным языком программирования, перевести их в код, то сегодня возможно создавать продукты и сервисы так же, как строители строят дом - из стандартных, доставленных на стройплощадку деталей» [17, с. 150].
Данные примеры, отражающие негативные прогнозы дальнейшего развития технологий ИИ, детерминированы факторами риска, обуславливающими собой возникновение криминологических рисков.
Такими факторами риска, характеризующими технологии ИИ, будут являться:
- открытость (ИИ является публичной технологией, отсутствует какое-либо ограничение в её использовании);
- общедоступность (любой желающий пользователь сети «Интернет» имеет возможность использовать широкий функционал ИИ, например, посредством использования искусственной ней-росети);
- открытый код для создания собственной искусственной нейросети;
- простота в использовании (форма реализации ИИ может быть представлена в виде чат-бота, что на интуитивном уровне представляется понятным в его использовании; не требует от пользователя специальных технических знаний);
- имитация человеческого проявления (технологии DeepFake);
- невозможность введение в цифровой код ИИ этических правил (ИИ не воспринимает морально-ценностных правил; для него есть только процесс цифровизации, расчет которого представлен посредствам математических методов);
- возможность обхода цензуры и барьеров недопущения неприемлемых запросов;
- гибкая коммуникативная система (ИИ распознает естественный язык, образы человека и обрабатывает их на высоком уровне, выявляет контекстуальные смыслы речи);
- неясность процесса принятия решений (проблема «черного ящика»);
1 Mai KT, Bray S, Davies T, Griffin LD (2023) Warning: Humans cannot reliably detect speech deepfakes. PLoS ONE 18(8): e0285333. URL: https://doi.org/10.1371/journal.pone.0285333 (дата обращения: 15.06.2024).
- автономность в принятии решений (возникает острый вопрос ответственности за генерацию цифрового продукта).
Обсуждение и заключение НТР, помимо общественного прогресса, несут потенциальные угрозы, обусловленные бы-строразвивающимися цифровыми технологиями. Риск-ориентированный подход, в свою очередь, подвергает критическому анализу достижения НТР на предмет выявления рисков, возникающих в связи с их развитием и интеграцией в общественные отношения.
Современная действительность технического прогресса представлена широким развитием тех-
нологий ИИ, заключающих существенные криминологические риски их использования в социально-негативных, а именно преступных целях. Изучение технических характеристик, представляющих возможности функционирования ИИ, форму его реализации в цифровом пространстве, исследований уголовно-правового характера в области выделения криминологических рисков его проявления, а также существующую криминальную практику его негативного использования позволило выделить факторы риска, представляющие детерминационный комплекс, обусловливающий наличие криминологических рисков дальнейшего развития технологий ИИ.
СПИСОК ИСТОЧНИКОВ
1. Бабаев М. М. Риски как компонент детерминационного комплекса преступности // Юридическая наука и практика: Вестник Нижегородской академии МВД России. 2018. № 1(41). С. 104-110. - DOI 10.24411/2078-5356-2018-00014. - EDN UOGTLY.
2. Bradbury J.A. The Policy Implications of Differing Concepts of Risk. // Science, Technology and Human Values. 1989. Vol. 14. No. 4. P. 381-383.
3. Beck U. Risk Society. Toward a New Modernity. London, SAGE, 1992, P. 264
4. Бек У. Общество риска: на пути к другому модерну / пер. с нем. В. Седельника, Н. Федоровой. Москва: Прогресс-Традиция, 2000. 383 с. Пер. изд.: Beck U. Risikogesellschaft. Frankfurt am Main: Suhrkamp, 1986.
5. Гидденс Э. Ускользающий мир: как глобализация меняет нашу жизнь. Москва: Весь мир, 2004. 120 с.
6. Бегишев И. Р. Уголовно-правовая охрана общественных отношений, связанных с робототехникой: дис. ... д-ра юрид. наук 12.00.08 - Уголовное право и криминология; уголовно-исполнительное право Казань, 2022. 506 л.
7. Kudina o., Verbeek p.-p. Ethics from within: Google glass, the Collingridge dilemma and the mediated value of privacy // Science, technology & human values. 2019. Vol. 44, № 2. P. 291-314. DOI: https://doi. org/10.1177%2F0162243918793711
8. Пудовочкин Ю.Е. Концепт "риск" и проблемы уголовно-правовой науки // Научный вестник Омской академии МВД России. 2020. Т. 26, № 4(79). - С. 58-67. DOI 10.24411/1999-625X-2020-11010. EDN DQARCZ.
9. Воронин В.Н. Уголовно-правовые риски развития цифровых технологий: постановка проблемы и методы научного исследования // Вестник Университета имени О.Е. Кутафина (МГЮА). 2018;(12):73-80. https://doi.org/10.17803/2311-5998.2018.52.12.073-080.
10. Мозговая А.В., Шлыкова Е.В. «Социальная приемлемость риска» как социологическая категория // Социология: методология, методы, математическое моделирование. 2010. № 31. С. 30-45. EDN MUCUBT.
11. Бабаев М.М., Пудовочкин Ю.Е. Феномен риска в контексте профилактической политики (криминальная рискология) // Вестник Санкт-Петербургского университета. Право. 2019. Т. 10, № 1. С. 136148. DOI 10.21638/spbu14.2019.110. - EDN PPNJWZ.
12. Бегишев И. Р. Криминологическая классификация роботов: риск-ориентированный подход // Правоприменение. 2021. Т. 5, № 1. С. 185-201. DOI 10.52468/2542-1514.2021.5(1).185-201. EDN TBUVGY.
13. Кузнецова Н. Ф. Значение преступных последствий для уголовной ответственности. Москва, 1958 // Кузнецова Н. Ф. Избранные труды. Санкт-Петербург, 2003. 219 с.
14. Ткачева Н. В. Искусственный интеллект в контексте изучения личности преступника // Проблемы права. 2020. № 4(78). С. 56-60. DOI 10.14529/pro-prava200409. EDN LMNLDM.
15. Бегишев И.Р., Хисамова З.И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12, № 6. С. 767-775. DOI: 10.17150/2500-4255.2018.12(6).767-775.
16. Иващенко М.А. Новые формы организованной преступности: канд. юрид. наук: дис. ... канд. юрид. наук: 12.00.08 - Уголовное право и криминология; уголовно-исполнительное право. Москва, 2022. 217 с. EDN CEBOPN.
17. Овчинский В.С. Криминология цифрового мира. Москва: Норма, 2018. 352 с.
REFERENCES
1. Babaev M. M. Riski kak komponent determinacionnogo kompleksa prestupnosti // YUridicheskaya nauka i praktika: Vestnik Nizhegorodskoj akademii MVD Rossii. 2018. № 1(41). S. 104-110. - DOI 10.24411/20785356-2018-00014. - EDN UOGTLY.
2. Bradbury J.A. The Policy Implications of Differing Concepts of Risk. // Science, Technology and Human Values. 1989. Vol. 14. No. 4. P. 381-383.
3. Beck U. Risk Society. Toward a New Modernity. London, SAGE, 1992, P. 264
4. Bek U. Obshchestvo riska: na puti k drugomu modernu / per. s nem. V. Sedel'nika, N. Fedorovoj. Moskva: Progress-Tradiciya, 2000. 383 s. Per. izd.: Beck U. Risikogesellschaft. Frankfurt am Main: Suhrkamp, 1986.
5. Giddens E. Uskol'zayushchij mir: kak globalizaciya menyaet nashu zhizn'. Moskva: Ves' mir, 2004. 120 s.
6. Begishev I. R. Ugolovno-pravovaya ohrana obshchestvennyh otnoshenij, svyazannyh s robototekhnikoj: dis. ... d-ra yurid. nauk 12.00.08 - Ugolovnoe pravo i kriminologiya; ugolovno-ispolnitel'noe pravo Kazan', 2022. 506 l.
7. Kudina o., Verbeek p.-p. Ethics from within: Google glass, the Collingridge dilemma and the mediated value of privacy // Science, technology & human values. 2019. Vol. 44, № 2. P. 291-314. DOI: https://doi. org/10.1177%2F0162243918793711
8. Pudovochkin YU.E. Koncept "risk" i problemy ugolovno-pravovoj nauki // Nauchnyj vestnik Omskoj akademii MVD Rossii. 2020. T. 26, № 4(79). - S. 58-67. DOI 10.24411/1999-625X-2020-11010. EDN DQARCZ.
9. Voronin V.N. Ugolovno-pravovye riski razvitiya cifrovyh tekhnologij: postanovka problemy i metody nauchnogo issledovaniya // Vestnik Universiteta imeni O.E. Kutafina (MGYUA). 2018;(12):73-80. https:// doi.org/10.17803/2311-5998.2018.52.12.073-080.
10. Mozgovaya A.V., SHlykova E.V. «Social'naya priemlemost' riska» kak sociologicheskaya kategoriya // Sociologiya: metodologiya, metody, matematicheskoe modelirovanie. 2010. № 31. S. 30-45. EDN MUCUBT.
11. Babaev M.M., Pudovochkin YU.E. Fenomen riska v kontekste profilakticheskoj politiki (kriminal'naya riskologiya) // Vestnik Sankt-Peterburgskogo universiteta. Pravo. 2019. T. 10, № 1. S. 136-148. DOI 10.21638/spbu14.2019.110. - EDN PPNJWZ.
12. Begishev I. R. Kriminologicheskaya klassifikaciya robotov: risk-orientirovannyj podhod // Pravoprimenenie. 2021. T. 5, № 1. S. 185-201. DOI 10.52468/2542-1514.2021.5(1).185-201. EDN TBUVGY.
13. Kuznecova N. F. Znachenie prestupnyh posledstvij dlya ugolovnoj otvetstvennosti. Moskva, 1958 // Kuznecova N. F. Izbrannye trudy. Sankt-Peterburg, 2003. 219 s.
14. Tkacheva N. V. Iskusstvennyj intellekt v kontekste izucheniya lichnosti prestupnika // Problemy prava. 2020. № 4(78). S. 56-60. DOI 10.14529/pro-prava200409. EDN LMNLDM.
15. Begishev I.R., Hisamova Z.I. Kriminologicheskie riski primeneniya iskusstvennogo intellekta // Vserossijskij kriminologicheskij zhurnal. 2018. T. 12, № 6. S. 767-775. DOI: 10.17150/2500-4255.2018.12(6).767-775.
16. Ivashchenko M.A. Novye formy organizovannoj prestupnosti: kand. yurid. nauk: dis. ... kand. yurid. nauk: 12.00.08 - Ugolovnoe pravo i kriminologiya; ugolovno-ispolnitel'noe pravo. Moskva, 2022. 217 s. EDN CEBOPN.
17. Ovchinskij V.S. Kriminologiya cifrovogo mira. Moskva: Norma, 2018. 352 s.
Информация об авторе:
Будко Данил Вячеславович, адъюнкт 3 факультета (подготовки научных и научно-педагогических кадров) Академии управления МВД России, [email protected] Автор прочитал и одобрил окончательный вариант рукописи.
Information about the author:
Budko Danil V., Postgraduate of the 3rd Faculty (training of scientific and scientific-pedagogical personnel), the Academy of Management of the Ministry of Internal Affairs of Russia, Department of Criminal Policy of the Academy of Management of the Ministry of Internal Affairs of Russia, [email protected] The author has read and approved the final version of the manuscript.
Статья получена: 20.06.2024.
Статья принята к публикации: 25.09.2024.
Статья опубликована онлайн: 25.09.2024.
Против размещения полнотекстовой версии статьи в открытом доступе в сети Интернет не возражаю.
