CC BY
93
Научная статья УДК 34
https://doi.org/10.24412/2073-0454-2022-1-60-65 NIION: 2003-0059-1/22-146 MOSURED: 77/27-003-2022-01-345
Искусственный интеллект как средство совершения преступлений экстремистской направленности, совершенных с использованием информационно-телекоммуникационных сетей, так и борьбы с ними
Василий Васильевич Бычков
Московская академия Следственного комитета Российской Федерации, Москва, Россия, [email protected]
Аннотация. Рассмотрены преступления, совершаемые с использованием искусственного интеллекта. Раскрыты возможности использования искусственного интеллекта как средства борьбы с общественно опасными деяниями. Предложены направления применения искусственного интеллекта с целью повышения оперативности и эффективности раскрытия и расследования преступлений экстремистской направленности, совершенных с использованием информационно-телекоммуникационных сетей.
Ключевые слова: экстремизм, преступления экстремистской направленности, информационно-телекоммуникационные сети, Интернет, раскрытие, расследование, искусственный интеллект, средство совершения преступления, противодействие преступлениям
Для цитирования: Бычков В. В. Искусственный интеллект как средство совершения преступлений экстремистской направленности, совершенных с использованием информационно-телекоммуникационных сетей, так и борьбы с ними // Вестник Московского университета МВД России. 2022. № 1. С. 60-65. https://-doi.org/10.24412/2073-0454-2022-1-60-65.
Original article
Artificial intelligence as a means of committing extremist crimes committed using information and telecommunication networks, and combating them
Vasily V. Bychkov
Moscow Academy of the Investigative Committee of the Russian Federation, Moscow, Russia, [email protected]
Abstract. Crimes committed using artificial intelligence are considered. The possibilities of using artificial intelligence as a means of combating socially dangerous acts are revealed. The directions of the use of artificial intelligence are proposed in order to increase the efficiency and effectiveness of the disclosure and investigation of extremist crimes committed using information and telecommunication networks.
Keywords: extremism, extremist crimes, information and telecommunication networks, Internet, disclosure, investigation, artificial intelligence, means of committing a crime, countering crimes
For citation: Bychkov V. V. Artificial intelligence as a means of committing extremist crimes committed using information and telecommunication networks, and combating them. Bulletin of the Moscow University of the Ministry of Internal Affairs of Russia. 2022;(1):60-65. (In Russ.). https://doi.org/10.24412/2073-0454-2022-1-60-65.
В последние годы в Российской Федерации ускоренными темпами в экономическую [10; 11] и социальную деятельность внедряется искусственный интеллект (далее — ИИ) [7].
© Бычков В. В., 2022
Однако, до настоящего времени разработчиками ИИ не в полной мере учитывается опасность его использования в преступных целях как в экономике, так и социальной сфере, например, для осуществле-
JURISPRUDENCE
ния преступлений экстремистской направленности, совершаемых с использованием информационно-телекоммуникационных сетей [8; 9].
В настоящее время учеными выделены два вида рисков применения ИИ [5, с. 773; 12, с. 175; 15, с. 463464, 466]:
1) умышленное противоправное воздействие на человека и окружающую среду (при умышленном изменении программы из вне, при самообучении):
• преднамеренное совершение ИИ общественно опасных деяний.
Например, вовлечение в массовые беспорядки с помощью сконструированного сообщения о подложном законном мероприятии и убеждения потенциальных жертв его посетить [1].
ИИ за секунды создает изображения лиц несуществующих людей или представителей власти и политических деятелей, с синтезированием их голосов, которые могут использоваться для провокаций, манипулирования поведением больших целевых групп и в информационно-психологическом противоборстве с целью спровоцировать финансовую панику или войну1.
Увеличивается и количество кибератак с использованием ИИ, подменяющего «личность», в частности, в целях мошенничества2;
• умышленные действия, связанные с самообучением ИИ.
Например, компанией Microsoft для изучения общения подростков в Интернете была внедрена самообучаемая программа ИИ, которая через непродолжительное время выдала экстремистское утверждение, что «Гитлер был прав», а «феминистки должны гореть в аду» [15, с. 466].
Опять же компания Microsoft в 2016 г. запустила в Интернет чат-бот виртуальной девушкой по имени Тэй, которая через полтора дня, отвечая на один из вопросов, заявила, что в террористических актах в США в сентябре 2001 г. «виноват президент Буш, а с управлением страной Гитлер справился лучше, чем та «обезьяна», которая сейчас у власти в США»3;
2) непреднамеренное противоправное воздействие на человека и окружающую среду (при ошибках в программном обеспечении, допущенных программистами; при ошибках, совершенных в процессе работы системы ИИ):
• аварийные ситуации, связанные с управлением транспортными средствами и организацией дорожного движения.
Например, в США в 2018 г. беспилотный автомобиль во время испытаний, из-за сбоя в программном обеспечении ИИ, сбил женщину, которая скончалась. Причиной наезда оказалось то, что ИИ, увидевший препятствие за 5,6 сек. до столкновения, не смог опознать в нем пешехода и потратил время на то, чтобы отнести его к какому-либо классу объектов. Как пешеход объект был определен за 1,2 сек. до наезда, а торможение началось за 0,2 сек.4;
• в здравоохранении — ошибки в диагностике заболевания и назначении лекарственных препаратов.
Так, при поступлении малолетнего ребенка в больницу ИИ диагностировал грипп и назначил соответствующее лекарство. Лечение осуществлялось в соответствии с рекомендациями ИИ. Однако ребенок скончался. Было установлено, что причиной смерти оказалась тяжелая бактериальная инфекция [15, с. 463].
В 2018 г. ИИ дал ошибочные рекомендации по лечению рака, которые могли привести к большой потери крови5;
• ошибки в правоохранительной сфере.
Так, в полиции столицы Великобритании первичной обработкой сообщений о преступлениях занимался компьютер, который добавлял их в базу, где они обрабатывались, оценивались и распространялись среди следователей. Но из-за сбоя в программе все сообщения о преступлениях отправлялись в «спам». Когда обнаружили ошибку оказалось, что по 9 тыс. сообщений о преступлениях не было проведено никаких проверочных мероприятий6;
• ошибки системы распознавания лиц видеокамерами.
Фиксируются множественные задержания сотрудниками полиции граждан, похожих на разыскиваемых преступников.
Так, в апреле 2020 г. суд оштрафовал гражданку за нарушение карантина на основании данных с камеры
1 «Искусственный интеллект как террорист»: новые угрозы безопасности // URL://https://yandex.ru/turbo/ria.ru/s.
2 Вараксин М. Пистолет из принтера и звонок от робота: высокотехнологичные преступления // URL://https://pravo.ru/story.
3 Воскресенский В. Интервью заведующей кафедрой инженерной кибернетики НИТУ МИСиС, президента группы компаний, занимающихся разработкой искусственного интеллекта О. Усковой // URL://https://misis.ru/university/mediaroom/smi.
4 Баршев В. Раскрыта тайна смертельного наезда беспилот-ника Uber // URL://https://rg.ru/2019/11/10.
5 Как искусственный интеллект влияет на судьбы людей // URL://https://www.kaspersky.ru/blog/when-ai-decides.
6 Вараксин М. Указ. соч.
видеонаблюдения, однако позже выяснилось, что система распознавания перепутала ее с другой женщиной. При этом вероятность схожести составляла 61 %7.
В октябре 2021 г. система распознавания лиц определила в режиссере Ф. Ермошине преступника с вероятностью 70 %, на основании чего он был задержан. При этом ему были причинены побои8.
Кроме того, ИИ способен принять неверные решения, влекущие глобальные необратимые последствия в промышленности и энергетике, особенно ядерной, в сфере обороны.
Однако ИИ все больше применяется и как средство противодействия преступности [2, с. 19; 6; 3, с. 46; 14, с. 11; 17, с. 30]:
• осуществляет идентификацию личности;
• производит аутентификацию подлинности пользователя компьютера, электронного письма;
• определяет преступные действия в электронных системах безопасности;
• устанавливает наличие оружия у субъекта;
• ищет местонахождение лиц, совершивших преступление и скрывшихся от правосудия;
• выдвигает следственные версии и предлагает направления их проверки;
• моделирует события преступлений;
• выявляет преступления серийного характера;
• содействует производству специальных исследований;
• ведет поиск скрытых компьютерных файлов;
• устанавливает первоисточник в информационно-телекоммуникационных сетях;
• оценивает собранные доказательства преступлений;
• прогнозирует оперативную обстановку и совершение преступлений в каком-либо регионе;
• анализирует деятельность организованных преступных формирований, в том числе экстремистских;
• вычисляет каналы незаконной поставки предметов, изъятых из гражданского оборота;
• прогнозирует незаконную миграцию и этническую преступность;
• составляет психологические портреты лиц, совершающих преступления;
• прогнозирует возможные места, время и обстоятельства совершения преступлений конкретными субъектами;
• выявляет ложную и противоречивую информацию в показаниях допрашиваемых;
• отслеживает интернет-трафик и коммуникации в информационно-телекоммуникационных сетях фигурантов уголовного дела;
• расшифровывает коды и шифры лиц, совершающих преступления;
• анализирует оперативную обстановку в городах;
• обрабатывает видеоизображения с камер с целью розыска правонарушителей;
• осуществляет биометрическую идентификацию лиц;
• распознает государственные номера автомашин;
• получает необходимые сведения из сотовых телефонов;
• осуществляет розыск лиц, скрывающихся от следственных органов по соцсетям;
• выявляет в городе места с высокой кримино-генностью;
• осуществляет криминологический прогноз совершения преступлений;
• реализует контртеррористические комплексные меры в регионах, где активизировалась террористическая деятельность.
В Facebook разработали алгоритмы, которые распознают и удаляют в течение часа после опубликования посты экстремистской направленности. При этом ИИ определяет и удаляет 99 % постов, имеющих отношение к «Исламскому государству» и «Аль-Каеде», а также до 83 % копий этих постов9.
Наибольшее распространение в правоохранительной практике получило применение ИИ в системах видеонаблюдения и прогностической аналитике. Наибольший положительный опыт в этом направлении имеет Москва, где внедрена разветвленная система видеонаблюдения с функцией распознавания лиц, к которой подключены 167 тыс. видеокамер, обслуживающих 95 % подъездов жилых домов10. С помощью этой технологии раскрывается около 70 % всех зарегистрированных преступлений [16].
По мнению специалистов, к основным задачам ИИ относятся [4, с. 5]:
7 Жительницу Сахалина оштрафовали на основании ошибочных данных системы распознавания лиц // URL://https://ros-komsvoboda. org.
8 Шкода О. Задержанный по ошибке системы распознавания лиц режиссер Ермошин написал жалобы // URL://https://-www.mk.ru/incident/2021/10/22.
9 URL://https://digital.report/facebook-nameren-protivostoyat-ekstremizmu-s-pomoshhyu-iskusstvennogo-intellekta.
10 Москва. Умный город. Система видеонаблюдения в Москве, 2020 // URL://https://www.mos.ru/news/item.
JURISPRUDENCE
• классификация — распределение информации по группам в соответствии с поставленными задачами, например, при оценке достоверности информации в информационно-телекоммуникационных сетях;
• распознавание — определение относимости входящих объектов (образов) к единичной искомой группе, например, идентификация человека, номера транспортного средства, группы генов;
• предсказание — определение определенной информационной системы в будущем, например, динамика преступности в регионе, местонахождение преступника, совершение следующего эпизода мно-гоэпизодного преступления.
Считаю и необходимым обратиться к зарубежному опыту в сфере применения ИИ в правоохранительной сфере.
В Европейской этической хартии использования искусственного интеллекта в судебной и правоохранительной системах11 США отмечены как ведущее государство в использовании ИИ в правоохранительной сфере [6].
Например, ИИ используется для распознавания людей, изменивших свою внешность с помощью пластической операции, по фотографиям и видео. При этом выдаются варианты их первоначальной внешности. Программа «Nigel» определяет криминальные ситуации, связанные, например, с похищением детей. Программа Mayhem распознает индивидуальный почерк хакеров, определяет их местонахождение, прогнозирует хакерские атаки. Программа «CEG» устанавливает вероятность роста преступности [13].
Однако и Китай не отстает в данной сфере.
Так, при отслеживании каждого жителя страны ИИ составляется рейтинг, который повышается и понижается в зависимости от поступков гражданина, на основе анализа 160 тыс. параметров [18, с. 762].
Кроме того, потенциальные преступники выявляются до нарушения ими закона. ИИ с помощью видеосистемы распознавания лиц информирует правоохранительные органы о подозрительных субъ-ектах12.
На мой взгляд, повышению оперативности и эффективности раскрытия и расследования преступлений экстремистской направленности, совершенных с использованием информационно-телекоммуникационных сетей, будет способствовать применение ИИ в следующих направлениях:
• не просто распознавание экстремистских материалов, но и определение местонахождения устройств, их передавших;
• анализ деятельности лица, распространившего в Интернете экстремистские материалы;
• проверка сообщений о киберэкстремизме;
• отграничение экстремистских материалов от неэкстремистских, например, критики деятельности властей;
• поиск киберэкстремистов (Интернет, мобильная телефония, камеры систем видеонаблюдения, спутниковая навигация), в том числе изменивших внешность с помощью пластической операции;
• выявление деятельности экстремистских групп, организаций, сообществ;
• содействие в поиске, фиксации и осмотре электронных следов преступления;
• распознавание ложной или неполной информации при допросах фигурантов уголовного дела;
• исследование экстремистских материалов без проведения судебных экспертиз;
• прогноз экстремистской деятельности в регионе;
• прогноз протестных акций по экстремистским мотивам в регионе;
• развитие интерактивных экспертных систем, обеспечивающих поддержку следователя в диалоговом режиме.
В заключение необходимо сказать, что речь идет не о подмене следователя, а о помощи ему в расследовании преступлений указанного вида.
Работа следователя базируется не только на профессиональной подготовке, но и на этике, творческом подходе и креативном мышлении13.
Список источников
1. Багмет А. М., Бычков В. В. Расследование массовых беспорядков, в том числе с участием несовершеннолетних, и вовлечения в них несовершеннолетних: учеб. пособие. М. : ЮНИТИ-ДАНА, 2021.
2. Барчуков В. К. Использование искусственного интеллекта в деятельности правоохранительных ор-
11 Принята в 2018 г. Европейской комиссией по эффективности правосудия Совета Европы.
12 Как искусственный интеллект влияет на судьбы людей // URL://https://www.kasperskyru/Ыog/when-ai-derides.
13 Интервью руководителя НИИ криминалистики СК России А. Бессонова ТАСС // URL://https://tass.ru/interviews.
ганов зарубежных стран // Международное публичное и частное право. 2020. № 5. С. 19-21.
3. Бахтеев Д. В. Искусственный интеллект в криминалистике: состояние и перспективы использования // Российское право. Образование, практика, наука. 2018. № 2. С. 43-49.
4. Бахтеев Д. В. Искусственный интеллект в следственной деятельности: задачи и проблемы // Российский следователь. 2020. № 9. С. 3-6.
5. Бегишев И. Р., Хисамова З. И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12. № 6. С. 767-775.
6. Бирюков П. Н. Деятельность США в сфере использования искусственного интеллекта // Международное и европейское право. 2019. № 3. С. 324-334.
7. Бычков В. В. Искусственный интеллект: государственная политика и векторы применения // Расследование преступлений: проблемы и пути их решения. 2020. № 4. С. 45-50.
8. Бычков В. В., Прорвич В. А. Искусственный интеллект в борьбе с экстремизмом // Российский журнал правовых исследований. 2020. Т. 7. № 4. С. 9-18.
9. Бычков В. В., Прорвич В. А. Искусственный интеллект как средство противодействия преступлениям экстремистской направленности, совершаемым с использованием информационно-телекоммуникационных сетей, в том числе сети «Интернет» // Вестник Московской академии Следственного комитета Российской Федерации. 2020. № 4. С. 47-52.
10. Волынский А. Ф., Прорвич В. А. Электронное судопроизводство по преступлениям в сфере экономики (научно-практические аспекты): моногр. М. : Экономика, 2019.
11. Волынский А. Ф., Прорвич В. А. Компьютерная криминалистика в системе уголовно-правовой защиты «традиционной» и цифровой экономики: мо-ногр. М. : Экономика, 2020.
12. Кибальник А. Г., Волосюк П. В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Вестник Нижегородской академии МВД России. 2018. № 4(44). С. 173-178.
13. Ларина Е. С., Овчинский В. С. Искусственный интеллект. Большие данные. Преступность. М., 2018. С. 111-113.
14. Морхат П. М. Возможности, особенности и условия применения искусственного интеллекта в
юридической практике // Администратор суда. 2018. № 2. С. 8-12.
15. Мосечкин И. Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. Т. 10. Вып. 3. С. 461-476.
16. Овчинский В. С. Искусственный интеллект и правоохранительные органы: союзник или противник? // Петровка, 38. Наука и практика. 2019. 17 дек.
17. Попова Н. Ф. Применение технологий искусственного интеллекта в правоохранительной деятельности // Административное право и процесс. 2021. № 3. С. 29-32.
18. Суходолов А. П., Бычкова А. М. Искусственный интеллект в противодействии преступности, ее прогнозировании, предупреждении и эволюции // Всероссийский криминологический журнал. 2018. Т. 12. № 6. С. 753-766.
References
1. Bagmet A. M., Bychkov V. V. Investigation of mass riots, including with the participation of minors, and the involvement of minors in them: studies. manual. M. : UNITY-DANA, 2021.
2. Barchukov V. K. The use of artificial intelligence in the activities of law enforcement agencies of foreign countries // International public and private law. 2020. No. 5. P. 19-21.
3. Bakhteev D. V. Artificial intelligence in crimina-listics: state and prospects of use // Russian law. Education, practice, science. 2018. No. 2. P. 43-49.
4. Bakhteev D. V. Artificial intelligence in investigative activity: tasks and problems // Russian investigator. 2020. No. 9. P. 3-6.
5. Begishev I. R., Hisamova Z. I. Criminological risks of using artificial intelligence // All-Russian Journal of Criminology. 2018. Vol. 12. No. 6. P. 767-775.
6. Biryukov P. N. U.S. activities in the field of artificial intelligence use // International and European law. 2019. No. 3. P. 324-334.
7. Bychkov V. V. Artificial intelligence: state policy and application vectors // Investigation of crimes: problems and ways to solve them. 2020. No. 4. P. 45-50.
8. Bychkov V. V., Prorvich V. A. Artificial intelligence in the fight against extremism // Russian Journal of Legal Studies. 2020. Vol. 7. No. 4. P. 9-18.
9. Bychkov V. V., Prorvich V. A. Artificial intelligence as a means of countering extremist crimes committed using information and telecommunication networks, including the Internet // Bulletin of the Moscow Academy of the Investigative Committee of the Russian Federation. 2020. No. 4. P. 47-52.
10. Volynsky A. F., Prorvich V. A. Electronic legal proceedings on crimes in the field of economics (scientific and practical aspects): monogr. M. : Economics, 2019.
11. Volynsky A. F., Prorvich V. A. Computer criminalistics in the system of criminal-legal protection of the «traditional» and digital economy: monogr. M. : Economics, 2020.
12. Kibalnik A. G., Volosyuk P. V. Artificial intelligence: questions of criminal-legal doctrine awaiting answers // Bulletin of the Nizhny Novgorod Academy of the Ministry of Internal Affairs of Russia. 2018. No. 4(44). P. 173-178.
13. Larina E. S., Ovchinsky V. S. Artificial intelligence. Big data. Crime. M., 2018. P. 111-113.
14. Morkhat P. M. Possibilities, features and conditions of the use of artificial intelligence in legal practice // Court administrator. 2018. No. 2. P. 8-12.
15. Mosechkin I. N. Artificial intelligence and criminal responsibility: problems of formation of a new type of subject of crime // Bulletin of St. Petersburg University. Right. 2019. Vol. 10. Issue 3. P. 461-476.
16. Ovchinsky V. S. Artificial intelligence and law enforcement agencies: ally or opponent? // Petrovka, 38. Science and practice. 2019. 17 Dec.
17. Popova N. F. The use of artificial intelligence technologies in law enforcement // Administrative law and process. 2021. No. 3. P. 29-32.
18. Sukhodolov A. P., Bychkova A.M. Artificial intelligence in countering crime, its prediction, prevention and evolution // All-Russian Journal of Criminology. 2018. Vol. 12. No. 6. P. 753-766.
Информация об авторе
В. В. Бычков — декан факультета повышения квалификации Московской академии Следственного комитета Российской Федерации, кандидат юридических наук, доцент.
Information about the authors
V. V. Bychkov — Dean of the Faculty of Advanced Training of the Moscow Academy of the Investigative Committee of the Russian Federation, Candidate of Legal Sciences, Associate Professor.
Статья поступила в редакцию 10.11.2021; одобрена после рецензирования 17.01.2022; принята к публикации 01.02.2022.
The article was submitted 10.11.2021; approved after reviewing 17.01.2022; accepted for publication 01.02.2022.
