CC BY
50
Юристъ-Правоведъ. 2023. № 1(104). С. 130-135. Jurist-Pravoved. 2023. № 1(104). P. 130-135.
Научная статья УДК: 341.17:349:681
АНАЛИЗ НАПРАВЛЕНИЙ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПРАВООХРАНИТЕЛЬНОЙ ДЕЯТЕЛЬНОСТИ
Карпика Анатолий Григорьевич
Ростовский юридический институт МВД России, Ростов-на-Дону, Российская Федерация akarpika@yandex. ru
Введение: в статье проанализированы направления применения технологии искусственного интеллекта в области профилактики и противодействия преступности. Акцентировано внимание на возможных проблемах и предложены пути решения этих проблем на этапе машинного обучения.
Материалы и методы: из множества примеров применения технологий искусственного интеллекта на первом этапе были отобраны те, ссылки на которые наиболее часто встречаются в различных источниках. На последующих этапах анализировались примеры практического применения искусственного интеллекта, имеющие прямое отношение к правоохранительной деятельности, либо те, которые можно отнести к технологиям двойного назначения: распознавание образов, распознавание объектов, распознавание ДНК.
Для каждой из технологий анализировались достоинства и недостатки применения искусственного интеллекта по сравнению с аналогичной деятельностью человека-эксперта.
Результаты исследования: проведена классификация направлений применения искусственного интеллекта применительно к правоохранительной деятельности, сформулирована технико-психологическая проблема внедрения технологии искусственного интеллекта в деятельность органов внутренних дел, предложен подход к решению этой проблемы.
Выводы и заключения: изучение потока потенциально релевантной информации с целью принятия обоснованного решения с заданной точностью в сжатое время относится к трудоемкой, кропотливой работе, сопровождаемой неизбежными ошибками человека-эксперта вследствие естественной усталости и других психофизических факторов.
Для повышения качества обучения искусственного интеллекта целесообразно использовать обучающую информацию, последовательно ухудшая ее качество.
Анализ ДНК дает большое количество данных в электронном виде. Эти данные содержат закономерности, некоторые из которых могут быть недоступны современным средствам экспертизы, но могут оказаться полезным по мере роста чувствительности экспертных систем, построенных на основе искусственного интеллекта.
При внедрении технологии ИИ в работу органов внутренних дел важно соблюдать баланс между тем, чтобы не полагаться исключительно на аналитические прогностические результаты и другими важными факторами, проистекающими из личного опыта полицейского. Достижение указанного баланса возможно при учете максимально доступного состава факторов, на основе которых следует организовывать машинное обучение, направленное на понимание искусственным интеллектом когнитивных предубеждений и принципов справедливого принятия решений.
Ключевые слова: нейронная сеть, искусственный интеллект, машинное обучение, распознавание объектов, экспертиза, правоохранительная деятельность.
Для цитирования: Карпика А. Г. Анализ направлений применения искусственного интеллекта в правоохранительной деятельности / А. Г. Карпика // Юристъ-Правоведъ : науч.-теоретич. и инфоррмац.-мето-дич. журн. Ростов-на-Дону. 2023. № 1(104). - С. 130-135.
Original paper
ANALYSIS OF THE DIRECTIONS OF ARTIFICIAL INTELLIGENCE USE IN LAW ENFORCEMENT
Karpika Anatoly Grigorievich
Rostov Law Institute of the Ministry of Internal Affairs of Russia, Rostov-on-Don, Russian Federation
Introduction: the paper analyzes the directions of application of artificial intelligence technology in the field of crime prevention and counteraction. Attention is focused on possible problems and proposed ways to solve these problems at the stage of machine learning.
Materials and methods: from a set of examples of application of artificial intelligence technologies at the first stage those references to which most often occur in various sources were selected. In the next stages the examples of practical application of artificial intelligence, directly related to the law enforcement, or those that can be classified as dual-use technologies: pattern recognition, object recognition, the DNA recognition were analyzed.
For each of the technologies the advantages and disadvantages of the use of artificial intelligence were analyzed in comparison with similar activities of a human expert.
Results of the research: the classification of directions of application of artificial intelligence in relation to law enforcement activity was carried out, the technical and psychological problem of introduction of artificial intelligence technology in the activity of internal affairs bodies was formulated, the approach to the solution of this problem was offered.
Conclusions: studying the flow of potentially relevant information in order to make a reasonable decision with a given accuracy in a short time refers to time-consuming, painstaking work, accompanied by inevitable human expert errors due to natural fatigue and other psychophysical factors.
To improve the quality of artificial intelligence training it is advisable to use the training information, consistently deteriorating its quality.
The DNA analysis provides a large amount of data electronically. This data contains patterns, some of which may be inaccessible to modern means of expertise, but may prove useful as the sensitivity of expert systems built on artificial intelligence increases.
When introducing the AI technology into policing, it is important to strike a balance between not relying solely on analytical predictive results and other important factors stemming from the police officer's personal experience. Achieving this balance is possible by taking into account the maximum available composition of factors, on the basis of which machine learning should be organized, aimed at understanding the artificial intelligence of cognitive biases and principles of fair decision-making.
Keywords: neural network, artificial intelligence, machine learning, object recognition, expertise, law enforcement.
For citation: Karpika A. G. Analiz napravleniy primeneniya iskusstvennogo intellekta v pravookhranitel'noy deyatel'nosti [Analysis of the directions of artificial intelligence use in law enforcement]. Jurist-Pravoved - Lawyer-Jurist. 2023. №» 1(104). P. 130-135.
Технологические феномены - «умные машины» и «машинное обучение» давно перестали быть предметом научной фантастики. Оформившись в общее понятие «искусственный интеллект» (далее - ИИ), они сформировали контекст эпохи, в которой активно живет человечество последние 15 лет. Эта новая реальность оказывает важное и глубокое влияние на повседневную жизнь, частную и служебную деятельность, взаимоотношения между людьми, организациями, органами государственной власти.
Будучи внедренным в средства коммуникации, автомобили, финансовые инструменты и медицинское обслуживание, ИИ меняет образ жизни общества, технологии мышления и принятия решений. Приложения ИИ используются во многих аспектах жизни: от сельского хозяйства до промышленности, связи, образования, финансов, государства, обслуживания, производства, медицины и транспорта. Применение ИИ приносит ощутимую пользу в сфере общественной безопасности, раскрытия и расследования преступлений, уголовного правосудия.
Современные технологии искусственного интеллекта эволюционировали, начиная с 50-х годов прошлого века. В 1950 г. Алан Тьюринг опубликовал статью о создании мыслящих машин. Спустя 6 лет Джон Маккарти представляет свое определение искусственного интеллекта.
В 1956-1974 гг. осуществляется разработка первых алгоритмов для обработки простых траекторий принятия решений. Это позволило решать сложные математические выражения и обрабатывать строки текста. Обработка текстов стала называться «обработкой естественного языка». В свою очередь это привело к возможности формулировать логику и правила для интерпретации предложений и положило начало теории игр, которая и была реализована в основных компьютерных играх, моделях принятия решений.
В 1980-1987 гг. разработаны сложные системы с использованием логических правил и алгоритмов рассуждений, имитирующих деятельность человека-эксперта. Это положило начало появлению экспертных систем, таких как инструменты поддержки принятия решений, которые изучали правила конкретной области знаний, подобные тем, которым должен следовать специалист конкретной предметной области.
Такие системы были способны к сложным рассуждениям, но, в отличие от людей, не могли изучать новые правила, чтобы развиваться и расширять свои возможности.
В 1993-2009 гг. на сцену вышло программное обеспечение, названное по аналогии с биологическими структурами, - «нейронные сети». Эти сети имитируют то, как живые существа учатся распознавать сложные закономерности и решать задачи.
Распознавание символов для считывателей номерных знаков было одним из первых практически примененных приложений. С 2010 г. и по настоящее время в центре внимания разработчиков находятся вспомогательные технологии: «Глубокое обучение» и «Большие данные». Ставшая доступной обработка графических данных позволила обучать нейронные сети с использованием больших данных распознавать и классифицировать простые и сложные графические узоры. Это программное обеспечение применяется для автоматического обнаружения и распознавания лиц и объектов.
Так, системы безопасности дорожного движения позволяют выявлять нарушения и обеспечивать соблюдение правил дорожного движения, а прогнозы в области предупреждения преступности позволяют эффективно распределять ресурсы правоохранительных органов. ИИ также помогает идентифицировать возможность совершения лицом, находящимся под административным надзором, повторного преступления. Некоторые исследования, результаты которых были опубликованы [1], позволили сформулировать тезисы, нашедшие применение в методах ИИ, направленных на удовлетворение таких потребностей правосудия, как идентификация лиц и их действий в видеозаписях, касающихся преступной деятельности, или общественной безопасности, анализа ДНК, обнаружение огнестрельного оружия и прогнозирование преступлений.
Что понимают под таким явлением, как искусственный интеллект?
В середине 1950-х г. Джон Маккарти, которому приписывают лавры «отца искусственного интеллекта», определил его как науку и технику создания интеллектуальных машин. Концептуально ИИ - это способность машин выполнять задачи, которые обычно требуют человеческого интеллекта и принятия решений, без непосредственного вмешательства человека.
Одной из отличительных черт человеческого интеллекта является способность учиться на собственном и чужом опыте. Машинное обучение - это применение ИИ, которое имитирует эту способность и позволяет машинам использовать свое программное обеспечение для обучения на собственном опыте. Например, с точки зрения проведения следственных действий, важным инструментом является распознавание образов. Человеческий интеллект весьма эффективен при решении задач распознавания закономерностей, вследствие чего, а также благодаря собственному опыту, мы умеем различать предметы, людей, сложные человеческие эмоции, информацию и состояния на постоянной основе.
ИИ стремится воспроизвести эту человеческую способность в программном обеспечении посредством специальных алгоритмов и компьютерного оборудования. Например, алгоритмы самообучения используют наборы данных изображений людей для того чтобы понять, как идентифицировать людей по фотографиям. При этом выполняются сложные вычислительные и робототехнические задачи из разряда идентификации личности, построения модели деятельности человека в глобальной сети, поиск характерных признаков криминального поведения, построения различных финансовых и социальных поведенческих прогнозов.
Анализ примеров, приведенных в ряде зарубежных источников, находящихся в открытом доступе, позволил определить следующие основные направления использования технологии ИИ, представляющих интерес для обеспечения правоохранительной деятельности.
Направление 1. Распознавание лиц широко используется как в государственном, так и в частном секторе. Так, в докладе «Национальный стратегический план разведывательных исследований и разработок в области искусственного интеллекта» [1] отмечается, что «аналитические подразделения разведки часто полагаются на изображения лица с целью оказания помощи компетентным органам в установлении личности и местонахождения человека.
Изучение огромного объема потенциально релевантных изображений и видео с заданной точностью в сжатое время относится к трудоемкой, кропотливой работе, сопровождаемой неизбежными ошибками человека-эксперта вследствие естественной усталости и других психофизических факторов. В отличие от людей, машины не устают, что позволяет аналитикам, проводящим передовые исследования в этой области, например в рамках «Проекта компьютерного зрения Janus» компании Projects Activity [2], проводить обучение алгоритмов, способных отличать одного человека от другого на основе индивидуальных черт лица аналогично аналитику - человеку.
Традиционные программные алгоритмы, помогающие распознавать лица, как правило, ограничены заранее определенным характеристиками, таким как разрез глаз, цвет и расстояние между ними. Алгоритмы ИИ не только позволяют исследовать методы решения подобных задач, но и разрабатывать собственные независимые комплексные функции распознавания лиц, а также определять новые параметры, которые лежат в области, не доступной человеку - эксперту.
Эти алгоритмы имеют возможность сопоставлять лица, идентифицировать оружие и другие объекты, обнаруживать сложные события (аварии и преступления в процессе или совершенные ранее). Например, чтобы понять потенциальные преимущества ИИ с точки зрения скорости, исследователи из университета Техаса в Далласе сравнивали методы и практическую работу экспертов с алгоритмами ИИ. Результаты показали, что когда время распознавания ограничено 30 секундами, алгоритмы распознавания лиц на основе искусственного интеллекта по своим характеристикам сравнимы с характеристиками экспертов [3].
На основании этого можно сделать вывод о том, что алгоритмы на основе ИИ потенциально могут быть использованы в качестве «второй пары глаз» для повышения точности экспертов по исследованию лица человека и сортировке данных для повышения продуктивности. Другим важным аспектом является возможность обучения ИИ на изображениях, на которых запечатлено лицо человека под разными углами или частично в сторону, когда человек смотрит в сторону от камеры, его лицо закрыто маской, или шлемом.
Направление 2. «Распознавание объектов транспорта». Проект «Транспорт Миссисипи: Автоматическое обнаружение аварий на перекрестках и пересечениях» [4] курируется Министерством транспорта США. Его цель - повышение общественной безопасности посредством разработки и тестирования автоматических транспортных средств, обнаружение их на основе видео, для поддержания безопасности и эффективности пригородного движения с учетом особенностей местности, населенных пунктов, погодных условий, освещения и дорожных условий.
Чтобы обучить расшифровывать номерные знаки, которые позволяют идентифицировать объект или идентифицировать человека на изображениях крайне низкого качества или видео, исследователи используют алгоритмы ИИ, которые систематически ухудшают качество изображения и сравнивают их с некачественными, но уже распознанными изображениями и видео низкого качества.
Так, четкие изображения цифр и букв номера автотранспорта постепенно ухудшаются с целью получения изображения более низкого качества. Затем ухудшенные изображения описываются и каталогизируются как математические объекты. Далее их можно сравнить с некачественными изображениями номерных знаков с целью их последующей идентификации.
Направление 3. «Правоохранительная деятельность». Алгоритмы ИИ используются для интерпретации изображений, которые могут иметь важные последствия для правосудия и проведения судебно-медицинской экспертизы при установлении причины и действий, приведших к смерти человека, группы лиц. Так, в исследовании «Искусственный интеллект берет верх над медициной» отмечается, что алгоритмы ИИ также исследовались применительно к различным направлениям криминалистики, в том числе анализу ДНК, обнаружению огнестрельного оружия и прогнозированию преступлений [4].
Это особенно верно в отношении судебно-медицинской экспертизы ДНК, которая оказала беспрецедентное влияние на судебную систему за последние несколько десятилетий. Биологический материал, такой как кровь, слюна, сперма, клетки кожи может передаваться через контакт с людьми и предметами при совершении преступления. По мере развития технологии возросло качество анализа ДНК, что позволило судебно-медицинским экспертам обнаруживать и обрабатывать низкоконцентрированные, деградировавшие или нежизнеспособные образцы ДНК, которые не могли быть использованы ранее.
В исследовании приводится пример того, что образцы ДНК десятилетней давности, использовать которые в качестве доказательства насильственных преступлений в свое время оказалось невозможным, в настоящее время потенциально могут быть использованы. Это позволяет формулировать новые задачи для криминалистических лабораторий. Например, можно обнаружить ДНК от нескольких преступников или от лица, не связанного с преступлением вообще, либо отделить ДНК одних людей от других.
ИИ имеет потенциал для решения этой проблемы. Анализ ДНК дает большое количество данных в электронном виде. Эти данные содержат закономерности, некоторые из которых могут быть недоступны современным средствам экспертизы, но могут оказаться полезным по мере роста чувствительности экспертных систем.
Так, исследователями Сиракузского университета совместно с Центром судебных экспертиз округа Нью-Йорк была разработана технология деконволюции (разделения) смеси ДНК, основанная на машинном обучении. Несмотря на отмеченное в исследовании множество факторов, влияющее на способность определения отдельных доноров ДНК, авторы исследования уверены в том, что технология ИИ является перспективным направлением в этой области криминалистики.
Помимо преимуществ, которые ИИ приносит правоохранительным органам, существует ряд проблем, с которыми сотрудники полиции могут столкнуться на этапе обучения и активного внедрения этой технологии.
Одной из проблем в этой области является недоверие и предвзятость. На этапе выявления проблемы технические решения, используемые для прогнозирования, подвергаются критике за то, что они сосредоточены только на мелких преступлениях и на районах с высоким или низким уровнем преступности.
Искажения могут возникать из-за восприятия проблемы полицией. Например, предположение о том, что группы преступников образуются в одной популяции. Алгоритмы, которые обучаются на полицейских данных, могут воспроизводить (а в некоторых случаях и усиливать) существующие в базе данных предубеждения. Например, предвзятость, такая как неадекватное или чрезмерное полицейское воздействие на определенные сообщества, данные, отражающие неправильное или незаконное поведение (что ставит вопрос о необходимости соблюдения требований к точности данных). Один из сотрудников полиции заявил, что молодые люди с нетрадиционной внешностью чаще подвергаются аресту, чем одетые и выглядящие традиционно, что часто бывает основано на социальных предрассудках [5]. Эта предвзятость попадает в базу данных и проявляется в результатах, использующих эти данные.
Влияние предвзятых норм может быть усилено с помощью алгоритмической обратной связи по прогнозированию, когда вместо вероятности совершения преступления прогнозируется поведение полиции.
В дополнение к этим предубеждениям, социально неблагополучные лица чаще становятся объектом внимания социальных служб, поэтому полиция имеет о них больше информации, что создает дополнительные риски для исследуемой модели.
Трудности возникают и в том случае, когда необходимо учитывать разумные демографические различия. Например, мужчины чаще совершают преступления и более склонны к совершению насильственных преступлений, чем женщины. Известно, что возраст также коррелирует с преступностью, причем пик преступности приходится на подростковый возраст, а затем снижается.
Одним из факторов, который может возникнуть при внедрении системы, является «автоматическая предвзятость», т. е. чрезмерное доверие к алгоритму при игнорировании правильной и релевантной информации. Это может привести к принятию неверных решений.
Поэтому при внедрении технологии ИИ в работу органов внутренних дел важно соблюдать баланс между тем, чтобы не полагаться исключительно на аналитические прогностические результаты и другими важными факторами, проистекающими из личного опыта полицейского. Достижение указанного баланса возможно при учете максимально доступного состава факторов, на основе которых следует организовывать машинное обучение, направленное на «понимание» искусственным интеллектом когнитивных предубеждений и принципов справедливого принятия решений.
СПИСОК ИСТОЧНИКОВ
1. Национальный стратегический план «Искусственный интеллект. Исследования и разработки». URL: https://www.nitrd.gov/PUBS/national_ai_rdstrategic_plan.pdf (дата обращения: 01.02.2023).
2. Деятельность по передовым исследовательским проектам в области разведки: «Янус». URL: https://www.iarpa.gov/index.php/research-programs/janus (дата ознакомления: 01.02.2023).
3. П. Дж. Филлипс «Перекрестная сравнительная оценка глубокой сверточной нейронной сети для распознавания лиц». URL: https://ieeexplore.ieee.org/document/7961810 (дата обращения: 01.02.2023).
4. Арндт Р.З. «Искусственный интеллект берет на себя медицинскую визуализацию».ЦКЬ: https://www.modernhealthcare.com/article/20170708/TRANSF0RMATI0N03/170709944/artificial-in-telligence-takes-on-medical-imaging (дата обращения: 01.02.2023).
5. Институт судебных экспертиз и криминалистики. «Искусственный интеллект в полицейской работе: плюсы и минусы». URL: https://ceur.ru/news/921/item358862 (дата обращения: 01.02.2023).
REFERENCES
1. National strategic plan «Artificial intelligence. Research and development». URL: https:// www.nitrd.gov/PUBS/national_ai_rdstrategic_plan.pdf (date of access: 01.02.2023).
2. Activity on advanced research projects in the field of intelligence: «Janus». URL: https://www.iarpa.gov/ index.php/research-programs/janus (date of access: 01.02.2023).
3. P. J. Phillips, «Cross-comparative evaluation of a deep convolutional neural network for face recognition». URL: https://ieeexplore.ieee.org/document/7961810 (date of access: 01.02.2023).
4. R.Z. Arndt. «Artificial intelligence takes on medical imaging». URL: https://www. modernhealthcare.com/article/20170708/TRANSF0RMATI0N03/170709944/artificial-intelligence-takes-on-medical-imaging (date of access: 01.02.2023).
5. Institute of forensic sciences and criminalistics. «Artificial intelligence in police work: pros and cons». URL: https://ceur.ru/news/921/item358862 (date of access: 01.02.2023).
ИНФОРМАЦИЯ ОБ АВТОРЕ
Карпика Анатолий Григорьевич, кандидат технических наук, доцент, доцент кафедры информационного обеспечения органов внутренних дел. Ростовский юридический институт МВД России. 344015, Российская Федерация, г. Ростов-на-Дону, ул. Еременко, 83.
INFORMATION ABOUT THE AUTHOR
Karpika Anatoly Grigorievich, PhD in Technical Sciences, Associate Professor, Associate Professor of the Department of Information Sciences. Rostov Law Institute of the Ministry of Internal Affairs of Russia. 344015, Russian Federation, Rostov-on-Don, 83, Eremenko St.
