CC BY
70ЮРИДИЧЕСКИЕ НА УКИ УДК 004: 338.46 Б01 10.52928/2070-1632-2021-56-5-84-92
ИСПОЛЬЗОВАНИЕ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
ПРИ ОБЕСПЕЧЕНИИ ОБЩЕСТВЕННОЙ БЕЗОПАСНОСТИ В «УМНОМ ГОРОДЕ»:
ЮРИДИЧЕСКИЕ АСПЕКТЫ
канд. юрид. наук, доц. М.С. АБЛАМЕЙКО, канд. юрид. наук, доц. Н.В. ШАКЕЛЬ
(Белорусский государственный университет, Минск) М. АЫашеуко ОЯСЮ https://orcid.ors/0000-0001-6405-8998; т.ablameyko@mail.ru, N. Shakel ОЯСЮ https://orcid.org/0000-0002-8100-8332; nshakel@tut.by
канд. техн. наук, доц. Р.П. БОГУШ (Полоцкого государственного университета) Я Bosush ОЯСЮ https://orcid.ors/0000-0002-6609-5810; bosushr@mail.ru
Обеспечение общественной безопасности является актуальным вопросом для всех развитых стран мира. В данной сфере различными организациями проводится постоянный мониторин, в результате которого публикуются рейтинги, результаты которых имеют существенное влияние при выборе места проживания, привлечении туристов и инвесторов и др. Для упрощения контроля общественной безопасности в городах все больше используются системы искусственного интеллекта. Наряду с положительным эффектом использования таких систем защита прав человека на неприкосновенность частной жизни становиться ключевой проблемой. В данной статье описываются результаты белорусских ученых по созданию таких систем и рассматриваются особенности их внедрения в условиях «умного города» в нашей стране. Анализируется опыт ряда стран по внедрению систем искусственного интеллекта для укрепления общественной безопасности в существующих «умных городах». Рассматриваются юридические проблемы, возникающие при функционировании таких систем, особенно в части ограничения свободы и прав граждан. Даются предложения по развитию нормативной правовой базы в Республике Беларусь в целях защиты прав граждан.
Ключевые слова: «умный город», общественная безопасность, системы искусственного интеллекта, видеонаблюдение, защита частной жизни.
Введение. Общественная безопасность имеет существенное значение для современных городов, являясь одним из немаловажных оснований при выборе места жительства, принятии решений о переезде, развитии туристических услуг, привлечении инвестиций и т.п. Распространение и повсеместное внедрение информационно-коммуникационных технологий во все сферы жизни привело к развитию «умных городов», призванных повысить качество жизни жителей. Одним из основных условий функционирования «умного города» является обеспечение высокого уровня общественной безопасности.
Во многих странах понятие безопасности преимущественно включает обеспечение физической безопасности граждан и общественной инфраструктуры. Это в большей степени связано с работой правоохранительного блока, служб чрезвычайного реагирования, медицины, экологии и др. В развитых странах с построением информационной инфраструктуры (электронного правительства и других компонентов) это понятие расширяется до вопросов обеспечения кибербезопасности, как людей, так и информационно-коммуникационной инфраструктуры. Наряду с традиционными вопросами обеспечения правопорядка, экологической и иной безопасности на первое место выходят вопросы бесперебойного функционирования критически важных объектов информатизации, как государства, так и отдельно взятого объекта (например, предприятия, которое расположено в городе). Таким образом, обеспечение безопасности «умного города» становится таким же важным вопросом, как и обеспечение безопасности критически важных объектов.
При функционировании «умных городов» со всех источников собирается значительный объем информации (маршруты движения жителей и транспорта, геолокация, количество затрачиваемых на те или иные услуги средств, частота использования определенных услуг и др.). Некоторые исследователи полагают, что сегодня главным элементом «умного города» является автоматизированная система, основанная на анализе потоков данных от различных источников информации, которая позволит производить обработку данных в реальном времени, осуществлять многофакторный анализ и инициировать оперативное реагирование, как в режиме поддержки принятия решений с участием человека, так и в полностью автоматическом режиме [1].
Большая часть этих данных собирается с помощью систем интеллектуального видеонаблюдения, которые сегодня становятся неотъемлемой частью «умных городов», что обусловлено широким кругом решаемых такими системами задач и постоянным ростом доступности средств наблюдения и связи. Подобная
тенденция справедлива и для будущего в связи с непрерывным и быстрым совершенствованием аппаратной базы, в том числе, увеличением разрешения видеокамер до 4К, с пропускной способностью каналов связи, внедрением 5G-технологии, развитием и применением методов искусственного интеллекта (ИИ) для обработки информации (нейронные сети, генетические алгоритмы, нечеткая логика), технологий обработки больших объемов данных (big data), облачных решений (cloud technology), интернета вещей (IoT).
Однако широкое внедрение таких систем затрагивает различные юридические аспекты, в особенности связанные с защитой прав и законных интересов граждан от произвольного и несанкционированного контроля за их жизнью и поведением и иных угроз, связанных с незаконным вмешательством в личную жизнь. При этом следует учитывать, что право человека на невмешательство в его личную и семейную жизнь отнесено к числу основополагающих. Запрет на такое вмешательство, а также право на защиту от такого вмешательства, были закреплены уже в ст. 12 Всемирной декларации прав человека (1948 г.). Международный пакт о гражданских и политических правах (1966 г.) в ст. 17 установил запрет на произвольное или незаконное вмешательство в личную и семейную жизнь. Сегодня неприкосновенность частной жизни закреплена в ст. 29 Конституции Республики Беларусь. В связи с этим необходимо искать баланс интересов государства, в части контроля за своими гражданами с точки зрения обеспечения общественной безопасности, и интересов личности - с точки зрения недопущения злоупотребления вмешательства в свою жизнь со стороны государства.
В данной статье анализируется опыт ряда стран по внедрению систем ИИ для укрепления общественной безопасности и даются предложения по развитию нормативной правовой базы в Республике Беларусь в целях защиты прав граждан.
Основная часть. Международный опыт применения систем искусственного интеллекта в «умном городе». Использование систем ИИ при обеспечении общественной безопасности в «умном городе» имеет достаточно много аспектов, как технических, так и правовых. В этой связи в настоящей статье мы остановимся лишь на некоторых наиболее знаковых моментах в ряде юрисдикций, в рамках которых создаются и используются соответствующие системы.
В первую очередь отметим пример Российской Федерации, где предпринимаются существенные шаги по нормативному регулированию общественной безопасности в «умных городах». Так, в начале 2019 г. Министерством строительства и жилищно-коммунального хозяйства Российской Федерации утвержден национальный стандарт «Умного города». По сути, это набор базовых и дополнительных требований (в форме мероприятий), которые должны будут выполнить города-участники проекта цифровизации городского хозяйства (проект «Умный город»). Утвержденный стандарт содержит отдельный раздел под названием «Интеллектуальные системы общественной безопасности», который включает три направления мероприятий:
1) создание систем интеллектуального видеонаблюдения с целью повышения уровня безопасности;
2) внедрение систем информирования граждан о возникновении чрезвычайных ситуаций;
3) создание интеллектуальных систем контроля исправности противопожарных систем в местах массового скопления людей1.
В течение 2019 г. система распознавания лиц тестировалась в г. Москва, после чего с 1 января 2020 г. была внедрена в массовом порядке: городские видеокамеры были заменены на камеры с HD-качеством, были подключены системы искусственного интеллекта с распознаванием лица2.
В Казахстане в рамках одного из основных направлений государственной программы «Цифровой Казахстан» по внедрению концепций «умных» городов в стране в городе Акколь Акмолинской области реализуется пилотный проект по внедрению современных технологий «SmartAqkol». В данном проекте интеллектуальные системы должны обеспечивать эффективное функционирование городских служб, безопасность и комфорт жителей. Его инфраструктурным оператором стало АО «Казахтелеком», в котором создан центр обработки данных. Центр осуществляет сбор сведений со всех действующих в городе систем видеонаблюдения, экологического мониторинга, контроля и учета энергоресурсов, управления дорожным трафиком, противопожарной безопасности. Для внедрения проекта было проложено 17,5 тыс. км оптоволокна, создан общественный Wi-Fi, создана актуальная цифровая 3D-карта города (более 18-ти слоев на карте - инженерные системы и сети, камеры, освещение), установлено около 70 видеокамер [2].
Все данные с датчиков и оборудования поступают в Ситуационный центр, который оснащен необходимой инфраструктурой для организации межведомственного взаимодействия, демонстрации решений по тактическому и стратегическому управлению жизнедеятельностью города, управлению коммунальными службами, агрегации достоверных и своевременных данных о городских ресурсах, обеспечению безопасности. Аналитические способности оборудования, основанные на системе искусственного интеллекта,
1 Стандарт «Умного города»: чего в нём не хватает? [Электронный ресурс] // ФСА, Фундаментальные системы анализа. -2020. URL: https://fsa3d.com/2020/04/24/smart-cities-standard-russia-safetv/.
2 Видеонаблюдение с функцией распознавания лиц будет внедрено в метро до 1 сентября [Электронный ресурс] // Москва 24. URL: https://www.m24.ru/news/mehr-Moskvv/23012020/104711 ?utm source=CopvBuf.
позволяют определить корреляции между самыми разнообразными параметрами: от погодных условий, ухудшения атмосферного воздуха, понижения температуры в домах и квартирах до увеличения посещаемости больниц, успеваемости в школах и качества работы городских котельных3. Интеграция системы SmartAqkol с другими базами данных (например, по образованию, здравоохранению, налогам) позволяет проводить углубленный анализ сведений о жизнедеятельности города, получать новые знания о текущей ситуации и выстраивать эффективную систему принятия решений городскими властями и службами [2].
Большие успехи в использовании систем искусственного интеллекта при обеспечении общественной безопасности в «умном городе» достигнуты в Южной Корее. Так, в городе Сонго к сети подключен каждый объект, с помощью внедрения сенсоров в улицы, здания и дороги; датчики отправляют данные в главный пункт управления для проведения анализа о неисправностях, состоянии объектов, температуре и т.п. [1].
Китайский лидер Си Цзиньпин в октябре 2017 г. сказал, что чувство безопасности - это лучшее, что может дать страна своим гражданам; при этом по замыслам китайских властей для кардинального улучшения жизни в стране необходимо собирать и обрабатывать как можно больше данных в режиме реального времени [3]. Важное значение уделяется использованию систем видеонаблюдения, в том числе с использованием искусственного интеллекта. Сейчас в Китае, в рамках общенациональной системы «Skynet» (национальная система технико-контролируемого отслеживания (ТКО), начала развиваться в 2005 г.) работает не менее 176 млн видеокамер, в планах до 2020 г. увеличить их число до 626 млн. Для сравнения, национальные системы видеонаблюдения США включают около 50 млн камер, Великобритании - 5-6 млн, России -порядка 300 тыс. При этом китайская система ТКО не ограничивается решением задач обеспечения общественной безопасности и противодействия преступности - она становится важной частью для создания системы «социального кредитного рейтинга» («Social Credit System») - национальной базы электронных досье «благонадежности» каждого гражданина4. Данная система начала действовать в качестве эксперимента с 2010 г. в провинции Цзянсу [4]. Одна из целей данной системы - научить китайское общество быть более честным посредством всестороннего наблюдения за людьми. При этом мониторинг граждан в Китае имеет давнюю традицию, в связи с чем, с точки зрения многих жителей, он не оценивается ими в качестве чрезмерного вмешательства в свободу конкретной личности; это также связано с традициями коллективизма, когда благо сообщества ставится выше, чем интересы отдельных лиц [3]. Безусловно, применение соответствующих подходов в иных государствах может стать невозможным, так как несмотря на определенные преимущества, такая система может чрезмерно ограничить права и свободы конкретных лиц.
Об этом говорит, в частности, опыт Великобритании. Уже при первом проекте по масштабному внедрению камер видеонаблюдения в Лондоне вышло вызвавшее большой резонанс заявление организации «Прайваси Интернешнл» (Privacy International), в котором даже положительные аспекты внедрения камер видеонаблюдения (в районах, где были установлены камеры, наблюдалось снижение преступности - например, снижение краж автомобилей на 90%, а нападений и краж - на 75%) рассматривались через призму возможных негативных моментов (защита частной жизни, проблема скрытого перемещения преступности в менее обеспеченные районы, где местные власти не имели средств на установку камер)5. С учетом изложенного также содержался призыв к властям Великобритании немедленно ограничить применение следующих категорий видеонаблюдения (как наиболее затрагивающих вопросы частной жизни, с англ. privacy):
- системы компьютерного распознавания лиц (Computerised Face Recognition (CFR) systems), которые осуществляют автоматическое сравнение изображений, получаемых из систем видеонаблюдения, с базой данных;
- инфракрасное высокочувствительное оборудование, а также иные системы, которые действуют вне видимого спектра (в том числе способные обнаруживать активность за стенами, в темноте);
- миниатюрные и микроинженерные устройства, предназначенные для скрытого наблюдения6.
Сегодня европейские государства идут по пути максимального контроля за применением система
ИИ при реализации систем видеонаблюдения в городах. Для того, чтобы уменьшить возможные претензии со стороны граждан, связанные с нарушением их частной жизни, им раскрываются механизмы, по которым работает и обучается ИИ, предоставляется подробная информация о способах и целях сбора таких данных.
Таким образом, рассмотренный опыт внедрения и распространения систем искусственного интеллекта для обеспечения общественной безопасности «умного города» свидетельствует о неоднозначном отношении к нему общества. С одной стороны, применение подобных систем действительно приводит
3 Искусственный интеллект - ядро «умного» города Акколь [Электронный ресурс] // ProFit. URL: https://profit.kz/news/ 51989/Iskusstvennii-intellekt-vadro-umnogo-goroda-Akkol/.
4 Видеонаблюдение с функцией распознавания лиц будет внедрено в метро до 1 сентября [Электронный ресурс] // Москва 24. URL: https://www.m24.ru/news/mehr-Moskvv/23012020/104711 ?utm source=CopvBuf.
5 Privacy International statement on CCTV surveillance in the UK [Electronic resource] // Privacy International. - 15 Oct. 1996. URL: https://privacvinternational.org/blog/1583/privacv-international-statement-cctv-surveillance-uk.
6 Там же.
к положительной динамике сокращения преступности, предотвращения крупных аварий и т.д., с другой стороны, далеко не каждое общество отдельно взятой страны готово к тотальному контролю со стороны государства и небезосновательно видит в этом посягательство на тайну частной жизни. В основном недовольство людей сконцентрировано на распознавании лиц, т.е. полной идентификации человека. Вместе с тем, все большее распространение получает добровольное согласие на так называемое «отслеживание», путем использования различных приложений, определяющих и использующих геолокацию.
В результате проведенного анализа опыта ряда стран считаем возможным выделить китайскую, европейскую и смешанную модели функционирования «умных городов».
Применение систем интеллектуального видеонаблюдения. Перспективными областями использования интеллектуального видеонаблюдения являются места большого скопления людей, например, стадионы, концертные площадки, метро, железнодорожные вокзалы, аэропорты, школы, университеты, больницы, торговые центры, а также пешеходные переходы, периметры охраняемых объектов, разные участки производственных предприятий, различные пропускные пункты и др.
Наиболее эффективны пространственно-распределенные системы видеонаблюдения, которые предполагают использование территориально разнесенных 1Р-камер, и могут быть организованы на основе многоагентной или центральной архитектуры.
В многоагентной архитектуре каждая камера видеонаблюдения включает аппаратный блок, самостоятельный компьютер под управлением операционной системы, на котором реализуются базовые алгоритмы обработки. Некоторое количество видеокамер организует единый локальный центр и подключено к общему серверу. Из таких узлов формируется система в целом, т.е. система не требует единого центра управления и обработки данных, и в ней присутствует распределение не только в пространстве, но и в месте принятия решения. Для повышения достоверности идентификации события или цепочки пространственных событий видеокамера или локальный сервер может запросить от ближайших узлов данные для сопоставления или совместной обработки. С учетом задержек канала передачи данных камеры видеонаблюдения должны обладать памятью для хранения кадров с идентифицированными событиями на случай запроса от соседних узлов. Поэтому высокие требования предъявляются к протоколу взаимодействия между видеокамерами и узлами, что приводит к сложности его реализации. Однако, данная архитектура характеризуется высокой отказоустойчивостью (выход из строя локального сервера не приведет к полной неработоспособности всей системы), и оперативностью работы, т.е. информация обрабатывается практически в том месте, где она получена.
Центральная архитектура основана на наличии единого центра обработки данных, который включает комплекс вычислительных и программных систем, систем хранения данных, расположенных в отдельном специализированном помещении или здании, соединенный высокоскоростными каналами связи с основными модулями системы. К ее достоинствам можно отнести то, что средство обработки обладает максимально возможной полнотой данных для принятия решений. Но предъявляются очень высокие требования к производительности центрального средства обработки данных и объему памяти.
Для управления потоками полученных данных и оперативного реагирования создаются Центры оперативного управления, включающие: секцию общего управления; противопожарную секцию; секцию управления дорожным движением; секцию экстренного управления (командная), а также резерв для организации рабочих мест при масштабных инцидентах.
Приведем примеры применения систем видеонаблюдения с использованием искусственного интеллекта, разработанные одним из авторов этой статьи. В первом блоке рассмотрим примеры распознавания отслеживания и передвижения людей без распознавания лица, т.е. без идентификации.
Анализ поведения человека в зоне наблюдения, когда он остается в ней дольше, чем заданное время, позволяет эффективно в реальном времени уведомить владельцев или правоохранительные органы о подозрительном поведении человека вокруг банкоматов, витрин магазинов, предприятий, учебных заведений, лестничных клеток, частных домов. Пример работы алгоритма одного из авторов этой работы для отслеживания передвижения людей на улице показан на рисунке 1 [5].
а) - входной кадр; б) - кадр с картой векторов движения; в) - обнаруженные и сопровождаемые объекты Рисунок 1. - Пример алгоритма отслеживания передвижения людей на улице
Актуальной решаемой задачей также является обнаружение скопления людей (толпы), т.е. ситуации одновременного нахождения в зоне наблюдения (в подземном переходе, терминале аэропорта, на футбольном матче и т.п.) определенного количества людей в течение фиксированного временного интервала. Эта задача особенно важна в случае необходимости быстрого и эффективного принятия решений, т.к. такое скопление может вызвать панику среди людей и даже перерасти в конфликт.
Детектирование упавшего человека, или момента его падения, фиксация лежачего человека актуальны также и для производственных предприятий, например, операторы потенциально опасных производств в ряде случае должны непрерывно следить за технологическим процессом. Несоблюдение данного требования в случае непредвиденных ситуаций, например, потери сознания человеком может привести к аварийным ситуациям на предприятии. Кроме этого, в последнее время приобретает значимость контроль соблюдения социального дистанцирования между людьми в общественных местах. Пример работы алгоритма одного из авторов этой работы для отслеживания передвижения людей внутри помещения показан на рисунке 2 [6].
Рисунок 2. - Пример работы алгоритма для отслеживания передвижения людей внутри помещения.
Рассмотрим примеры применения систем видеонаблюдения с использованием искусственного интеллекта с распознаванием лица человека.
Распознавание человека по цифровому изображению его лица является одной из ключевых задач и особенно актуальна для управления доступом к различным объектам, профилактики, раскрытия, пресечения преступлений, правонарушений, борьбе с терроризмом и незаконной миграцией, а также соблюдения мер самоизоляции человеком. Схожей задачей является поиск местоположения человека в пространстве по его цифровой фотографии, а также его сопровождения по набору признаков, который включает кроме признаков лица общие признаки человека, позволяющие отследить его движение даже при невозможности распознавания лица, например, когда оно скрыто капюшоном или расположено под значительным углом относительно видеокамеры, который не позволяет выполнить идентификацию по лицу. В последнее время одной из актуальных задач является определение наличия средств индивидуальной защиты на лице человека, медицинской маски или респиратора при посещении им общественных мест и дальнейшем его предупреждении.
Методами интеллектуального видеонаблюдения может быть обнаружено подозрительное поведение человека, например, падение, резкое изменение траектории движения при совершении противоправных действий, таких как насилие, нападение или избиение другого человека, кража со взломом, умышленное оставление предмета, например, сумки, в общественном месте, массовая драка. Средства искусственного интеллекта позволяют распознать лицо человека в группе людей. Пример алгоритма сопровождения людей на видео с использованием распознавания и идентификации по лицу, разработанный одним из авторов работы, показан на рисунке 3 [5].
Рисунок 3. - Примеры сопровождения людей на видео с использованием распознавания и идентификации по лицу
Таким образом, применение систем видеонаблюдения возможно, как с идентификацией человека, так и без нее. В первом случае вопрос о вмешательстве в частную жизнь человека не возникает, так как происходит лишь общий мониторинг ситуации, поведения конкретного объекта, без использования метода распознавания лица и установления личности человека. Вместе с тем, все чаще при функционировании «умных городов» стоит вопрос именно о применении метода распознавания лиц, так при обеспечении общественной безопасности наряду с выявлением инцидента стоит вопрос определения лица виновного в произошедшем. Также, следует отметить, что во многих странах имеются базы данных граждан, включающие цифровой фотопортрет и иные персональные данные. Таким образом, при использовании систем видеонаблюдения с применением ИИ возможным становится полная идентификация лица, включающая как основные, так и дополнительные персональные данные.
Правовое обеспечение использования систем видеонаблюдения в Республике Беларусь. Обеспечение общественной безопасности в условиях «умного города» включает в себя принятие как технических, так и правовых мер. Применительно к реализации данного вопроса в практической плоскости в Республике Беларусь возможно проследить саму идею реализации «умных городов» на системной основе примерно к середине 2000-х. Так, в 2001 году Центром по сертификации технических средств охранно-пожарной сигнализации при объединении «Охрана» при МВД Республики Беларусь был разработан руководящий документ «Технические средства и системы охраны. Телевизионные системы видеонаблюдения (системы охранные телевизионные). Правила производства и приемки работ» РД 28/3. 005 - 2001. Данные правила распространялись на производство работ по монтажу, наладке, испытаниям и сдаче в эксплуатацию телевизионных систем видеонаблюдения (систем охранных телевизионных), устанавливаемых на объектах различных форм собственности на территории Республики Беларусь. Следует отметить, что до этого периода осуществлялось внедрение определенных информационно-коммуникационных технологий в жизнь городов, однако такие «точечные» изменения и улучшения не носили целенаправленный характер, ориентированный именно на создание новой, более удобной для жителей города, среды.
Активные действия в сфере правового обеспечения общественной безопасности начались с начала 2010-х годов. Помимо технического оснащения городов видеокамерами в 2012-м было принято постановление Совета министров Республики Беларусь от 11 декабря 2012 г. № 1135 «Об утверждении положения о применении систем безопасности и систем видеонаблюдения», устанавливающее требования к системам безопасности и системам видеонаблюдения, в том числе к средствам, используемым при их создании (модернизации). В дальнейшем было принято достаточно большое количество правовых актов, касающихся вопросов обеспечения общественной безопасности с использованием систем видеонаблюдения, среди которых можно выделить:
1. Указ Президента Республики Беларусь от 28 ноября 2013 г. № 527 «О вопросах создания и применения системы видеонаблюдения в интересах обеспечения общественного порядка», принятый в целях принятия дополнительных мер по обеспечению общественного порядка, в том числе при проведении чемпионата мира по хоккею 2014 г. в г. Минске.
2. Указ Президента Республики Беларусь от 25 мая 2017 г. № 187 «О республиканской системе мониторинга общественной безопасности», принятый в целях повышения уровня общественной безопасности путем использования современных информационно-коммуникационных технологий и предусматривающий создание в Республике Беларусь республиканской системы мониторинга общественной безопасности, элементами которой являются: система видеонаблюдения за состоянием общественной безопасности; локальные системы видеонаблюдения, подключенные к системе мониторинга; специальные детекторы, подключенные к системе мониторинга; каналы связи единой республиканской сети передачи данных; программная платформа системы мониторинга; аппаратный комплекс республиканского центра обработки данных (РЦОД); автоматизированные рабочие места; другие системы и информационные ресурсы, определяемые пользователями системы мониторинга.
Только в 2019 году Министерство связи и информатизации разработало типовую концепцию развития умных городов в Республике Беларусь. В рамках возможных направлений развития технологий «Умного города» включена и «общественная безопасность». В данном направлении видятся необходимым развитие республиканской системы мониторинга общественной безопасности, решений по видеонаблюдению наиболее важных объектов инфраструктуры города (вокзалы, аэропорты, торговые центры, метрополитен, спортивные и фестивальные объекты и другие), интеллектуальной системы контроля противопожарных систем, оповещения о чрезвычайных ситуациях.
В 2020 году Мингорисполком совместно с заинтересованными органами разработал программу развития Минска как «умного» города до 2025 года. Мероприятиями программы предусмотрена разработка базовой концепции развития Минска в направлении умного города с учетом концепций, которые разработали республиканские органы, и ряда проектов госпрограмм. Вместе с программой сформирован базовый перечень проектов. Он охватывает большинство направлений жизни: энергетика, ЖКХ, образование, строительство, транспорт, безопасность - порядка 47 проектов [6]. Предполагается создать единую систему
видеонаблюдения, позволяющую контролировать безопасность в городских условиях, увеличивать раскрываемость преступлений. Кроме того, Министерство связи и информатизации разработало проект «Умные города Беларуси». Реализован он будет в 11 городах и районах страны с численностью более 80 000 человек. Это уже определенные потенциальными центрами экономического роста города: Орша, Барано-вичи, Пинск, Новополоцк, Полоцк, Мозырь, Лида, Борисов, Солигорск, Молодечно, Бобруйск. Именно там в качестве пилотных проектов планируется выполнить первоочередную цифровую трансформацию с дальнейшей перспективой проведения планомерной цифровизации всех регионов республики7.
В настоящее время на основании Указа Президента Республики Беларусь №2 187 от 25 мая 2017 года осуществляется создание республиканской системы мониторинга общественной безопасности (РСМОБ) в Беларуси. РСМОБ создается российским интегратором «Синезис» по схеме государственно-частного партнерства для решения следующих задач:
- мониторинг объектов страны в интересах обеспечения общественного порядка;
- профилактика, раскрытие, пресечение преступлений и других правонарушений;
- предупреждение и обнаружение чрезвычайных ситуаций;
- организация оперативного реагирования на чрезвычайные события.
Предусматривается возможность распознавания лиц и номеров, индикации нарушения периметра, массовых скоплений людей, нарушений правил дорожного движения и др. 8
Согласно плану развития в 2021 году в РСМОБ будут передавать данные 13 000 камер видеонаблюдения. Доступ к данным, переданным в систему, имеют государственные органы Беларуси: МВД, МЧС, Оперативно-аналитический центр, Государственный таможенный контроль, Государственный пограничный комитет, Служба безопасности Президента Республики Беларусь, а также органы государственной безопасности. Пользователи получают доступ к РСМОБ безвозмездно9.
Как и во многих государствах, новости о том, что камеры наружного наблюдения будут объединены в общую систему, вызвали негативные ассоциации. Так, одна из новостей, связанных с этим, имела следующее наименование: «Все камеры Минска объединят в государственную сеть. Как жить в городе, который за тобой следит?»10 В этой связи представляется крайне важным определить направления правового регулирования систем общественной безопасности таким образом, чтобы обеспечить соблюдение права на неприкосновенность частной жизни, не допустить произвольное вмешательство в жизнь человека.
Наряду с большим положительным эффектом от внедрения систем ИИ для общественной безопасности, существуют и отрицательные стороны.
В сознании людей существует определенная связь между постоянным наблюдением за ними и тоталитаризмом, как следствие, любое обсуждение видеонаблюдения неизбежно приходит к дискуссии об «оруэловских кошмарах», с использованием таких метафор как «Большой брат» [7]. Этический вопрос «вторжения» систем видеонаблюдения и видеоаналитики в частную жизнь каждого отдельного добропорядочного гражданина, на которое он не давал своего предварительного согласия, заслуживает отдельного обсуждения. Но главный правовой вопрос можно сформулировать довольно быстро: насколько это в принципе согласуется с нормами основного закона страны - Конституции?
К настоящему времени в стране функционирует достаточно большое количество баз данных, содержащих как персональные, так и иные данные в отношении каждого человека. Так, создана и функционирует государственная централизованная автоматизированная информационная система «Регистр населения», основу которой составляет база персональных данных граждан, иностранных граждан и лиц без гражданства, постоянно проживающих в Республике Беларусь. В связи с этим применение систем ИИ позволяет не только распознать лицо человека, но и получить всю информацию о нем путем выборки, которая содержится во всех базах данных страны.
Таким образом, следует определить четкий правовой механизм сбора и защиты персональных данных и частной жизни в части получения данной информации:
- обозначить цели, для которых возможно использование информации с камер видеонаблюдения;
- определить круг лиц, имеющих доступ к базам с обязанностью сохранности данной информации в тайне и ответственности за ее разглашение;
- строго регламентировать порядок доступа иных лиц;
7 Мингорисполком разработал программу трансформации Минска в «умный» город [Электронный ресурс]. // СБ. Беларусь сегодня. URL: https://www.sb.bv/articles/mingorispolkom-razrabotal-programmu-transformatsii-minska-v-umnvv-gorod.html.
8 Сычевич, В. Где и как в стране будут реализовывать концепцию умных городов [Электронный ресурс] / В. Сычевич // Pravo.by. URL: https://pravo.bv/novosti/obshchestvenno-politicheskie-i-v-oblasti-prava/2020/mart/48257/.
9 Там же.
10 «Синезис» стал инвестором системы общественной безопасности в Беларуси город [Электронный ресурс] // RUБЕЖ. URL: https://ru-bezh.ru/meroprivativa/news/19/10/25/sinezis-stal-investorom-sistemvi-obshhestvennoi-bezopasnosti-v-b.
- обеспечить эффективную техническую защиту (в том числе идентификация пользователей системы);
- получать согласие лица на сбор и обработку данных и др.
Кроме того, в современных условиях недостаточно проработанным и понятным для простого гражданина является механизм защиты его прав в случае их нарушения.
В свою очередь, органы общественной безопасности не должны рассматривать ИИ просто как еще одну программу или инструмент. Поскольку системы ИИ совершают выбор, затрагивающий людей, организации должны учить их действовать ответственно и прозрачно. Наличие хорошего управления становится все более важным для создания доверия к ИИ. Необходимо информировать граждан, почему и как государственные органы применяют ИИ. Почти треть граждан заявляют, что не до конца понимают преимущества ИИ и как правительство его использует. Поэтому прозрачность и обмен информацией играют важнейшую роль.
Заключение. В результате анализа международного опыта внедрения систем ИИ для обеспечения общественной безопасности ряда стран считаем возможным выделить следующие модели функционирования таких систем: китайскую, европейскую и смешанную. Принципом, который лег в основу выделения данных моделей является отношение общества к данным системам в «умном городе». Так, в китайской модели интересы государства превалируют над интересами отдельно взятого человека, в европейской модели, напротив, правам человека уделяется внимание, вследствие чего интересы государства нередко отходят на второй план. В смешанной модели присутствуют признаки как первой, так и второй модели. Следует отметить, что во всех демократических странах стоит вопрос поиска баланса интересов государства и человека.
Сегодня имеются достаточно широкие возможности по применению ИИ для обеспечения общественной безопасности, от обезличенного видеонаблюдения - распознавания отслеживания и передвижения людей без распознавания лица, т.е. без идентификации, и с распознаванием лица, что впоследствии дает возможность получения информации из всех имеющихся баз данных подключенных к единой системе.
Следует констатировать, что интеллектуальное видеонаблюдение будет играть все более ключевую роль в создании и функционировании «умных городов». С одной стороны, применение подобных систем действительно приводит к положительной динамике сокращения преступности, предотвращения крупных аварий и т.д., с другой стороны - далеко не каждое общество отдельно взятой страны готово к тотальному контролю со стороны государства и небезосновательно видит в этом посягательство на тайну частной жизни. В основном недовольство людей сконцентрировано на распознавании лиц, т.е. полной идентификации человека. В этой связи поиск баланса интересов государства и человека приводит к необходимости как технической защиты информации, так и правового регулирования вопросов защиты неприкосновенности частной жизни, включающий строгую регламентацию доступа лиц, ответственность лиц, имеющих доступ к системам, закрепление прав человека и др.
Одной из проблем является открытие обществу доступа к алгоритмам, с помощью которых ИИ анализирует поведение людей, чтобы повысить доверие людей к системам искусственного интеллекта. При наличии правильной стратегии и контроля системы контроля общественной безопасности на базе ИИ предоставляют огромные преимущества как гражданам, так и правительству. Однако для полного использования всего потенциала технологий ИИ важно, чтобы доверие и легитимность оставались главными приоритетами для всех.
В силу специфики и объема собираемой информации само по себе увеличение количества систем наблюдения, датчиков и камер фото- и видеофиксации не будет являться показателем эффективности развития «умных городов». Оценка «умного города» через такой критерий как реализация права на неприкосновенность частной жизни будет связана с такими показателями, как число инцидентов, связанных с нарушениями безопасности, скорость реагирования на них, и т.п. В качестве индикаторов права на неприкосновенность частной жизни можно выделить следующие: техническая защита, безопасность функционирования систем, реагирование на инциденты, бесперебойность работы систем, правовые и организационные меры защиты персональных данных и др.
ЛИТЕРАТУРА
1. Шрейнер, И.Ю. Внедрение системы «умный город» для повышения безопасности городской среды / И.Ю. Шрейнер, И.С. Пашкова // Безопасность городской среды : материалы IV Междунар. научно-практ. конф., Омск, 1618 нояб. 2016 г. - Омск : Омский гос. техн. ун-т, 2017. - С. 314-316.
2. Тургель, И.Д. Управление в области защиты окружающей среды городов как элемент Smartcity: опыт России и Казахстана / И.Д. Тургель, Л.Л. Божк, Е.А. Ульянова // Весенние дни науки ВШЭМ : сб. докл. Междунар. конф. студентов и молодых ученых, Екатеринбург, 17-19 апр. 2019 г.. - Екатеринбург : ООО «Изд-во УМЦ УПИ», 2019. - С. 656-658.
3. Климович, А.П. Влияние цифровых технологий на современное общество. Пример системы рейтинга социального кредита в Китае / А.П. Климович // Цифровая социология. - 2020. - Т. 3. - № 3. - С. 35-44.
4. Руф, Ю.Н. Возможности внедрения системы социального рейтинга в России в условиях цифровизации / Ю.Н. Руф, Д.В. Каримова // Вопросы инновационной экономики. - 2010. - Т. 10. - № 2. - С. 881 - 890. doi: 10.18334^^.10.2.100772.
5. Богуш, Р.П. Алгоритм сопровождения людей на видеопоследовательностях с использованием сверточных нейронных сетей для видеонаблюдения внутри помещений / Р.П. Богуш, И.Ю. Захарова // Компьютерная оптика. -2020. - Т.44. - № 1 - С. 109-116. doi: 10.18287/2412-6179-CO-565.
6. Богуш, Р.П. Обнаружение объектов на изображениях с большим разрешением на основе их пирамидально-блочной обработки / Р.П. Богуш, И.Ю. Захарова, С.В. Абламейко // Информатика. - 2020. - №№ 2 - С. 7-16. doi: 10.37661/18160301-2020-17-2-7-16.
7. Goold, B.J. CCTV and Policing / B.J. Goold. - Oxford University Press, 2004. - P. 2.
REFERENCES
1. Shreyner, I.Yu., Pashkova I.S. (2017). Vnedreniye sistemy «umnyy gorod» dlya povysheniya bezopasnosti gorodskoy sredy. [Bezopasnost'gorodskoy sredy], 314-316. (In Russ.).
2. Turgel, I.D. Bozhk, L.L., Ul'yanova, Ye.A. (2019). Upravleniye v oblasti zashchity okruzhayushchey sredy gorodov kak element Smartcity: opyt Rossii i Kazakhstana [Management in the field of environmental protection of cities as an element of smartcity: the experience of Russia and Kazakhstan]. In Vesenniyedninauki VSHEM, 656-658. (In Russ., abst. in Engl.).
3. Klimovich, A.P. (2020) Vliyaniye tsifrovykh tekhnologiy na sovremennoye obshchestvo. Primer sistemy reytinga sotsial'nogo kredita v Kitaye [The impact of digital technologies on modern society. an example of a social credit rating system in China]. Tsifrovaya sotsiologiya [DIgital sociology], (3), 35-44. (In Russ., abst. in Engl.).
4. Ruf, Yu.N. Karimova, D.V. (2010). Vozmozhnosti vnedreniya sistemy sotsial'nogo reytinga v Rossii v usloviyakh tsifrovizatsii [The implementation of the social ranking system in Russia in terms of digitalization]. Voprosy innovatsionnoy ekonomiki [Russian Journal of innovation economics], (10), 881 - 890. doi: 10.18334/vinec.10.2.100772 (In Russ., abst. in Engl.).
5. Bohush R.P., Zakharava I.Y. (2020). Algoritm soprovozhdeniya lyudej na videoposledovatel'nostyah s ispol'zovaniem svertochnyh nejronnyh setej dlya videonablyudeniya vnutri pomeshchenij [Person tracking algorithm based on convolutional neural network for indoor video surveillance]. Komp'yuternaya optika [Computer Optics] (1), 109-116. doi: 10.18287/2412-6179-C0-565. (In Russ., abst. in Engl.).
6. Bohush R.P., Zakharava I.Yu., Ablameyko S.V. (2020). Obnaruzhenie ob"ektov na izobrazheniyah s bol'shim razresheniem na osnove ih piramidal'no-blochnoj obrabotki [Object detection in high resolution images based on multiscale and block processing]. Informatika [Informatics], (2), 7-16. doi:10.37661/1816-0301-2020-17-2-7-16. (In Russ., abst. in Engl.).
7. Goold, B.J. (2004). CCTV and Policing. Oxford University Press, 2.
Поступила 28.01.2021
THE USE OF ARTIFICIAL INTELLIGENCE SYSTEMS IN ENSURING PUBLIC SAFETY IN A "SMART CITY": LEGAL ASPECTS
M. ABLAMEYKO, N. SHAKEL, R. BOGUSH
Ensuring public safety is an important issue for all developed countries of the world. In this area, various organizations conduct constant monitoring, as a result of which ratings are published, the results of which have a significant impact on choosing a place of residence, attracting tourists and investors, etc. To simplify control of public safety in cities, artificial intelligence systems are increasingly used. Along with the positive effects of such systems, the protection of human privacy is becoming a key issue. This article describes the results of Belarusian scientists on the creation of such systems and examines the features of their implementation in a "smart city" in our country. The experience of a number ofcountries in the implementation of artificial intelligence systems to strengthen public safety in existing "smart cities" is analyzed. The legal problems arising during the functioning of such systems are considered, especially in terms of limiting the freedom and rights of citizens. Proposals are given on the development of the regulatory framework in the Republic of Belarus in order to protect the rights of citizens.
Keywords: "smart city", public safety, artificial intelligence systems, video monitoring, privacy protection.
