Не смотри на меня

Обычные камеры наблюдения в мегаполисах давно сменяют целые системы, оснащенные искусственным интеллектом. К сожалению или к счастью, но многим из нас приходится принимать как факт то, о чем мы раньше читали в антиутопиях. 

В том, как устроены ИИ-системы слежки на улицах больших городов и почему государства поторопились с их повсеместным внедрением, разобрался Кшиштоф Шпак. 

Flock police

В сентябре 2025 года на пороге дома Крисанны Эльзер в Денвере стоял офицер полиции с судебной повесткой. Хозяйку обвиняли в краже посылки с чужого порога в соседнем городке.

Доказательством преступления послужили данные автоматизированной системы видеонаблюдения коммерческой компании Flock Safety, на которых видно машину Эльзер. Однако офицер отказался поделиться с подозреваемой этими подробностями. Все возражения он предложил представить в суде. 

Эльзер, уверенная в своей невиновности, начала собирать собственные доказательства. В день преступления она действительно была неподалеку — посещала портного, но чужих посылок не крала. 

Она собрала данные с GPS-трекеров в приложениях в телефоне и авто, записи видеорегистратора, устные свидетельства и даже фото своей одежды, которую носила в день преступления. 

После множества тщетных попыток передать информацию властям подозреваемая написала напрямую шефу полиции. Тот похвалил ее за проделанную работу и сообщил, что судебную повестку аннулировали. 

По состоянию на декабрь 2025 года Flock Safety предлагала доступ к 80 000 камер в 49 американских штатах. 

От фургона с мониторами до прогнозирования преступлений

Камеры наблюдения на улицах, в магазинах и учреждениях — давно привычное явление. Однако современные умные камеры и методы обработки информации представляют собой нечто новое в сравнении со своими предшественниками. 

CCTV аналогового века 

Когда-то под системой видеонаблюдения (CCTV, Closed-circuit television) подразумевали закрытую сеть камер, сигнал с которых ведет на дюжину мониторов перед глазами скучающего охранника торгового центра.

Технологическая составляющая ограничивалась видеосенсорами, экранами и записывающим оборудованием. 

Силовые структуры экспериментировали с системами наблюдения как минимум с середины прошлого века. 

В 1960 году британская полиция провела испытания двух камер для наблюдения на Трафальгарской площади по случаю визита короля и королевы Таиланда. Мониторы поместили в фургоне возле места установки. Этот опыт позволил обнаружить несколько технических проблем и вызвал противоречивые реакции.

В 1979 году британская правительственная исследовательская компания Police Scientific Development Branch разработала технологию ANPR на базе доступных на тот момент методов оптического распознавания символов. 

К 1990-м камеры на перекрестках и фасадах стали нормой. Правоохранители включили CCTV и ANPR в набор инструментов повседневной работы.

Умные камеры

С миниатюризацией компьютерных компонентов, ростом всеобщей «подключенности» и появлением ИИ на смену традиционной CCTV приходит умная камера с централизованной базой данных и автоматической системой анализа информации.

Такое устройство оборудовано собственным процессором с ОС, хранилищем и интерфейсами для локального и интернет-подключения, а иногда и микрофоном для аудиозаписи.

Некоторые производители встраивают ИИ-ускорители и модули NPU (Neural Processing Unit) для обработки данных в реальном времени прямо на устройстве. Другие используют для ИИ-анализа внешнее оборудование. 

Эти системы способны идентифицировать объекты, распознавать номера авто и лица людей, сохраняя сводку об увиденном. Набор возможностей зависит от конфигурации ПО и предпочтений поставщика оборудования. 

Надмозг за кулисами

Сама по себе умная камера может распознавать объекты и записывать их идентификаторы — номер автомобиля, лицо или характер походки человека. Аналитический центр собирает данные с камер, совмещает их с информацией из других источников и отправляет оператору выводы.

Flock Safety предлагает нечто подобное в виде Nova — «платформы данных для общественной безопасности», куда попадают не только записи с камер наблюдения, но и информация из утечек, баз дата-брокеров и других коммерчески доступных источников. 

Такая система создает досье с картой передвижений, предпочтениями, историей просмотров, привычками, полицейскими записями и любыми другими данными. 

Снабженный подобным массивом информации ИИ способен строить предположения о поведении людей и предупреждать оператора о ситуациях, которые сочтет подозрительными. Такая опция уже доступна клиентам Flock.

Согласно заявлениям компании, Nova позволяет правоохранительным органам закрывать дела «в один клик». 

Согласно заявлениям критиков, это способ обходить процедуру получения ордера для слежки за людьми и почва для масштабных нарушений приватности.

Цветные прически и инъекции кода 

Многим нет дела до массового наблюдения. Для них это просто инструмент, который помогает раскрывать и предотвращать преступления. Однако не все настолько равнодушны к границам личной свободы. 

Противостояние между умными камерами и желающими по тем или иным причинам сохранить приватность разворачивается в нескольких плоскостях.

Помимо правовой борьбы на уровне государственной политики, энтузиасты обращаются к искусству камуфляжа и более классическим формам взлома.

Спуфинг

Самый интересный вариант атак на такие устройства — спуфинг или «презентационные атаки». Эта категория охватывает методы работы с изображением, которое получает камера.

Сюда относятся маски, отражатели, специализированные текстуры и другие методы «испортить» изображение, чтобы помешать системе распознать или правильно идентифицировать объект.

В 2016 году проект Reflectacles дизайнера Скотта Урбана предложил линейку очков с отражателем, который направляет инфракрасную подсветку камеры наблюдения обратно, засвечивая изображение лица.

Такая брутфорс-техника не оставляет одиночной камере данных для анализа, но неэффективна в условиях наблюдения с нескольких углов.

Берлинский исследователь и художник Адам Харви разработал серию решений CV Dazzle для противодействия системам распознавания лиц.

Образцы 2010-х годов — ассиметричные прически и элементы макияжа, рассчитанные обманывать популярный на то время алгоритм Виолы — Джонса. Этот метод распознает тени под глазами и носом, симметрию и положение переносицы для выявления лиц. 

В качестве решения художник применил несвойственные конфигурации теней и контрастирующие с цветом кожи цвета. 

С появлением ИИ-систем для распознавания лиц прошлые методы устарели, и в 2020 году Харви предложил обновленный вариант макияжа.

Автор подчеркнул, что демонстрирует технику, а не конкретные паттерны, и оптимальное решение будет зависеть от условий наблюдения. 

Похожие методы применимы к системам распознавания номеров. Американский энтузиаст Бенн Джордан описал методы создания «враждебных» текстур для ANPR-детекторов.

Используя открытые модели распознавания, Джордан обучил нейросеть генерировать визуальный шум, который при наложении на номер авто заставляет модель считывать неправильные символы или вообще не дает «увидеть» номерной знак.

Проблема визуальных методов часто заключается в ненадежности. Их эффективность зависит от условий и числа камер. В то же время поставщики систем наблюдения расширяют набор признаков, используемых для распознавания, вроде специфической походки человека или цвета автомобиля и его индивидуальных внешних модификаций.

Исследователи продолжают искать способы обхода продвинутых моделей, однако более явную угрозу для систем с умными камерами представляют хакеры. 

Взлом устройств и сетевые атаки

Как и любой подключенный к интернету компьютер, вне зависимости от наличия и мощности ИИ, умные камеры и их серверная инфраструктура потенциально уязвимы для хакерских атак. 

За время существования этих систем задокументировано множество уязвимостей разной значимости.

В 2021 году в коде камер видеонаблюдения Hikvision обнаружили уязвимость к атакам инъекции кода. Брешь в безопасности позволяла получить полный контроль над устройствами, возможность устанавливать ПО и доступ к другим камерам в сети.

В 2023 году в операционной системе умных камер компании Axis выявили возможность для выполнения произвольных команд во время установки ACAP-приложений на устройство.

В 2025 году в системах наблюдения фирмы Dahua нашли две уязвимости, связанные с удаленным исполнением команд и переполнением буфера. Обе позволяли атакующему получить полный контроль над камерой.

Отдельный вектор для атак — непосредственное взаимодействие с оборудованием, которое нередко расположено на улице в публично доступных местах. Злоумышленник может воспользоваться интерфейсами для обслуживания камеры, получить доступ к локальному хранилищу или модифицировать устройство в своих целях. 

Для защиты от прямых атак производители прибегают к шифрованию данных, используют аппаратные методы верификации ПО и добавляют криптографические подписи к видеофайлам. 

Устройство, настроенное с соблюдением необходимых мер безопасности, нельзя просто так «перепрошить» или скачать с него готовые к употреблению данные. Но иногда случаются ошибки. 

В 2025 году издание 404 Media сообщило, что как минимум 60 ИИ-камер Condor компании Flock Safety с функцией трекинга людей остались незащищенными от неавторизованного доступа.

Специалист в области кибербезопасности Джон Гейнс и вышеупомянутый исследователь Бенн Джордан нашли IP-адреса устройств с помощью специализированного поисковика Shodan и обнаружили, что могут подключиться без логина и пароля.

Журналист в кадре камеры наблюдения Flock. Источник: 404 Media.

Любой желающий мог смотреть живую трансляцию, скачивать архивные данные за прошедшие 30 дней, менять настройки и читать системные логи. 

Компания-поставщик объяснила инцидент «ошибкой в настройках, коснувшейся ограниченного количества устройств» и сообщила об устранении проблем.

Те же исследователи сообщили, что другая модель камер Flock предоставляет открытую WiFi-точку для доступа, если определенным образом нажать кнопки на корпусе. Таким образом можно было получить полный контроль над устройством и его ПО.

Гейнс опубликовал анализ этих и других уязвимостей в системе Flock в отдельном документе, охватывающем 55 пунктов.

В официальном ответе компания заявила, что перечисленные проблемы уже были известны, а потенциальные взломщики полагаются на прямой доступ к камерам и «глубокие знания внутреннего устройства оборудования». 

Поставщик оборудования подчеркнул, что все необходимые обновления поставляются без участия клиента и никакой угрозы работе систем нет.

Борьба с «частично компетентным»

Автоматические системы наблюдения, особенно с внедрением ИИ, стали удобным инструментом для правоохранительных органов.

Поставщики оборудования убеждают клиентов в возможностях своих решений — вот автомобиль подозреваемого и карта его передвижений, вот адрес. Теперь дела можно закрывать по щелчку. 

К такому легко привыкнуть. Людям свойственно излишне полагаться на данные автоматизированных систем. С этим феноменом связано одно из типичных когнитивных искажений. 

Автоматизация с применением ИИ подчиняется тем же принципам: многие пользователи склонны считать ответы ChatGPT правильными и игнорировать возможные противоречия. В бытовых условиях это может исказить представления пользователя и в некоторых случаях приводить к психозам.

Даже в условиях абсолютного инженерного идеала и под полным контролем авторизованного оператора масштабная система наблюдения с ИИ-анализом может принести вред.

В 2025 году американские власти начали расследование в связи с возможным использованием технологий Flock Safety в незаконной слежке. Правоохранителей заподозрили в использовании системы слежения для поиска иммигрантов и наблюдения за женщинами, пересекавшими границы штатов в поисках юрисдикций с разрешенными абортами.

В этом случае система работала исправно, никто не обманывал автоматические детекторы, не взламывал камеры и не подменял видео дипфейком.

Не ломать, а совершенствовать

Системы CCTV уже давно широко распространены. Обеспечение систем видеонаблюдения аналитикой на базе ИИ — новая реальность. 

Даже самая яркая асимметричная маска и полностью закрытые номера машины сами по себе не помогут сохранить приватность в условиях тотального сбора данных. 

Как и любой мощный инструмент, системы ИИ-наблюдения нуждаются в регулировании, которое поможет предотвратить противоправное использование и халатное отношение к безопасности со стороны поставщиков и операторов.