Берлин и Mannheim обучают ПО распознавания насилия на постановочных и сгенерированных видео
Берлин и Mannheim обучают ПО распознавания насилия на постановочных и сгенерированных видео
В Берлине и Mannheim полиция использует искусственный интеллект для анализа поведения в общественных местах. Из-за нехватки реальных примеров насилия системы обучают на постановочных боях и видео, созданных ИИ, что может привести к ошибкам распознавания и дискриминации.
На площади Kottbusser Tor в Берлине установлены 30 камер, которые анализируют поведение людей с помощью искусственного интеллекта. Система должна автоматически выявлять потенциальные преступления. Для обучения ПО разработчики используют видеоролики, в которых отмечено, какое поведение считается нормальным, а какое должно вызвать тревогу.
Основная проблема обучения системы: в общественных местах недостаточно реальных примеров насилия. Поэтому в Mannheim полиция уже провела 2000 постановочных боёв для тренировки ПО и планирует ещё 8000. Эти видео классифицированы как “Verschlusssachen” (секретные материалы) и не подлежат разглашению. В Берлине выбрали другой подход: вместо постановочных боёв используют видео, сгенерированные искусственным интеллектом. Компания Staige, разработчик ПО, утверждает, что это позволяет расширить обучающий набор данных без использования локальных данных и соблюдая требования защиты данных.
Профессор информатики Heiko Paulheim из Mannheim указывает на риски такого подхода. Если обучающие данные не аутентичны, качество системы снижается. ПО, обученное на сгенерированных видео, может воспроизводить искажения: избыток динамичных сцен, предпочтение молодых людей, стереотипы. Это приводит к двум типам ошибок: система не распознаёт реальные проблемы (например, грабёж сумки у пожилой женщины) или ложно срабатывает на безобидное поведение (человек в капюшоне просто бегает трусцой).
Кроме того, берлинская система постоянно обучается на движениях людей на Kottbusser Tor. Полицейские отмечают, был ли каждый сигнал тревоги оправдан, и эти данные используются для дальнейшей оптимизации. Движения человека уникальны как отпечаток пальца. В декабре 2024 года берлинское правительство разрешило обучать поведенческий анализ ПО на персональных данных и передавать эти данные производителям ПО.
Автоматический дайджест, проверен редактором.