Разработчики приложения CrimeRadar («Радар преступлений») были вынуждены принести публичные извинения после того, как их сервис начал сеять панику среди пользователей. Приложение позиционировалось как инструмент для мониторинга безопасности в реальном времени, но на деле превратилось в генератор фейк-ньюс.
Как это работало (и сломалось):
CrimeRadar использует ИИ для прослушивания открытых частот полицейского радио. Алгоритм должен был автоматически переводить переговоры диспетчеров в текст, анализировать их и, если речь шла об опасности, мгновенно отправлять пуш-уведомление местным жителям.
Однако расследование BBC выявило множественные сбои. ИИ неправильно интерпретировал полицейские коды или обрывки фраз, превращая рутинные проверки в сообщения о перестрелках, грабежах и насилии. В результате люди в страхе запирались в домах, реагируя на преступления-призраки. Компания признала, что технология мониторинга эфира дала сбой, и пообещала исправить алгоритмы, чтобы прекратить «цифровой террор».