В средней школе Lawton Chiles во Флориде обычный учебный день превратился в хаос из-за ошибки алгоритма. Система безопасности от компании ZeroEyes, анализирующая видеопоток в реальном времени, отправила в полицию сигнал тревоги: камеры засекли человека в камуфляже, целящегося из предмета, похожего на винтовку.
Школа мгновенно ушла на локдаун. Прибывшие полицейские начали прочесывать классы, но не обнаружили ни стрелка, ни звуков выстрелов. Разгадка нашлась в кабинете музыки. «Подозреваемым» оказался ученик, одетый в костюм военного персонажа для тематического праздника. В руках он держал не оружие, а кларнет, который система приняла за ствол винтовки.
Компания ZeroEyes, чьи системы установлены в школах 48 штатов, заявила, что не считает инцидент ошибкой, аргументируя это принципом «лучше перебдеть». Однако эксперты предупреждают о рисках «усталости от тревог» (alarm fatigue). Подобные сбои случаются все чаще: в Мэриленде ИИ принял пакет чипсов Doritos за пистолет, а в Техасе школа закрылась из-за ложной тревоги о винтовке. При этом в ряде реальных инцидентов, как в школе Антиок в Нэшвилле, системы не смогли вовремя обнаружить настоящего стрелка.