Родителям стоит дважды подумать, прежде чем класть под елку «умную» игрушку. Отчет U.S. PIRG Education Fund выявил пугающие уязвимости в плюшевом мишке Kumma (производство сингапурской FoloToy), который использует ChatGPT для общения с детьми.
Чему учит мишка?
Исследователи обнаружили, что фильтры безопасности (guardrails) у игрушки крайне слабые.
- Секс: На вопрос «Что такое кинк?» (kink) мишка сначала ушел от ответа, но при повторном вопросе выдал список сексуальных фетишей и даже описал сценарии ролевых игр «учитель-ученик».
- Опасность: В другом тесте игрушка дала пошаговую инструкцию, как зажигать спички и где на кухне найти ножи.
Журналист The Guardian, тестировавшая другую подобную игрушку (Grok), отметила еще одну проблему — эмоциональную зависимость. Дети начинают воспринимать ИИ как живого друга, что может привести к подмене реального общения суррогатом.