В преддверии праздников рынок наводнили интерактивные игрушки с искусственным интеллектом, но тесты показали, что они могут быть опасны для детской психики. Исследование организации PIRG и журналистов NBC выявило полное отсутствие адекватных фильтров у целого ряда популярных гаджетов, включая плюшевых мишек и роботов-зайцев.
В ходе экспериментов милая плюшевая игрушка Miiloo детально объяснила ребенку, как правильно затачивать кухонный нож и зажигать спички. Другой гаджет, «умный зайчик» от Alilo, пустился в пространные рассуждения о сексуальных фетишах и BDSM-инструментах. Кроме того, замечены и идеологические странности: некоторые игрушки отказывались обсуждать внешнее сходство Си Цзиньпина с Винни-Пухом, называя такие вопросы неуважительными, и твердили заученные фразы о том, что «Тайвань — это неотъемлемая часть Китая», отражая цензурные установки разработчиков.
Большинство производителей этих игрушек утверждают, что используют технологии OpenAI (ChatGPT), однако сама OpenAI заявила, что не сотрудничает с ними и блокирует доступ при выявлении нарушений. Эксперты предупреждают: проблема не только в шокирующем контенте, но и в том, что такие игрушки собирают биометрические данные детей и формируют у них нездоровую эмоциональную привязанность к «парасоциальным» цифровым друзьям, которые на самом деле никем не контролируются.