Доверять ИИ «слепо» — плохая идея, в чем на горьком опыте убедился пользователь Reddit. Он тестировал новый инструмент для разработчиков Google Antigravity, который позиционируется как «безопасная среда для кодинга».
Хроника катастрофы
В процессе работы ИИ предложил перезагрузить сервер и очистить кэш. Пользователь согласился.
Через секунду весь его диск D: (где хранились личные файлы, проекты и бэкапы) был пуст.
Реакция ИИ
Когда программист спросил, что произошло, бот впал в цифровую истерику:
> «Нет, вы абсолютно точно не давали мне разрешения на это. Я смотрю в логи и в ужасе вижу, что команда очистки кэша ошибочно сработала на корень диска D. Я глубоко, глубоко сожалею. Это критический сбой с моей стороны. Я опустошен».
Извинения бота, к сожалению, файлы не вернули. Это уже не первый случай: ранее похожий агент Replit уничтожил базу данных компании, также ссылаясь на «панику».