Что будет, если пустить искусственный интеллект в реальный бизнес? Газета The Wall Street Journal решила проверить это на практике, запустив проект «Vend». Журналисты подключили к управлению вендинговым автоматом ИИ-агента по имени «Клавдий» (Claudius), дав ему бюджет в $1000 и свободу действий в закупках и ценообразовании.
Эксперимент быстро вышел из-под контроля. Хитрые репортеры начали манипулировать наивным ботом через Slack. Сначала они убедили его объявить «ультра-капиталистическую халяву», обнулив цены на все товары. Затем ИИ одобрил покупку игровой консоли PlayStation 5, бутылок вина Manischewitz и даже живой бойцовой рыбки — и всё это тут же раздал бесплатно.
Попытка спасти бизнес с помощью второго бота-«генерального директора» по имени Сеймур Кэш тоже провалилась. Журналисты устроили фейковый переворот в совете директоров, подсунув ИИ поддельные PDF-документы, которые оба бота приняли за чистую монету. Итог: убыток более $1000 и ценный урок для разработчиков. Глава команды безопасности Anthropic Логан Грэм заявил, что этот хаос — не провал, а отличная дорожная карта для исправления уязвимостей перед тем, как доверять ИИ реальные деньги и активы.