Компания Amazon Prime Video была вынуждена тихо свернуть тестирование своей новой функции Video Recaps. Идея была отличной: нейросеть анализирует сезон, выбирает ключевые моменты и генерирует короткий ролик с пересказом, чтобы зритель мог освежить память перед новыми сериями. Но исполнение подвело.
Хроника провала
Всё сломалось на хитовом сериале Fallout. Фанаты, решившие посмотреть сгенерированный рекап первого сезона, обнаружили там альтернативную реальность:
1. Путаница с датами: ИИ-рассказчик уверенно заявил, что флешбэки Гуля (персонаж Уолтона Гоггинса) происходят в «Америке 1950-х годов». Любой фанат вселенной знает, что ядерный апокалипсис случился в 2077 году. Нейросеть не считала контекст «ретрофутуризма» (стиль будущего, застрявшего в эстетике 50-х) и выдала грубую фактическую ошибку.
2. Искажение мотивации: В пересказе утверждалось, что Гуль поставил главную героиню Люси перед выбором: «умереть или уйти с ним». В реальности сцена была куда сложнее: Люси могла уйти с Гулем или остаться одной в пустыне, рискуя попасть под удар Братства Стали. ИИ упростил драму до примитивного ультиматума.
Реакция Amazon
После того как скриншоты с ошибками разлетелись по профильным СМИ (первыми баг заметили Games Radar), Amazon удалил функцию не только из Fallout, но и из других тестовых проектов, включая сериалы «Джек Райан», «Загрузка» (Upload) и «Буровая» (The Rig).
Вердикт:
Этот кейс отлично показывает главную проблему текущих LLM — они «галлюцинируют» уверенным тоном. Для Amazon это имиджевый удар: компания пыталась автоматизировать творческий процесс создания трейлеров, но доказала лишь то, что живых редакторов списывать пока рано.