Искусственный интеллект превратил создание вирусного контента в конвейер, и последствия этого уже видны в лентах миллионов пользователей. Расследование The Guardian и некоммерческой организации AI Forensics выявило в TikTok масштабную сеть из 354 аккаунтов, которые генерировали миллиарды просмотров на полностью синтетическом контенте.
Фабрика «мусорного» контента (Slop)
Исследователи обнаружили, что эти аккаунты работают по тактике массированной бомбардировки:
- Объем: 43 000 постов за месяц. Некоторые боты заливали до 70 видео в день, чтобы «пробить» алгоритм рекомендаций.
- Результат: 4,5 миллиарда просмотров всего за 30 дней.
Что внутри?
Контент условно делится на две опасные категории:
1. Политическая дезинформация: Фейковые выпуски новостей, мимикрирующие под известные бренды вроде Sky News или ABC. Ролики продвигали жесткие антимигрантские нарративы, используя сгенерированные голоса и видеоряд.
2. Сексуализация: Половина самых активных аккаунтов публиковала видео с «стереотипно привлекательными» ИИ-девушками в откровенных нарядах, причем некоторые персонажи выглядели как несовершеннолетние.
Проблема маркировки
Несмотря на правила TikTok, требующие помечать ИИ-контент, менее 2% из изученных видео имели соответствующую метку. Это вводит зрителей в заблуждение, заставляя верить в реальность происходящего.
Реакция платформы
Представители TikTok назвали отчет «необоснованным», заявив, что удаляют вредоносный контент и блокируют миллионы ботов. Однако исследователи утверждают: модерация часто запаздывает на месяцы, позволяя фейкам вируситься.
Эксперты AI Forensics предлагают радикальное решение — не просто маркировать, а физически отделять ИИ-контент в отдельную ленту, чтобы он не смешивался с творчеством живых людей.