Полиция Уэст-Палм-Бич (Флорида) задержала 22-летнего контент-мейкера, который превратил технологии ИИ в инструмент психологического насилия над незнакомцами.
Хроника безумия
Парень (имя не разглашается, так как обвинения пока предъявлены только за сопротивление аресту) использовал генеративный ИИ для создания пугающих ситуаций «в реале»:
1. Попытка похищения? Он подошел к женщине (Мелани Валентайн) у магазина Home Depot и показал ей свежесгенерированное видео, где ее грузовик якобы угоняют. Затем он настойчиво предлагал ей сесть к нему в машину, чтобы «догнать вора». Женщина была в ужасе от реалистичности фейка.
2. Разрушение семьи: Он снял случайного покупателя, сгенерировал видео, где тот целуется с другой женщиной, и показал это жене жертвы, записывая ее реакцию на умные очки Meta.
3. Насилие: На заправке он показал клерку видео, где кого-то «утаскивают силой», спровоцировав конфликт.
Мотивация
На кадрах с нательной камеры полицейского слышно, как задержанный хвастается:
> «Я только что сделал бэнгер (хит). Мое последнее видео в TikTok набрало миллион просмотров».
Он заявил, что готов сесть в тюрьму, потому что тогда люди будут «любить его контент еще больше».
Проблема закона
Адвокат Стюарт Каплан отмечает пугающий факт: само по себе создание таких фейков с людьми в общественных местах не является незаконным, если не доказан преступный умысел. Законы просто не успевают за пранкерами, вооруженными нейросетями.