«Мама, забери меня! Мой друг мертв, он мертв!» — с этих рыданий, которые раздались в телефонной трубке, для Элизабет Бенз из Буффало (штат Нью-Йорк) начался худший кошмар в жизни любой матери. Голос, который она услышала, был на 100% голосом ее 16-летнего сына Фреда. Но, как оказалось, это была лишь изощренная подделка, созданная искусственным интеллектом.
«Мы убьем вашего сына»
В тот день Фред должен был быть на школьном футбольном матче. Когда Элизабет ответила на звонок с незнакомого номера, она услышала панический плач своего сына. Тут же трубку перехватил другой, холодный мужской голос.
«Он сказал: ‘Произошел несчастный случай. Ваш сын оказался в ситуации, в которой ему не следовало быть'», — рассказывает Элизабет.
Незнакомец сообщил, что Фред случайно стал свидетелем наркосделки, и потребовал, чтобы женщина сохраняла спокойствие и ни в коем случае не звонила в полицию. «Я слышала, как он плачет на заднем плане. Это на 100% был голос моего сына», — говорит она.
Мошенники приказали Элизабет не вешать трубку, угрожая, что в противном случае ее сын погибнет. «Они сказали: ‘Эти переговоры скоро закончатся, мы убьем вашего сына'», — вспоминает женщина.
Спасение: Геолокация и «стоп-слово»
Пока Элизабет, оцепенев от ужаса, оставалась на линии, она смогла предупредить мужа и других сыновей, которые были дома. Семья немедленно начала действовать. Они позвонили в полицию, а параллельно проверили геолокацию на телефоне Фреда. Приложение показывало, что он находится именно там, где и должен был быть — на стадионе.
Друзья на матче подтвердили, что Фред с ними, но на звонки он не отвечал. Тогда братья помчались на стадион, чтобы убедиться лично. Через несколько минут они прислали мужу Элизабет фотографию: Фред был там, живой и невредимый. «Это было огромное, огромное облегчение», — говорит мать.
Именно в этот момент, когда семья уже знала, что все в порядке, мошенник на другом конце провода потребовал $2,500 за «безопасное возвращение» Фреда. Стало окончательно ясно, что это афера, построенная на сгенерированном голосе. «100% ИИ. Я не могу придумать ничего другого. Это был голос моего сына», — уверена Элизабет.
Как работают «голосовые дипфейки»?
Эксперты подтверждают: технология голосовых дипфейков становится все более доступной и реалистичной. «Качество ИИ-сгенерированных голосов становится все лучше и лучше», — говорит Сивэй Лю, профессор компьютерных наук из Университета в Буффало.
По его словам, мошенникам достаточно очень короткого образца голоса человека (например, из видео в соцсетях), чтобы создать убедительную подделку.
Еще в мае 2024 года ФБР предупреждало о росте подобных преступлений. «Злоумышленники используют ИИ для создания очень убедительных голосовых или видеосообщений… для мошеннических схем», — заявлял спецагент Роберт Трипп.
Как защититься?
Несмотря на ужас пережитого, Элизабет Бенз считает своим долгом поделиться историей, чтобы предупредить других. По иронии судьбы, всего за три недели до этого случая они в семье обсуждали подобные риски и даже придумали «стоп-слово» — секретное слово, которое нужно назвать в подобной ситуации для проверки.
«Ничто не могло подготовить меня к тому, как это произойдет на самом деле, — говорит она. — Если вам поступит такой звонок, я призываю вас не вести никаких переговоров, пока человек на том конце провода не услышит от вашего ребенка это ‘стоп-слово'».
«Это так мрачно, так мрачно — поступать так с людьми, — говорит Элизабет. — Лучшее, что я могу сделать, — это пролить на это свет».