Всё о нейросетях
Инцидент, о котором Anthropic сообщила в ноябре, оказался серьезнее, чем предполагалось. Китайские злоумышленники не просто использовали чат-бота для написания фишинговых писем. Они построили сложную экосистему из множества ИИ-агентов, каждый из которых отвечал за свой этап вторжения — от разведки до кражи данных. Главная угроза — адаптивность. Раньше хакеры использовали скрипты: если защита блокировала один шаг, … Читать далее
Портал Axios сообщает о тревожном тренде: способность ИИ к автономному взлому перестала быть теорией. Исследования показывают, что современные модели (агенты) могут: 1. Сканировать код и находить в нем дыры, которые пропустили люди. 2. Писать эксплойты (вредоносный код) для взлома этих дыр. 3. Действовать самостоятельно, выстраивая цепочки атак. Почему это важно? Раньше хакеру нужны были глубокие … Читать далее
Мы привыкаем болтать с ChatGPT как с другом, но Харш Варшни, сотрудник отдела AI Security в Google, предупреждает: эта интимность ложна и опасна. Вот 4 правила, которые он соблюдает сам, чтобы не потерять деньги и личность. 1. Правило «Публичной открытки» Никогда не пишите боту то, что вы не написали бы на почтовой открытке, которую может … Читать далее
Пока компании нанимают дорогих «белых хакеров» (пентестеров) с зарплатами по $125,000 в год, ученые из Стэнфорда создали им бюджетную замену. Агент ARTEMIS провел 16 часов, атакуя учебную сеть университета (8000 устройств), и результаты шокируют. ИИ против Человека Эффективность: Бот нашел 9 уязвимостей, превзойдя 9 из 10 профессиональных хакеров-людей. Скорость: ARTEMIS может атаковать десятки целей одновременно, … Читать далее
После добавления в Chrome умного помощника Gemini, Google столкнулась с новой угрозой — «непрямыми инъекциями промптов». Хакеры могут спрятать на сайте невидимый текст, который прикажет вашему ИИ отправить им ваши данные. Как Google защищается? Компания внедрила многоуровневую оборону: 1. Внутренний Критик (User Alignment Critic): Это отдельная нейросеть-цензор. Она проверяет каждое действие агента. Если вы попросили … Читать далее
Правительственные веб-ресурсы штата Индиана оказались непреднамеренными распространителями нелегального контента. Как выяснилось, их серверы использовались для хостинга документов, детально описывающих способы доступа к ИИ-приложениям для создания дипфейк-порнографии. Простой поиск в Google выводит на PDF-файлы, размещенные на домене Департамента здравоохранения штата (IDOH). В этих файлах содержатся инструкции по использованию нейросетей, способных «раздевать» людей на фотографиях и генерировать … Читать далее