После добавления в Chrome умного помощника Gemini, Google столкнулась с новой угрозой — «непрямыми инъекциями промптов». Хакеры могут спрятать на сайте невидимый текст, который прикажет вашему ИИ отправить им ваши данные.
Как Google защищается?
Компания внедрила многоуровневую оборону:
1. Внутренний Критик (User Alignment Critic): Это отдельная нейросеть-цензор. Она проверяет каждое действие агента. Если вы попросили «найти рецепт», а агент пытается «отправить email», Критик блокирует это действие.
2. Изоляция: ИИ делит сайты на «только чтение» и «запись». Он не может передать данные с вашего банковского сайта на подозрительный форум.
3. Награда за взлом: Google настолько уверена в защите, что предлагает хакерам до $20,000, если они смогут обойти эти барьеры.