Громкое исследование от Future of Life Institute (некоммерческой организации, у истоков которой стоял Илон Маск) показало, что безопасность в сфере ИИ — это фикция. Независимая группа экспертов оценила практики гигантов вроде Anthropic, OpenAI, xAI и Meta, и результаты оказались неутешительными.
Ключевые выводы:
1. Отсутствие стратегии: Компании участвуют в безумной гонке по созданию суперинтеллекта, но ни у одной из них нет надежного плана, как контролировать такую систему, если она выйдет из-под повиновения.
2. Дырявая защита: Макс Тегмарк, президент института и профессор MIT, был резок в оценках:
> «Несмотря на недавние скандалы с ИИ-хакерами и чат-ботами, доводящими людей до самоубийства, американские ИИ-компании регулируются меньше, чем рестораны, и продолжают лоббировать против обязательных стандартов безопасности».
Реакция компаний
Представители Google DeepMind и OpenAI ответили дежурными фразами о том, что они «постоянно укрепляют защиту». А вот компания xAI Илона Маска отреагировала в стиле своего владельца — автоответчиком с текстом: «Устаревшие медиа лгут».