В безумной гонке ИИ, где каждая компания стремится выпустить модель мощнее и быстрее, прозвучал голос разума. Мустафа Сулейман, глава потребительского ИИ в Microsoft (и сооснователь DeepMind), публично пообещал нажать на тормоза, если технологии зайдут слишком далеко.
Обещание безопасности
«Мы не будем продолжать разработку системы, которая имеет потенциал выйти из-под нашего контроля», — заявил Сулейман в интервью Bloomberg.
Он отметил, что создавать суперинтеллект, который «согласован с интересами людей» — это база. Однако, по его словам, сейчас в индустрии это звучит как «новаторская позиция», намекая на то, что конкуренты (вроде OpenAI) слишком увлеклись скоростью в ущерб безопасности.
Почему Microsoft заговорила об этом сейчас?
Раньше у Microsoft были связаны руки: контракт с OpenAI запрещал техногиганту самостоятельно разрабатывать AGI (общий искусственный интеллект) и сверхразум. Но в октябре сделка была пересмотрена.
- Развод и девичья фамилия: Так как OpenAI начала строить дата-центры с Oracle и брать деньги у SoftBank, Microsoft получила право создавать собственный AGI.
- Новая стратегия: Теперь компания Сулеймана не просто внедряет чат-ботов, а целится в создание систем, превосходящих человека во всех задачах.
Вердикт: Пока разговоры о восстании машин остаются теорией (нынешний Copilot всё еще ошибается в простых вещах), Microsoft пытается занять нишу «ответственного взрослого» в комнате, полной гиперактивных стартапов.