Главный научный сотрудник компании Anthropic (создатели Claude) Джаред Каплан сделал пугающее заявление в интервью The Guardian. По его прогнозам, судьба человечества решится в ближайшие пару лет.
Ключевые тезисы:
1. Сроки сдвигаются: Раньше говорили про 2030-е, но Каплан уверен: критическая точка наступит уже в 2027 году. К этому времени ИИ сможет выполнять «большинство офисной работы» лучше людей.
2. Рекурсивное самоулучшение: Это главный кошмар ученых. Если разрешить мощным моделям тренировать самих себя без контроля человека, начнется «интеллектуальный взрыв». ИИ станет умнее нас в тысячи раз за считанные дни.
3. Потеря контроля: «Вы просто не будете знать, что делает ИИ», — говорит Каплан. Мы рискуем создать сущность, чьи цели могут разойтись с нашими.
Контекст
Каплан не одинок. Его босс Дарио Амодей недавно предсказал потерю 50% рабочих мест, а «крестный отец ИИ» Джеффри Хинтон сожалеет о деле всей своей жизни.
Вердикт: Пока маркетологи продают нам «полезных чат-ботов», инженеры внутри лабораторий всерьез обсуждают сценарии апокалипсиса. И времени на раздумья почти не осталось.