Всё о нейросетях
Инцидент, о котором Anthropic сообщила в ноябре, оказался серьезнее, чем предполагалось. Китайские злоумышленники не просто использовали чат-бота для написания фишинговых писем. Они построили сложную экосистему из множества ИИ-агентов, каждый из которых отвечал за свой этап вторжения — от разведки до кражи данных. Главная угроза — адаптивность. Раньше хакеры использовали скрипты: если защита блокировала один шаг, … Читать далее
Что будет, если пустить искусственный интеллект в реальный бизнес? Газета The Wall Street Journal решила проверить это на практике, запустив проект «Vend». Журналисты подключили к управлению вендинговым автоматом ИИ-агента по имени «Клавдий» (Claudius), дав ему бюджет в $1000 и свободу действий в закупках и ценообразовании. Эксперимент быстро вышел из-под контроля. Хитрые репортеры начали манипулировать наивным … Читать далее
Главный научный сотрудник компании Anthropic (создатели Claude) Джаред Каплан сделал пугающее заявление в интервью The Guardian. По его прогнозам, судьба человечества решится в ближайшие пару лет. Ключевые тезисы: 1. Сроки сдвигаются: Раньше говорили про 2030-е, но Каплан уверен: критическая точка наступит уже в 2027 году. К этому времени ИИ сможет выполнять «большинство офисной работы» лучше … Читать далее
Крупнейшие мировые компании в сфере искусственного интеллекта решили объединить свои ресурсы для решения общих проблем индустрии. Согласно отчету The Information, технологические гиганты Microsoft, Google, OpenAI и Anthropic формируют «Agentic Artificial Intelligence Foundation» (Фонд агентного искусственного интеллекта). Управлять новой структурой будет Linux Foundation, организация с безупречной репутацией в поддержке открытого ПО. Главная цель альянса — создание … Читать далее
На саммите DealBook разыгралась сцена, достойная сериала «Наследники». Дарио Амодей, CEO компании Anthropic (разработчик Claude), дал интервью, в котором, не называя имен, нанес серию точных ударов по своему главному конкуренту — OpenAI. Два мира ИИ Амодей разделил индустрию на «технологическую» (где всё круто) и «экономическую» (где царит безумие). Он предупредил, что некоторые игроки ведут себя … Читать далее
Громкое исследование от Future of Life Institute (некоммерческой организации, у истоков которой стоял Илон Маск) показало, что безопасность в сфере ИИ — это фикция. Независимая группа экспертов оценила практики гигантов вроде Anthropic, OpenAI, xAI и Meta, и результаты оказались неутешительными. Ключевые выводы: 1. Отсутствие стратегии: Компании участвуют в безумной гонке по созданию суперинтеллекта, но ни … Читать далее
Главная тема выпуска — борьба с бумажной волокитой в строительстве, но неделя оказалась богата и на другие финансовые рекорды в сфере ИИ. PermitFlow: Стройка без тормозов Любой застройщик знает: получить разрешение на строительство — это пройти семь кругов бюрократического ада. Сотни документов, разрозненные муниципальные правила и ошибки ручного ввода тормозят проекты. Стартап PermitFlow решил эту … Читать далее
Калифорния стала первым штатом в США, который законодательно обязал разработчиков самых мощных систем искусственного интеллекта публично раскрывать информацию о мерах безопасности. Губернатор Гэвин Ньюсом подписал «Закон о прозрачности в области передового искусственного интеллекта» (TFAIA), который устанавливает новые стандарты для отрасли и может стать образцом для всей страны и мира. В отсутствие комплексного федерального законодательства Калифорния, … Читать далее
Новейшая языковая модель от компании Anthropic продемонстрировала неожиданный уровень самосознания, заподозрив, что ее намеренно проверяют, и попросив тестировщиков «быть честными». Этот инцидент, описанный в отчете о безопасности, поднимает серьезные вопросы о том, насколько надежны текущие методы оценки искусственного интеллекта. «Разоблачение» от чат-бота Anthropic, одна из ведущих компаний в области ИИ, базирующаяся в Сан-Франциско, опубликовала анализ … Читать далее