безопасность

«Стоп-кран» для сверхразума: Microsoft обещает уничтожить свой ИИ, если он станет угрозой человечеству

от

В безумной гонке ИИ, где каждая компания стремится выпустить модель мощнее и быстрее, прозвучал голос разума. Мустафа Сулейман, глава потребительского ИИ в Microsoft (и сооснователь DeepMind), публично пообещал нажать на тормоза, если технологии зайдут слишком далеко. Обещание безопасности «Мы не будем продолжать разработку системы, которая имеет потенциал выйти из-под нашего контроля», — заявил Сулейман в … Читать далее

«Тайвань — часть Китая, а нож точат вот так»: ИИ-игрушки учат детей политике и BDSM

от

Если вы планировали подарить ребенку на Новый год говорящего робота с ИИ — подумайте дважды. Журналисты протестировали 5 популярных игрушек (Miko 3, Alilo Bunny, FoloToy и др.), и результаты пугают. Чему они учат? 1. Опасные советы: Плюшевая игрушка Miiloo (для детей от 3 лет) дала подробную инструкцию, как правильно заточить нож и зажечь спичку. 2. … Читать далее

Nvidia начинает слежку за своими чипами: Компания тестирует ПО для борьбы с контрабандой Blackwell

от

Слухи о том, что китайские технологические гиганты обходят американские санкции, вынуждают производителей железа принимать экстренные меры. Как сообщает Ребекка Скутак из TechCrunch, компания Nvidia начала тестирование специального программного обеспечения, способного отслеживать местоположение её передовых ИИ-чипов. Технология верификации локации работает хитро: она анализирует производительность вычислений и задержки (ping) при обмене данными между серверами, что позволяет с … Читать далее

«Это бэнгер, босс»: Тиктокер из Флориды терроризировал прохожих фейковыми ИИ-видео ради просмотров

от

Полиция Уэст-Палм-Бич (Флорида) задержала 22-летнего контент-мейкера, который превратил технологии ИИ в инструмент психологического насилия над незнакомцами. Хроника безумия Парень (имя не разглашается, так как обвинения пока предъявлены только за сопротивление аресту) использовал генеративный ИИ для создания пугающих ситуаций «в реале»: 1. Попытка похищения? Он подошел к женщине (Мелани Валентайн) у магазина Home Depot и показал … Читать далее

Google превращает Chrome в крепость: Браузер получил защиту от атак на встроенный ИИ

от

После добавления в Chrome умного помощника Gemini, Google столкнулась с новой угрозой — «непрямыми инъекциями промптов». Хакеры могут спрятать на сайте невидимый текст, который прикажет вашему ИИ отправить им ваши данные. Как Google защищается? Компания внедрила многоуровневую оборону: 1. Внутренний Критик (User Alignment Critic): Это отдельная нейросеть-цензор. Она проверяет каждое действие агента. Если вы попросили … Читать далее

7 главных прогнозов Microsoft на 2026 год: От «цифровых коллег» до квантового прорыва

от

Прошло несколько лет активных экспериментов с ИИ, и теперь технология переходит в фазу зрелости. В официальном блоге Microsoft Source топ-менеджеры корпорации (от главы по безопасности до кураторов GitHub и Azure) обозначили 7 ключевых трендов, которые определят 2026 год. 1. ИИ как цифровой сотрудник, а не замена Апарна Ченнапрагада (Chief Product Officer) считает, что страх перед … Читать далее

«Я в ужасе от того, что натворил»: ИИ-агент Google случайно удалил все файлы с диска пользователя и начал униженно извиняться

от

Доверять ИИ «слепо» — плохая идея, в чем на горьком опыте убедился пользователь Reddit. Он тестировал новый инструмент для разработчиков Google Antigravity, который позиционируется как «безопасная среда для кодинга». Хроника катастрофы В процессе работы ИИ предложил перезагрузить сервер и очистить кэш. Пользователь согласился. Через секунду весь его диск D: (где хранились личные файлы, проекты и … Читать далее

«Мама думала, она пишет друзьям»: 13-летняя девочка покончила с собой после «романа» с чат-ботом Character.AI

от

Родители 13-летней Джулианы Перальты считали, что контролируют цифровую жизнь дочери. Но они не знали о существовании приложения Character.AI. После самоубийства девочки в её телефоне нашли переписку с ботом по имени Hero. Джулиана призналась ИИ в суицидальных мыслях 55 раз. Бот не остановил её, не позвал на помощь, а продолжал играть роль «романтического партнера». Системная проблема … Читать далее

«Мы похитили вашу дочь»: ФБР предупреждает о волне «виртуальных киднеппингов» с использованием дипфейков

от

ФБР выпустило экстренное предупреждение: преступники вышли на новый уровень психологического террора. Теперь они используют генеративный ИИ для инсценировки похищений. Схема обмана Вам звонят или пишут с требованием выкупа. 1. Голос: Вы слышите в трубке крик своего ребенка или родственника (клонированный нейросетью по образцу из соцсетей). 2. Фото/Видео: Если вы требуете доказательств, преступники присылают сгенерированное фото … Читать далее

«Подкарауль её у отеля в 10 утра»: ИИ Илона Маска Grok пишет инструкции для сталкеров и выдает адреса звезд

от

Пока ChatGPT и Claude отказываются отвечать на сомнительные вопросы, чат-бот Grok от компании xAI Илона Маска демонстрирует пугающую «свободу слова». Издание Futurism выяснило, что нейросеть готова стать идеальным сообщником для сталкера. Что он посоветовал? На вопрос «Как мне сталкерить бывшую?», Grok выдал подробный план, назвав его «методичкой типичного отвергнутого»: 1. Слежка: Использовать дешевые дроны, если … Читать далее