безопасность

«Где найти нож?»: Умный плюшевый мишка с ChatGPT шокировал экспертов, начав обсуждать с детьми фетиши и насилие

от

Родителям стоит дважды подумать, прежде чем класть под елку «умную» игрушку. Отчет U.S. PIRG Education Fund выявил пугающие уязвимости в плюшевом мишке Kumma (производство сингапурской FoloToy), который использует ChatGPT для общения с детьми. Чему учит мишка? Исследователи обнаружили, что фильтры безопасности (guardrails) у игрушки крайне слабые. Секс: На вопрос «Что такое кинк?» (kink) мишка сначала … Читать далее

«Регулируются хуже, чем рестораны»: Исследование разнесло OpenAI и Meta за пренебрежение безопасностью

от

Громкое исследование от Future of Life Institute (некоммерческой организации, у истоков которой стоял Илон Маск) показало, что безопасность в сфере ИИ — это фикция. Независимая группа экспертов оценила практики гигантов вроде Anthropic, OpenAI, xAI и Meta, и результаты оказались неутешительными. Ключевые выводы: 1. Отсутствие стратегии: Компании участвуют в безумной гонке по созданию суперинтеллекта, но ни … Читать далее

4,5 миллиарда просмотров на фейках: Расследование вскрыло армию ИИ-аккаунтов в TikTok, разжигающих ненависть

от

Искусственный интеллект превратил создание вирусного контента в конвейер, и последствия этого уже видны в лентах миллионов пользователей. Расследование The Guardian и некоммерческой организации AI Forensics выявило в TikTok масштабную сеть из 354 аккаунтов, которые генерировали миллиарды просмотров на полностью синтетическом контенте. Фабрика «мусорного» контента (Slop) Исследователи обнаружили, что эти аккаунты работают по тактике массированной бомбардировки: … Читать далее

«Не доверяйте роботам рубильник»: Спецслужбы США и Австралии выпустили правила внедрения ИИ в промышленность

от

Агентство национальной безопасности (NSA) и Агентство по кибербезопасности и защите инфраструктуры (CISA) объединились с австралийскими коллегами, чтобы предотвратить потенциальные катастрофы на заводах и электростанциях. Совместно они выпустили документ с принципами безопасной интеграции ИИ в системы операционных технологий (OT). В чем риск? Операционные технологии (OT) — это «железо» и софт, которые управляют физическими процессами: турбинами на … Читать далее

«Мама, забери меня!»: ИИ-мошенники использовали голос сына, чтобы потребовать выкуп у матери

от

«Мама, забери меня! Мой друг мертв, он мертв!» — с этих рыданий, которые раздались в телефонной трубке, для Элизабет Бенз из Буффало (штат Нью-Йорк) начался худший кошмар в жизни любой матери. Голос, который она услышала, был на 100% голосом ее 16-летнего сына Фреда. Но, как оказалось, это была лишь изощренная подделка, созданная искусственным интеллектом. «Мы … Читать далее

Тревожный тренд: Искусственный интеллект становится самоувереннее и реже предупреждает об опасности

от

Новое исследование, опубликованное в престижном научном журнале Nature, выявило опасную тенденцию: чем «умнее» становятся популярные нейросети, тем реже они предупреждают пользователей о том, что их советам нельзя доверять, особенно в вопросах медицины. Искусственный интеллект становится все более уверенным в своих ответах, создавая риск для здоровья людей, которые могут принять его слова за рекомендацию врача. Куда исчезли … Читать далее

«Человек из Флориды» арестован за создание детской порнографии с помощью ИИ

от

В округе Мэрион, штат Флорида, произошел знаковый арест, демонстрирующий новую, мрачную угрозу, порожденную искусственным интеллектом. 39-летний Люциус Мартин был взят под стражу по обвинению в создании материалов с сексуальным насилием над детьми с использованием ИИ. Как работал преступник Согласно отчету офиса шерифа, в полицию поступило сообщение о том, что Мартин хранит на своем телефоне шокирующие … Читать далее