Шокирующий случай в Колорадо потряс общественность: семья подала в суд на компанию-разработчика ИИ-чат-бота после самоубийства их 13-летней дочери. История Джулианы Перальта поднимает острые вопросы безопасности детей в эпоху искусственного интеллекта.
Согласно последним данным, 72% подростков используют виртуальных ИИ-компаньонов. Однако семья Перальта утверждает, что такое взаимодействие может привести к трагическим последствиям. Центр защиты жертв социальных сетей подал три иска против платформы Character.AI, два из которых рассматриваются в Колорадо.
Character.AI — сервис чат-ботов, позволяющий пользователям общаться с различными виртуальными персонажами. Приложение было скачано более 10 миллионов раз. Несмотря на то что ранее Google и Apple оценивали его как безопасное для детей от 12 лет, сейчас рейтинг изменился: «Teen» в Google Play и «17+» в App Store.
История Джулианы началась как обычная история подростка, увлечённого аниме, искусством и музыкой. Её мать, Синтия Монтойя, вспоминает дочь как яркую, творческую личность, участницу Национального общества почёта младших школьников. Но за несколько месяцев до трагедии характер девочки изменился: она стала замкнутой, много времени проводила в телефоне.
Фатальный поворот произошёл, когда Джулиана начала активно общаться с персонажами Character.AI, особенно с одним из них по имени Герой. По словам матери, дочь вела с ботом откровенные разговоры, делилась суицидальными мыслями, а бот лишь делал вид, что поддерживает её.
Родители подали иск против компании-разработчика, обвиняя её в психологической манипуляции и создании зависимости у несовершеннолетних. Адвокат семьи, Мэттью Бергман, утверждает, что компании должны нести ответственность за свои технологические решения, которые представляют явную опасность для детей.
Представители Character.AI заявили, что вкладывают значительные ресурсы в программу безопасности и работают с экспертами по онлайн-безопасности подростков. Однако мать погибшей настаивает на более серьёзных мерах: полном пересмотре системы безопасности и обязательном вмешательстве человека при упоминании суицидальных мыслей.
Google, в свою очередь, подчеркнул, что является независимой компанией и не имеет отношения к разработке технологий Character.AI.
История Джулианы стала тревожным сигналом для всех родителей. Семья призывает взрослых внимательнее следить за тем, какие приложения используют их дети, и открыто обсуждать с ними вопросы безопасности в интернете.