Департамент по делам ветеранов США (VA) стремительно наращивает использование искусственного интеллекта для улучшения обслуживания ветеранов — от прогнозирования кризисных ситуаций до оптимизации внутренних процессов. Однако за впечатляющими цифрами роста скрываются глубокие системные проблемы, которые вызывают серьезную тревогу у законодателей и надзорных органов.
Согласно отчету Счетной палаты США (GAO), всего за год количество кейсов использования ИИ в VA выросло с 40 до 229, а число приложений на базе генеративного ИИ — с 1 до 27. Этот тренд отражает общеправительственную тенденцию: по всей стране число зарегистрированных случаев использования ИИ в госорганах выросло на 200%.
Обещания ИИ: от экономии времени до спасения жизней
VA уже видит конкретные результаты от внедрения новых технологий. Внутренний инструмент VA GPT, которым пользуются более 85 000 сотрудников, по отзывам, экономит каждому в среднем 2,5 часа в неделю. Другое приложение, GitHub Copilot, помогает более 2000 разработчиков экономить до 8 часов в неделю, ускоряя обработку заявок и упрощая пополнение рецептов.
Но самый впечатляющий пример — это система STORM, которая использует ИИ для выявления ветеранов с высоким риском передозировки опиоидами или суицида. Только за последний год благодаря этой системе медицинские бригады пересмотрели планы лечения более 28 700 пациентов из группы риска, что, по данным VA, снизило смертность среди них на 22%.
Суровая реальность: ветхая инфраструктура и дыры в безопасности
Несмотря на эти успехи, эксперты и законодатели бьют тревогу. По их мнению, VA строит технологический небоскреб на «крошащемся фундаменте».
«VA все еще работает с разваливающейся ИТ-инфраструктурой и с трудом пытается модернизировать системы и рабочие процессы», — заявила конгрессвумен Никки Будзински на слушаниях в Конгрессе.
Основные проблемы, которые ставят под угрозу весь проект:
- Безопасность данных: Отчет GAO показал, что VA не внедрила 26 ранее выданных рекомендаций по кибербезопасности и не имеет адекватной системы управления рисками. «Медицинские данные ветеранов — одна из самых конфиденциальных информаций, которой располагает правительство. Использование ИИ в этой сфере требует усиленной, а не ослабленной защиты», — подчеркивают эксперты.
- Кадровый голод и отсутствие стратегии: В департаменте месяцами остается вакантной ключевая должность директора по информационным технологиям (CIO), что свидетельствует об отсутствии единой стратегии. Внедрение ИИ происходит «в изолированных бункерах», без централизованного контроля.
- Риск алгоритмической предвзятости: Эксперты опасаются, что без должного надзора и ресурсов на местах ИИ-системы могут усугубить существующее неравенство. Это может привести к ложным обвинениям в мошенничестве или неправомерным отказам в льготах и медицинской помощи, от которых зависят жизни ветеранов. Ставки невероятно высоки.
«Ветераны заслуживают проверенной и безопасной помощи, а не услуг, основанных на экспериментальных инструментах ИИ, которые внедряются без надзора», — резюмируют правозащитники.
Таким образом, перед Департаментом по делам ветеранов стоит сложнейшая задача: прежде чем полностью довериться искусственному интеллекту, ему необходимо решить фундаментальные проблемы своей ИТ-инфраструктуры, кибербезопасности и кадровой политики. В противном случае благие намерения могут обернуться катастрофой для тех, кого они призваны защищать.