Врач-рентгенолог, который не заметил на снимке смертельно опасную патологию, — страшный сон любого пациента и основа для судебного иска. Но теперь в зале суда у обвинения появился новый, безмолвный и, казалось бы, непогрешимый свидетель — искусственный интеллект. Новое исследование показало, что сам факт использования ИИ в диагностике может кардинально изменить отношение присяжных к врачебной ошибке, причём не в пользу человека.
Ученые провели эксперимент, в котором приняли участие более 1300 человек, подходящих на роль присяжных заседателей в США. Им предложили рассмотреть гипотетическое дело о халатности: рентгенолог пропустил на снимке либо кровоизлияние в мозг, либо рак легких, что привело к трагическим последствиям для пациента.
Результаты оказались поразительными и тревожными для медицинского сообщества.
Когда участникам эксперимента говорили, что врач работал один и допустил ошибку, вердикт «виновен» выносили около 50-60% присяжных. Примерно такой же результат был, когда ИИ тоже ошибся вместе с врачом. Но ситуация резко менялась, как только в деле появлялся «умный» свидетель. Если рентгенолог ставил неверный диагноз, а искусственный интеллект, анализировавший тот же снимок, правильно указывал на патологию, число присяжных, готовых признать врача виновным, взлетало до 70-80%.
Проще говоря, если ИИ увидел то, что не увидел человек, в глазах присяжных это почти автоматически превращало ошибку врача в преступную халатность. Алгоритм становился главным обвинителем.
Однако исследователи пошли дальше и обнаружили «противоядие» от этого эффекта. В другой группе участникам не просто сообщили, что ИИ оказался прав, но и предоставили статистику его собственной погрешности. Например, что в 50% случаев, когда ИИ бьет тревогу, он на самом деле ошибается (показатель ложноположительных срабатываний).
И это изменило все. Узнав, что ИИ-диагност — не всевидящее око, а всего лишь инструмент со своими недостатками, присяжные становились гораздо снисходительнее к человеку. Процент обвинительных вердиктов падал вдвое, возвращаясь к первоначальным значениям или даже становясь ниже.
Это исследование впервые наглядно демонстрирует, как психология правосудия меняется в эпоху ИИ. Для врачей это тревожный звонок: игнорирование рекомендаций ИИ, если тот окажется прав, может стать роковым в суде. Для юристов же это новый вызов: теперь им придется не только разбираться в медицине, но и объяснять присяжным тонкости работы алгоритмов и теорию вероятности, чтобы защитить своих клиентов от предубеждения в пользу «безошибочной» машины.