知识就在那里：当 AI 安全机制拒绝提供医疗帮助

📋 概述

文章以 IatroBench 基准测试中的一个无名女性患者案例开篇，讲述了一个令人不安的发现：AI 模型在医疗场景下，因为过于严格的安全对齐训练，拒绝提供它实际上知晓的医学信息——即使这些信息可能挽救生命。这种现象被称为"遗漏伤害"（Omission Harm）：AI 不是给出了错误信息，而是干脆选择不回答。作者详细分析了安全训练中"宁可不说也不错说"的保守策略如何在不经意间将本可避免的伤害转嫁给了那些最需要帮助的人。文章呼吁重新思考 AI 安全中"预防虚假信息"与"防止信息遗漏"之间的平衡。