Models are typically rewarded solely for correct outcomes, not penalized for incorrect reasoning, enabling them to achieve accuracy through flawed logic.
全文传播度最高的一段,恰是证据最薄的一段。
这是「为什么 o3 会幻觉」的机制解释,被转载最多。但它在文中的全部支撑是一个类比——模型可能在不理解规则的情况下赢下一局棋。
没有消融实验、没有实验室数据、没有第三方研究引用。它是一个看起来很有解释力的假说,与本文那些有一手文档可核的部分(如 Claude 3.7 系统卡对照)不是同一等级。
读者极易把两者混为一谈——这正是本条标注的理由。