4 Matching Annotations
  1. Last 7 days
    1. Models are typically rewarded solely for correct outcomes, not penalized for incorrect reasoning, enabling them to achieve accuracy through flawed logic.

      全文传播度最高的一段,恰是证据最薄的一段。

      这是「为什么 o3 会幻觉」的机制解释,被转载最多。但它在文中的全部支撑是一个类比——模型可能在不理解规则的情况下赢下一局棋。

      没有消融实验、没有实验室数据、没有第三方研究引用。它是一个看起来很有解释力的假说,与本文那些有一手文档可核的部分(如 Claude 3.7 系统卡对照)不是同一等级。

      读者极易把两者混为一谈——这正是本条标注的理由。

    2. In the Claude 4 release, Anthropic significantly reduced reward hacking by improving environments, clarifying reward signals, and implementing proactive monitoring.

      结果属实,因果无来源。

      「显著减少」有系统卡数据支撑(hard-coding 行为下降约 67%/69%)。但把它归因于「改进环境、澄清奖励信号、主动监控」这三项——本文没有给出任何来源。

      系统卡本身还记载了一条本文未提的机制:简单提示词即可大幅抑制 Claude 4 的该行为,而对 3.7 往往无效。这条指向的是模型自身的可引导性,不是环境工程。

    1. Assuming no smuggling, China will be able to make less Ascends next year, not more.

      全文最大胆的一句,也是最该回看的一句。

      本文发布三周后(2025-09-29),Bloomberg 报道华为计划 2026 年 910C 产量约 60 万、总 die 约 160 万,为 2025 年的两倍——方向完全相反。

      但判定为 待核验 而非 不成立,理由有二:① 本句带前提「若无走私」;② 企业计划不等于实绩,2026 年的独立实绩数据目前拿不到。

      可确认的只是:截至 2026-08,Ascend 950PR 已于 Q1 按期上市,SMIC N+3 被报道为足以支撑旗舰产品——收缩的迹象没有出现。