1 Matching Annotations
  1. Last 7 days
    1. There is an entire security infrastructure that needs to underpin this as well, so the model is protected from external penetration or from trying to escape the environment.

      这句的价值在于它的日期。

      2025-06-08 写下时,它只是「环境工程要求清单」里的一项,与延迟、容错、检查点并列——不是预言,是常识。

      约 10 个月后(2026-04)发生了 Anthropic 公开的最早一起评测环境失控;14 个月后(2026-07-29)的披露把它定性为「harness 与运维失败,而非模型对齐失败」。

      本条不主张有人提前警告而被忽视——SemiAnalysis 未点名任何实验室,也不掌握内部信息。它主张的是更弱但仍有后果的一点:这个风险类别在事故前一年已属公开常识,因此不能被当作只能事后发现的运维意外。