and train on a selection of real Anthropic production coding environments
利益与可复现性:Anthropic 用自家生产环境、自家预训练基座、自家评测套件,做的是关于自家训练流程风险的研究,无第三方复现。作者自己在 §6.1 写 our results are preliminary … we are not confident that any of these observations will replicate with other models or posttraining settings,并把研究问题限定为「真实训练流程有没有可能产出错位模型」,而非「随机一次生产训练有多大概率出事」。引用时别把可能性说成概率。