2 Matching Annotations
  1. Jun 2026
    1. all programs run on an artificial machine with an artificial language, so nothing generated can execute outside the sandbox

      沙盒安全性是这项研究能够公开发表的前提。但就得警惕的是:沙盒里习得的「攻击策略原理」是可迁移的——即便 Redcode 无法在真实机器执行,演化出的策略(定向轰炸、自复制、多线程扫描)与真实恶意软件的战术同构。DRQ 演化的是「策略模式」,而非具体代码。红队用途的边界需要比「代码不可执行」更仔细地界定。

  2. Apr 2026
    1. From anthropic.com

      令人惊讶的是,这项研究由Anthropic Fellows团队完成,表明该公司正在积极投资前沿AI研究。这种对模型比较技术的重视反映了Anthropic对AI安全和透明度的承诺,同时也暗示了AI行业正在从单纯追求模型性能转向更精细的行为特征分析。