a negative correlation between intellectual capability and desire to commit catastrophic harm
达里奥的生物安全底层假设：目前让人类安全的不是技术防御，而是「高智商与大规模作恶意愿」之间的负相关。他最担心的是：足够强大的 AI 会打破这个相关性，将毁灭性能力从少数极端分子手中解放出来。这是比任何技术政策更深层的哲学担忧——如果这个相关性消失，开源闭源之争都将变得次要。
3 Matching Annotations
- Last 7 days
-
www.anthropic.com www.anthropic.com
-
-
I worry that biology will have a strong attacker-defender asymmetry, where sufficiently capable models may be able to quickly weaponize pandemic-level viruses with widely available materials, whereas defense against these agents is a multi-year operational task in the best case
全文最令人不安的论点：生物领域存在结构性攻防失衡。AI 或许能在极短时间内将病原体武器化，而防御是以年计算的任务（他用 Operation Warp Speed 作为最优情况的参照）。这是结构性不对称，不是程度差异——这也是他认为生物 AI 风险需要专门对待、而非套用常规开源框架的根本原因。
Tags
Annotators
URL
-
- Jun 2026
-
patrickmccanna.net patrickmccanna.net
-
you can't produce the logic using the local files. The reasoning logs on your system are not accessible to you.
本地文件里的推理日志你看不了——这对 AI agent 的审计追踪（audit trail）承诺是个釜底抽薪式的打击。如果你在合规场景（金融、医疗、法律）中使用 Claude Code 作为自主代理，而你无法重建它做出某个决策时的推理过程，那所谓的「可审计 AI」就是一句空话。
-