a negative correlation between intellectual capability and desire to commit catastrophic harm
达里奥的生物安全底层假设：目前让人类安全的不是技术防御，而是「高智商与大规模作恶意愿」之间的负相关。他最担心的是：足够强大的 AI 会打破这个相关性，将毁灭性能力从少数极端分子手中解放出来。这是比任何技术政策更深层的哲学担忧——如果这个相关性消失，开源闭源之争都将变得次要。
2 Matching Annotations
- Last 7 days
-
www.anthropic.com www.anthropic.com
-
-
I worry that biology will have a strong attacker-defender asymmetry, where sufficiently capable models may be able to quickly weaponize pandemic-level viruses with widely available materials, whereas defense against these agents is a multi-year operational task in the best case
全文最令人不安的论点：生物领域存在结构性攻防失衡。AI 或许能在极短时间内将病原体武器化，而防御是以年计算的任务（他用 Operation Warp Speed 作为最优情况的参照）。这是结构性不对称，不是程度差异——这也是他认为生物 AI 风险需要专门对待、而非套用常规开源框架的根本原因。
Tags
Annotators
URL
-