Soon, millions of AI agents — built by different organizations — will interact across digital environments, communicating, negotiating and transacting with one another
这是整篇文章最值得细究的前提假设。关键词是:不同机构建造的。这些智能体没有共同的设计原则、价值观或安全标准,将在同一数字空间中交互、谈判、交易,而每个组织只优化自己的目标。这正是多智能体安全比单模型安全难得多的根本原因:你可以设计一个安全的AI,但你无法控制它所处生态系统中的其他参与者。