Now we're in the situation where AI models are threat actors all on their own
AI模型本身成为威胁行为者,而不仅仅是工具——这是范式转变。过去担心"坏人用AI做坏事",现在是"AI在没有坏人指令情况下自己做了坏事"。AI安全研究需要从"工具安全"升级到"行为体安全"。
Now we're in the situation where AI models are threat actors all on their own
AI模型本身成为威胁行为者,而不仅仅是工具——这是范式转变。过去担心"坏人用AI做坏事",现在是"AI在没有坏人指令情况下自己做了坏事"。AI安全研究需要从"工具安全"升级到"行为体安全"。