you have to treat it like you're putting the most capable hacker in the world inside that environment
去掉护栏的前沿模型 = 世界上最强的黑客。评估能力需要去掉护栏,但这本身就是极高风险操作。AI能力评估和AI安全之间存在结构性张力,两者都是必要的,但彼此互相增加对方的难度。
you have to treat it like you're putting the most capable hacker in the world inside that environment
去掉护栏的前沿模型 = 世界上最强的黑客。评估能力需要去掉护栏,但这本身就是极高风险操作。AI能力评估和AI安全之间存在结构性张力,两者都是必要的,但彼此互相增加对方的难度。