We suspect that perfect jailbreak resistance is not currently possible for any model provider.
大多数人认为AI公司应该追求完美的安全防护,但作者坦承完美防护是不可能的。这挑战了AI安全领域的期望,即公司应该能够完全防止其模型被滥用,转而采用更现实的防御策略。
We suspect that perfect jailbreak resistance is not currently possible for any model provider.
大多数人认为AI公司应该追求完美的安全防护,但作者坦承完美防护是不可能的。这挑战了AI安全领域的期望,即公司应该能够完全防止其模型被滥用,转而采用更现实的防御策略。
Willis said there's no magic for innovating. Companies need to do the hard work of understanding how AI may or may not be useful for the desired outcome.
在AI狂热的环境中,大多数人期待AI能带来神奇的转型效果,但作者认为创新没有捷径,企业必须做艰苦的工作来理解AI的实际适用性。这一观点挑战了AI营销中常见的'神奇解决方案'叙事,强调了务实评估的重要性。