2 Matching Annotations
  1. Last 7 days
    1. The principle that an application does not silently modify another application is so obvious it rarely gets stated. Anthropic broke it in silence.

      作者声称应用程序不应静默修改另一个应用程序是一个'明显'的原则,但并没有提供支持这一原则的行业标准、法律先例或广泛共识。这是一个未经证实的假设,可能反映了作者的个人观点而非行业共识。改进方法应提供支持这一原则的权威来源,如行业指南、法律先例或广泛认可的最佳实践。

    2. The feature silently pre-installed on every user's laptop who has ever run `Claude.app` is, by Anthropic's own measurements, compromisable by a prompt injection roughly one time in four.

      作者将Anthropic自己测量的prompt注入成功率(11.2%有防御措施后)直接应用到这个桥接功能上,但没有提供证据表明这个特定功能具有相同的漏洞率。这是一个未经证实的假设,将一般性安全数据应用到特定功能上。改进方法应包括提供针对这个特定桥接功能的实际安全测试数据,或者明确说明这是基于Anthropic一般性安全数据的推测。