4 Matching Annotations
  1. May 2026
    1. Business functions like our marketing team, who are building with AI, are not exempt from the security obligations that apply to engineers building applications.

      文章假设所有业务部门都应承担与工程团队相同的安全义务,但未考虑不同团队的技术能力和资源差异。这可能是一个过度概括的论断。更平衡的方法应承认不同团队有不同的技术能力和安全需求,并提供适合各团队安全实践的具体指导,而非一刀切的安全要求。

    1. It uses far more permissions than it should have, more than a human would, because of the speed of scale and intent.

      文章假设AI代理应该拥有与人类相同的权限水平,但这是一个未经证实的假设。在某些情况下,AI代理可能需要比人类更高的权限才能有效完成任务,尤其是在自动化大规模操作时。这种假设可能忽略了AI代理的特殊性和独特需求。

    1. The principle that an application does not silently modify another application is so obvious it rarely gets stated. Anthropic broke it in silence.

      作者声称应用程序不应静默修改另一个应用程序是一个'明显'的原则,但并没有提供支持这一原则的行业标准、法律先例或广泛共识。这是一个未经证实的假设,可能反映了作者的个人观点而非行业共识。改进方法应提供支持这一原则的权威来源,如行业指南、法律先例或广泛认可的最佳实践。

    2. The feature silently pre-installed on every user's laptop who has ever run `Claude.app` is, by Anthropic's own measurements, compromisable by a prompt injection roughly one time in four.

      作者将Anthropic自己测量的prompt注入成功率(11.2%有防御措施后)直接应用到这个桥接功能上,但没有提供证据表明这个特定功能具有相同的漏洞率。这是一个未经证实的假设,将一般性安全数据应用到特定功能上。改进方法应包括提供针对这个特定桥接功能的实际安全测试数据,或者明确说明这是基于Anthropic一般性安全数据的推测。