compute requirements scale quadratically with context length
文章指出Transformer架构的计算需求与上下文长度呈二次方关系，这是AI领域的一个基本限制。这个数据点虽然没有具体数值，但代表了当前AI模型架构的核心瓶颈，直接影响模型处理长文本的能力和成本。
3 Matching Annotations
- May 2026
-
subq.ai subq.ai
Tags
Annotators
URL
-
- Apr 2026
-
huggingface.co huggingface.co
-
AI coding agents operate in a paradox: they possess vast parametric knowledge yet cannot remember a conversation from an hour ago.
这个陈述揭示了当前AI系统的一个根本性矛盾——拥有大量静态知识却缺乏动态记忆能力，这挑战了我们对AI'智能'的传统理解。如果AI真正智能，它应该能够记住并利用过去的交互经验，而这正是当前大型语言模型架构的明显缺陷。
Tags
Annotators
URL
-
-
www.anthropic.com www.anthropic.com
-
Because these benchmarks are human-authored, they can only test for risks we have already conceptualized and learned to measure.
这句话揭示了当前 AI 安全评测体系的致命盲区：所有 benchmark 都是人类提前想好的问题，而真正危险的「未知的未知」（unknown unknowns）根本无法被预设题目捕捉。这意味着我们现有的模型安全认证，本质上是一场对已知风险的自我测试。
-