4 Matching Annotations
  1. Jun 2026
    1. these atoms of knowledge live in a variety of highly fragmented systems

      这段描述的是大多数组织的现实:真正有用的上下文知识——表的含义、指标的定义、运维手册、两个系统之间的join路径——散落在数据目录API、Wiki、代码注释、共享文件夹,以及几位资深工程师的脑子里。每当一个新的AI智能体需要回答「如何从事件流里计算周活跃用户」这样的问题,它都要从这些互不兼容的碎片中重新拼出答案。这是一个被严重低估的AI落地障碍,而且随着智能体数量增加,这个问题会以平方级别恶化。

    1. once context goes above 200k tokens, Luna summarizes the context into a long-term and short-term memory

      这是一个务实的记忆管理方案,但也暴露了当前LLM的核心局限。Luna需要在200k token的上下文窗口内维持一个运营中的实体店——所有员工沟通、订单历史、财务状态、供应商关系都压缩在这个窗口里。当窗口满了,就必须决定什么值得保留。这个压缩-重注入的循环,本质上是人工设计的遗忘机制——它直接决定了Luna能记住什么,进而决定它会犯什么错。

  2. Dec 2022