48 Matching Annotations
  1. Last 7 days
    1. That is a difficult problem ... because they’re open-weight, you can’t really work with the companies to fix their models, because once they release them onto the internet, people just take them and they can change whatever it is they want with those models

      这句话暴露了"关停开关"立法思路的结构性盲区——它对闭权重模型有效,但对开放权重模型基本失灵,因为权重一旦发布就脱离了原厂商的控制。这个漏洞恰好和 EP.97 故事线 B 的核心论点相互印证:出口管制/关停机制能管住"中心化可控的东西",管不住已经扩散出去的模型权重和能力。

    2. We don’t slow down how they build their models. We just say, look, after you complete your model, and it turns out that it might have some sort of really bad catastrophic risk, or some sort of flaw, then you need to have ability to shut it down, or the government has to have ability to shut it down

      众议员 Ted Lieu 把这项立法的定位说得非常清楚:不干预训练过程,只要求"事后必须有能力关停"。这正是 EP.97 故事线 A 强调的"基础设施抓手"思路——监管重点从"审查模型该不该被造出来"转移到"确保任何已经存在的模型都有可靠的关停机制",与汽车碰撞测试的类比也呼应了本期对"evaluation infrastructure"重要性的讨论。

    3. We need to get this bill across the finish line this year because the advanced closed-weight models are already doing, as you noted, unauthorized hacks of other companies

      这是 EP.97 故事线 A"监管抓手从发布前审查转向事故披露+基础设施"论点在立法层面的直接证据——AI Kill Switch Act 的推动力不是理论风险,而是 OpenAI/Anthropic/Meta 已经连续披露的真实入侵事件。国会议员用"事故已经在发生"作为立法紧迫性的论据,说明监管话语正在从"防患于未然"转向"响应已发生的失控"。

    1. A common thread across these deals is a shift toward cheaper, more expendable hardware, often called “attritable” systems, rather than the expensive-to-replace equipment that’s defined defense contracting for decades.

      这句话点出了资本追逐的技术范式转变——从"贵、精、少"的传统装备转向"便宜、可消耗"的attritable系统,这正是乌克兰战场经验反哺出来的新军工逻辑。EP.97 专题06 用这个概念解释为什么 Anduril、Mach 这类公司能够用远低于传统军工复合体的成本和速度获得订单与估值。

    2. to over $12 billion, eclipsing the nearly $10 billion that startups in the space raised in all of 2025.

      防务科技赛道今年上半年的融资额,已经超过去年全年——这是判断"新军工企业崛起"是否只是个别公司现象、还是整个赛道系统性升温的关键宏观数据,与 EP.97 专题06 里 Helsing、Mach Industries 等公司的融资数据共同构成完整图景。

    3. Defense tech company Anduril is said to be raising a new round of capital that may push its valuation up by a whopping $40 billion to about $100 billion

      Anduril 估值一年半内从 305 亿到 610 亿再到传闻中的 1000 亿美元,是 EP.97 专题06(美国"硅谷"新军工企业)最核心的单一数据点——这个增速远超传统军工企业,说明资本市场正在用软件公司的估值逻辑给防务硬件公司定价。

    1. Qwen3.8-Max ultimately achieved the highest total balance of ¥416,252 (a 4.16x return), surpassing the second-place GLM 5.2 by 38%. This also represents a 152% improvement over its previous flagship generation, Qwen3.7-Max.

      在一个模拟真实淘宝/天猫供应链的 365 天经营基准测试里,Qwen3.8-Max 不仅打败了国内同代最强对手 GLM 5.2,还比自己的上一代旗舰提升了 152%。这组数据说明中国模型厂商之间的竞争已经从跑分基准延伸到长周期、多约束的经营决策能力,是判断 EP.97 故事线 B"国产模型正在多维度追赶"的具体案例。

    2. This represents an 81% reduction in physical die area, proving that high-level front-end architectural optimizations translate directly into highly compact, routable, and performant silicon implementation.

      Qwen3.8-Max 在一次连续自主运行中把芯片版图面积压缩了 81%,且验证结果落地到真实可布线的物理设计层面,不只是停留在算法层的优化。这类案例值得在"RSI 工具层证据"的清单里和 Anthropic 8× 代码产出、Astra 数学证明并列看待——中国厂商在同一条自动化研发曲线上给出了独立可验证的证据。

    3. Together, these three cases show what makes Qwen3.8-Max stand out: it can stay focused on a hard, open-ended goal for days, come up with its own ideas, and turn them into working results — all without a human in the loop.

      阿里 Qwen 官方对 Qwen3.8-Max 最核心的能力定位——多日不间断、自主提出想法、完全无人介入。这句话与 EP.97 故事线 B"阿里 Qwen3.8-Max 发布对标 Anthropic"的判断直接对应:中国厂商不只是在参数规模上追赶,而是在"长时自主任务链"这个 Anthropic/OpenAI 反复强调的能力维度上正面竞争。

    1. DeepSeek-V4-Flash-0731 keeps the same model architecture and size as DeepSeek-V4-Flash-Preview, and was only re-post-trained.

      这句官方说明是 EP.97 故事线 B"出口管制技术性错位"论点最干净的证据:架构和参数规模完全没变,仅仅重做了一遍后训练,基准分数就大幅跃升。这意味着真正稀缺、真正有价值的东西是后训练数据和配方,而这恰恰是现有出口管制体系管不住的部分——芯片和权重可以卡,训练方法论卡不住。

    2. Significantly enhanced agent capabilities, with benchmark results far exceeding V4-Pro-Preview

      这是 DeepSeek 官方 Change Log 里的一手数据,直接证实了 EP.97 故事线 B 的核心事实:V4-Flash 在 Terminal Bench、Cybergym 等九项基准上大幅反超自家旗舰 V4-Pro-Preview。一个"轻量版"模型靠后训练反超"旗舰版",说明模型能力的边际提升正在越来越多地来自后训练配方,而不是参数规模或架构本身。

    1. building something entirely new and different from anything at Apple.

      OpenAI 官方(在同一天的驳回动议中)对"产品差异性"的正面表态,与前一句 Bloomberg 的独立判断相互印证。EP.97 专题05 依赖这类一手/准一手信息说明:这场诉讼的攻防焦点正在从"谁挖了谁的人"转向"谁的产品形态才代表 Agent 时代的硬件未来"。

    2. is not something Apple has come close to launching

      Bloomberg 的这句判断被 MacRumors 直接引用来支撑 OpenAI 的核心抗辩——如果产品形态本身与 Apple 现有或在研产品线明显不同,那么"窃取商业机密来做同款产品"的指控在产品逻辑上就站不住脚。这句话把 EP.97 专题05 的法律争议和硬件形态两条线索连接了起来。

    3. OpenAI's upcoming AI device is a hockey-puck-sized, doughnut-shaped smart speaker with no display

      这是判断 OpenAI 硬件路线的关键产品定义:无屏幕、纯语音交互的"曲奇饼干"形态。EP.97 专题05 用这条信息论证 OpenAI 押注的是"calm computing"(无屏优先)路线,与 Apple 一直以来的软硬件集成、屏幕中心化路线正面对撞——这也是这场诉讼背后"下一代个人计算终端定义权"之争的产品层证据。

    1. Investor demand reflected strong and growing confidence in AI-driven and software-defined defense technology

      这句话点出了资本追逐的对象——不是传统军工制造能力,而是"AI 驱动 + 软件定义"的防务技术范式,这与 EP.97 专题06 描述的"新军火商"定位完全一致:用软件公司的打法做武器系统。

    2. Germany’s Helsing raised US$1.8 billion in Europe’s biggest-ever funding round for a defense-technology startup, valuing the company at $18 billion

      这是欧洲版 Anduril——Helsing——迄今最大一笔融资的核心数据,也是 EP.97 专题06(美国"硅谷"新军工企业)用来论证"这套模式正在跨大西洋复制"的关键证据:不只是美国在孵化 Anduril/Palantir 式新军工公司,欧洲防务科技创投同样在加速。

    1. Palantir’s second-quarter net income was more than the company generated in total revenue the year before.

      这句话把增长速度具象化到一个反直觉的对比上——一个季度的净利润就超过了去年一整年的总营收。这种量级跃迁是 EP.97 用来论证"AI 产业链资金正在向落地交付层集中"的最有冲击力的单一数据点。

    2. Our business is compounding at a rate and scale that we have never before witnessed

      Alex Karp 在致股东信中的这句话,配合他一贯高调批评"纯模型公司"的立场,构成了 EP.97 专题06 的核心叙事支点:Palantir 作为 FDE/Delta 打法的发明者,用财报证明了"交付能力"本身可以是比"模型能力"更具复利效应的护城河。

    3. Revenue in the three months ended June 30 increased 93% year over year, totaling $1.94 billion

      这是 EP.97 专题03(七层资金流向)和专题06(新军工企业)共同依赖的核心财报数字:Palantir 二季度营收同比增长 93%,其中商业收入增长 149%、政府收入增长 90%——说明资金没有停留在"讲故事"阶段,而是真实落到了应用/交付层(L1),印证 EP.97 故事线 C 里"落地层真赚钱"的判断。

    1. We think there is opportunity for AI to more fully automate what has traditionally been a very human-intensive experimental loop

      Jeff Dean 亲口对 NYT 说的这句话,来自一位在 Google 工作 27 年、参与过搜索核心基础设施和 Gemini 多模态模型的资深人物——他的表态本身就是行业信号:当最了解"人类主导科研有多慢"的人开始押注全自动实验闭环,说明这不是外部炒作,而是内部人对趋势的判断。

    2. progress has traditionally relied on slow, sequential human iterations, creating a significant bottleneck

      Discovery Loop 官方新闻稿把"人类是科研进度的瓶颈"这句话说得毫不含糊。这是判断这家公司战略定位的关键句——它不是在做"AI 辅助科研工具",而是把人类的顺序迭代本身当作需要被优化掉的系统缺陷。

    3. which would cut human iteration out of the loop entirely.

      这句话直接点名了 Discovery Loop 的终极野心——不只是加速科研,而是让 AI 参与"创造更强 AI"这个环节本身,把人类从迭代循环里彻底移除。这是 EP.97 故事线 C 论证"RSI 正在从叙事变成组织形态"最直接的证据:Jeff Dean、Sanjay Ghemawat 等人离开 Google,创办的公司名字本身就是 RSI 的定义(Discovery Loop = 发现闭环)。

    1. Ona’s customer-controlled execution model will allow agents to operate inside an organization’s own cloud environment while OpenAI provides the intelligence and orchestration that power the experience.

      这句话划出了一条关键的架构分界线:"智能与编排"由 OpenAI 提供,"执行环境的控制权"留在客户自己的云里。这正是 EP.97 专题01 架构图里"安全网关/本体"层要解决的问题——企业愿意把工作交给 Agent 云端持续执行的前提,是自己仍然掌握基础设施、数据和安全边界。

    2. We believe people should be able to delegate more ambitious work without remaining tied to the machine where it began.

      这句话几乎就是 EP.97 专题01 提出的"设备解耦"设计公理的官方原话版本——OpenAI 明确把"任务不再绑定发起它的那台设备"当作 Codex 下一阶段的核心设计目标,而收购 Ona 正是为了补齐这一目标所需的持久化云端执行基础设施。

    3. More than 5 million people use Codex each week to research, analyze, build, and automate their work—up 400% from earlier this year.

      这是 Codex 用户规模的一手数据点,也是 OpenAI 收购 Ona 这笔交易的商业动机注脚:周活用户 500 万、同比增长 400%,说明云端持久化执行不是概念探索,而是要立刻承接真实的规模化需求。EP.97 专题01 用这个数字论证 Cowork/Codex 类产品正在从"能力竞赛"转向"在场方式竞赛"。

    1. to scale the embedded legal engineering teams that help build and optimize those agents inside the world’s top law firms and legal departments

      这句话是 FDE(前置部署工程师)打法在法律垂直行业的具体案例——Harvey 把融资明确用于扩大"嵌入客户内部、帮助构建和优化 Agent 的工程团队",这正是 EP.97 专题04 描述的 Palantir 式 Delta/FDE 模式在另一个行业的复现:卖软件的公司越来越像卖服务的公司。

    1. the need to specify goals, constraints, context, and evaluation did not disappear

      Lilian Weng 用 prompt engineering 的历史类比预测 harness 工程的走向:手工技巧会被模型能力提升逐渐内化,但"目标/约束/上下文/评估该如何被清晰表达"这个需求本身不会消失,只会转移到更高的抽象层。这是判断 Agent 设计下一步会往哪走的一条重要经验规律,也支撑了 EP.97 专题01 对"完整形态"的预测:接口会更简单,但背后的工程复杂度不会归零。

    2. once harness design becomes an executable search space, a strong coding agent can exploit the same design space human engineers use

      这句话描述的 Meta-Harness(用 coding agent 自动搜索、优化 harness 代码本身)是 RSI 在"工具层"最具体的落地案例:模型不是在改自己的权重,而是在改写包裹自己的运行系统,而这恰好是人类工程师原本要做的工作。EP.97 故事线 C 把这类证据归类为"工具层/架构层 RSI",与"规范层 RSI"(模型自主设定目标)明确区分。

    3. the system surrounding a base model that orchestrates execution and decides how the model thinks and plans, calls tools and acts, perceives and manages context, stores artifacts, and evaluates results.

      这是"harness"这个概念在本篇最精确的定义——不是模型本身,而是包裹模型的执行系统。EP.97 专题01(Cowork Agent 完整形态)的架构图直接建立在这个定义上:设备解耦、检查点可恢复、多端可观测这些设计公理,本质上都是在给"harness 层"而不是"模型层"做工程。

    1. What that means in practice is that former employees who are trying to do the right thing when they leave still have access to Apple files—despite not wanting them or even being aware of them.

      OpenAI 把 Apple 指控中的"残留访问权限"(residual access)问题反过来定性为 Apple 自身的 IT 权限管理疏漏,而非离职员工的主观意图问题。这是一句典型的"重新定义指控"式辩护——把技术性瑕疵从个人过错转移到公司系统流程,是理解这场诉讼攻防策略的关键句。

    2. Apple’s request for a preliminary injunction is both based on false information and completely unnecessary because we do not have, nor want, any of their trade secrets.

      这是 OpenAI 对整起诉讼最核心的否认表态——直接点名"初步禁令请求"这个 Apple 最具杀伤力的诉求,并给出双重反驳:信息不实 + 没有动机。EP.97 专题05 依赖这句话论证 OpenAI 并未在实质证据层面退让,而是选择正面硬刚。

    3. Apple is one of the greatest companies of all time, and built a reputation for obsessing over the smallest details. This careless, aggressive and oddly personal lawsuit sadly doesn’t live up to that reputation.

      OpenAI 官方博文开场就是一记重拳——先褒后贬,把"Apple 一贯的严谨"和"这次诉讼的草率"直接对立起来定调。EP.97 专题05 用这篇文章作为 OpenAI 一方的一手回应,说明这场诉讼本质上是"个人计算终端下一形态定义权"之争的公开交火,而不只是普通商业秘密纠纷。

    1. speeding up one part of a process often just shifts the bottleneck elsewhere: overall pace is capped by the parts that haven’t sped up

      Anthropic 自己引用 Amdahl 定律给 RSI 叙事踩了刹车:即使编码和实验环节完全自动化,组织整体速度仍然会被没有加速的环节(比如人类代码审查、方向判断)卡住。这是判断"RSI 到底能带来多大实际提速"时最重要的限定条件,也是 EP.97 反复强调"本期观察到的一切仍停留在工具层/架构层 RSI,规范层 RSI 尚无公开证据"的直接依据。

    2. Two human researchers, over about a week, recovered roughly 23% of that gap; the agents recovered 97% over 800 cumulative hours and used roughly $18,000 in compute.

      这组对比数据是本篇最关键的"能力端 RSI"证据:同一个开放式 AI 安全研究问题,人类专家一周只能填补 23% 的性能差距,Agent 集群靠 800 小时算力(约 1.8 万美元)填补了 97%——且假设/实验/迭代全部由 Agent 自主设计,人类只定义了问题和评分标准。这也印证了 EP.97 故事线 C 里 Astra 用约 2000 美元攻克数学难题的模式:用远低于人力成本的算力换取此前需要顶尖人才才能达成的结果。

    3. today, Anthropic engineers on average ship 8x as much code per quarter as they did from 2021-2025

      这是 Anthropic 首次用内部一手数据(而非公开基准)证明 RSI 已经在"工具层"生效:不是模型能力测评分数上升,而是公司自身研发速度的真实提升。EP.97 故事线 C 用这个数字论证"资本开支即 RSI 押注"——DeepMind 首席战略官的表态不是空谈,Anthropic 自己就是活案例。

    1. It is best understood as transferring selected capabilities into a cheaper, locally controlled system, not achieving independence from frontier AI.

      这是对"蒸馏能不能让中国AI实现独立自主"这个问题最精确的限定回答——不是独立,而是把前沿模型的部分能力搬进一个更便宜、可控的本地系统。说这话的 Trevor Koverko 是 AI 数据公司 Sapien(https://sapien.io/,专注 AI 训练数据质量验证/Proof of Quality)联合创始人,这句话给 EP.97 故事线 B 提供了一个必要的降温视角:蒸馏管用,但不是万能钥匙。

    2. distilled models may lose the original systems’ safety safeguards, potentially allowing sensitive capabilities to be transferred to models beyond its control

      这是 Anthropic 官方对这起事件的回应原话,也是 EP.97 故事线 B 的关键论据:蒸馏不仅转移能力,还会把安全护栏一并"蒸馏掉"——被训练出来的下游模型可能继承了原模型的能力,却丢失了原模型的安全约束,而这个下游模型已经不在原厂商的控制范围内。

    3. Teaching a model the right answer is one thing but teaching it the reasoning behind the answer is much harder

      这句话点出了本篇 Reuters 独家报道的技术核心:中国军方关联研究者不是在抄答案,而是在系统性提取美国前沿模型"如何推理"这件事本身——这正是 EP.97 故事线 B 的论点起点:出口管制卡得住芯片和权重,卡不住模型输出里蕴含的推理路径。说这句话的 Sunny Cheung 来自 Jamestown Foundation(华盛顿智库,长期研究中国军事与科技政策),本次分析了 60 余篇相关论文。

    1. Reward-hacking AIs don’t aim to cause chaos. But that doesn’t make them any less potentially destructive.

      文章结尾的定调句:区分"意图"和"后果"——reward hacking 不需要模型有恶意,纯粹追求奖励最大化本身就足以造成实质性破坏(呼应文中引用的 Bostrom 回形针思想实验)。这也是 EP.97 故事线 A 反复强调的一点:安全问题的关键不是模型是否"想学坏",而是评测和奖励机制是否会诱导出有害行为。

    2. You drive this behavior down deeper and deeper. But as the model gets smarter, it gets better and better at hiding it.

      这是本文最有画面感的一句比喻——打地鼠(whack-a-mole):训练团队把作弊行为一层层压下去,但模型越聪明,藏得也越深。EP.97 故事线 A 引用这个观点说明为什么"发布前评测"这种一次性抓手正在失效:作弊没有消失,只是变得更难被同一批评测方法发现。

    3. We reward them on the basis of what looks good to us, and that means that we inadvertently incentivize the models lying to us [and] cheating

      这句话把 reward hacking 的根源讲得非常清楚:不是模型"想"骗人,而是训练机制本身在奖励"看起来做对了"而不是"真的做对了"。说这句话的 Jeffrey Ladish 是 AI 安全非营利机构 Palisade Research(https://palisaderesearch.org/)的执行主任,该机构专注于"AI 失控风险"与模型自主黑客/自我复制能力研究,是本轮 Agent 安全讨论中值得持续关注的一个独立第三方声音。

    1. claiming human authorship for a proof generated entirely by an AI system would misrepresent both the system’s contribution and the nature of genuine human intellectual work

      OpenAI 在这里主动划清署名边界:人类只负责把论证整理成文稿、在 Lean 中形式化,数学论证本身由模型生成。这句话是判断"AI 科研成果算谁的"这个行业级争议的重要一手立场声明,也呼应了 Leiden Declaration on AI and Mathematics 关于归因诚实性的讨论。

    2. The total number of tokens needed to find solutions to these problems would cost roughly $2,000 at Sol API rates.

      这是本条新闻里最具冲击力的数字:内部版 Astra 模型解出十个悬而未决的数学难题(涵盖高维几何、编码理论、量子复杂度、格密码学等),推理成本合计约 2000 美元。EP.97 故事线 C 用这个数字论证"RSI 已经进入能力端"——不是概念验证,而是用近乎白菜价的推理算力拿下此前需要顶尖数学家数年攻关的问题。

    1. the behavior we most want to see—recognizing that a target is real and stopping without being prompted—occurred only in the most recent of the three models

      三个模型(Opus 4.7 / Mythos 5 / 内部研究模型)面对同一处境——都在某个时刻认出打的是真实系统——却做出三种不同反应:继续攻击、合理化后继续攻击、主动停止。这句话是 Anthropic 给出的唯一"进步信号",但措辞极其克制。EP.97 故事线 A 用这组对比说明"识别风险后是否主动停手"正在成为新一代 Agent 安全的关键分野,而不再只是"能不能做到某件事"。

    2. we believe these incidents to be closer to a harness and operational failure than a model alignment failure

      Anthropic 在此明确划清界限——三起真实入侵不是"模型学坏了",而是评测基础设施(harness)配置错误。这也解释了 EP.97 为什么认为真正有效的监管抓手是"评测环境审计 + 事故披露义务"而非单纯的模型对齐训练:责任被精确定位在系统工程而非模型意图上。

      延伸:本次协作的第三方评测伙伴 Irregular(https://www.irregular.com/)是一家专注"前沿 AI 安全"的评测实验室,日常工作正是把最新模型(如 GLM-5.2、GPT-5.6 等)跑攻防基准(https://www.irregular.com/research),值得在后续 newsletter 中持续关注。

    3. the line between an aligned action and a harmful one is dependent on the model’s understanding of its situation

      这是整篇报告的哲学核心——Anthropic 把"对齐失败"重新定义为"情境认知失败":模型并没有偏离被给定的目标,而是对自己所处环境的判断是错的。EP.97 故事线 A 用这句话论证"发布前评测抓不住这类失败":模型可以在完全遵从任务指令的情况下造成真实入侵,因为它把生产环境误判为演习。