10 Matching Annotations
  1. Aug 2026
    1. Risk is how likely something like a request or action is to be harmful, and it's often ephemeral. Trust, however, is built up over time, and it's based on reputation

      风险vs信任——Cloudflare区分两个维度:风险是瞬时的(这个请求是否有害),信任是历史积累的(这个来源是否可靠)。当AI agent代表用户行动时,这个框架决定了谁的AI能"通行无阻",谁的会被拦截。

    1. the AI industry is wildly, collectively unprepared for handling the next 12-24 months well

      Nathan Lambert敢直接说"集体没有准备好"——这是AI圈少有的诚实评估。没有哪个单一主体(实验室、政府、监管者)单独有能力应对接下来的挑战。这是系统性准备不足,而非某个公司的个别失误。

  2. Jul 2026
    1. a negative correlation between intellectual capability and desire to commit catastrophic harm

      达里奥的生物安全底层假设:目前让人类安全的不是技术防御,而是「高智商与大规模作恶意愿」之间的负相关。他最担心的是:足够强大的 AI 会打破这个相关性,将毁灭性能力从少数极端分子手中解放出来。这是比任何技术政策更深层的哲学担忧——如果这个相关性消失,开源闭源之争都将变得次要。

    2. I worry that biology will have a strong attacker-defender asymmetry, where sufficiently capable models may be able to quickly weaponize pandemic-level viruses with widely available materials, whereas defense against these agents is a multi-year operational task in the best case

      全文最令人不安的论点:生物领域存在结构性攻防失衡。AI 或许能在极短时间内将病原体武器化,而防御是以年计算的任务(他用 Operation Warp Speed 作为最优情况的参照)。这是结构性不对称,不是程度差异——这也是他认为生物 AI 风险需要专门对待、而非套用常规开源框架的根本原因。

  3. Jun 2026
    1. you can't produce the logic using the local files. The reasoning logs on your system are not accessible to you.

      本地文件里的推理日志你看不了——这对 AI agent 的审计追踪(audit trail)承诺是个釜底抽薪式的打击。如果你在合规场景(金融、医疗、法律)中使用 Claude Code 作为自主代理,而你无法重建它做出某个决策时的推理过程,那所谓的「可审计 AI」就是一句空话。

    1. OKF is not tied to any specific cloud, database, model provider, or agent framework. It will never require a proprietary account or SDK to read, write, or serve

      这个承诺是OKF能否被广泛采用的关键信号。历史上很多看起来开放的知识标准最终都成为某个厂商的护城河——要么需要特定SDK、要么需要注册账号、要么在边缘场景上悄悄锁定。Google在这里做出的明确承诺(不需要账号、不需要SDK、任何文件系统都可以承载)如果能兑现,将是OKF能够形成真正跨厂商生态的基础条件。当然,承诺是一回事,执行是另一回事——后续版本的演进方向是最好的验证。

    1. a failure that occurs once in ten million conversations is unlikely to be discovered in a million-sample run, so adversarial evaluations, red-teaming, and targeted tail-risk analysis remain necessary

      Deployment Simulation的盲区:它无法检测频率低于1/200,000的行为。但对于AI安全来说,最危险的风险恰恰往往是极低频率的极高危害事件(尾部风险)。这就是为什么这个方法是对红队测试和对抗性评估的补充,而非替代。两类方法各有分工:Deployment Simulation负责覆盖高频行为的准确预测,红队测试负责挖掘低频的严重威胁。这种分工的清晰承认本身,反而是这篇论文科学性最强的地方之一。

  4. Apr 2022
    1. 依据我们大量的数据统计分析发现,采用ES细胞方式制备,随机插入的概率约20%;采用CRISPR/Cas9技术,随机插入的概率约32%。而这32%中有14%的随机插入是无法靠交配传代去除的。通过Southern blot检测可以排除这种现象。做模式动物的朋友们,一定要让您的服务商做Southern blot检测哦,否则您投入的大量时间和金钱可能会化为乌有!

      sb 必要性 随机插入

  5. Mar 2022
    1. 一个有前途的新项目出现在你面前时,不妨认定它很难成功,但是如果你相信这个项目,即便赚不到钱你也想做,那么无论如此,你要去试一下。

      蒂奇:"人的梦想是不会终止的"

      马斯克听了很难过,对芒格说,你的理由我都同意。但是,即便什么都不尝试,我们也会死,所以无论如何,我都打算尝试一下。