大多数人认为AI产品的核心竞争力在于模型质量，这是行业长期以来的共识。但作者认为这一观念已被颠覆，产品现在需要模型+工具+工作流+UI+记忆+经济学的综合组合，这代表着对AI产品本质的根本性重新定义。

大多数人认为AI生成的设计是'坏的设计'，但作者认为这只是'缺乏灵感'，将其与Bootstrap时代相提并论，暗示这种设计平庸化是技术发展的自然循环而非灾难性退步。这种观点挑战了我们对设计价值的传统认知。

大多数人认为AI系统的自我演化应该是开放式的、持续的过程，而不是有明确边界和可追溯性的闭环操作。但作者提出的SEPL层强调了一种结构化的自我演化方法，要求每次改进都可被审计、追踪和回滚，这与当前AI社区对开放式演化的主流认知相悖，可能带来更安全但更受限的演化路径。

大多数人认为AI系统的演化应该是一个整体过程，关注点在于如何实现演化。但作者提出了一种革命性的分离方法，将演化的内容与演化的方式解耦，这打破了传统系统设计的思维模式。这种分离可能使AI系统的演化更加可控和可预测，与当前主流的集成式演化方法形成鲜明对比。

大多数人认为网站优化主要是针对搜索引擎和人类用户，但作者认为网站需要专门为AI代理(agent)准备，这挑战了传统的网站优化观念。文章提出了一系列新兴标准，如MCP、Agent Skills等，表明未来的网站交互将不再局限于人类浏览，而是需要与AI系统进行复杂交互。

这是一个极具洞察力的反直觉观点。文章指出，正是训练过程中使LLMs强大的压缩机制，在部署后却被我们拒绝使用。这暗示我们可能正在错失让AI真正进化的关键机会，同时也提出了一个重要问题：为什么我们不让AI在部署后继续学习？

这个功能模块代表了AI安全研究的前沿方向，不仅关注当前能力，还追踪能力演化和效率变化。计算'能力倍增时间'特别值得关注，这可能揭示AI安全能力发展的加速趋势，对预测未来安全挑战具有重要意义。

这一标题揭示了产品本质的转变——不仅是技术升级，更是定位的根本性转变。从单一的视频生成工具到全方位的导演工具套件，暗示着AI正在从'执行者'向'创造伙伴'进化，这代表了AI创作工具领域的一个重要范式转变。

这一前瞻性观点暗示AI应用的发展轨迹是从开放循环到封闭循环的转变过程，这意味着当前许多需要人类判断的领域未来可能被AI完全自动化，具有深刻的战略意义。

这是一个惊人的自进化系统，AI模型能够自主分析失败、修改代码并评估结果，实现了30%的性能提升而无需人工干预。这种自我迭代的模式代表了AI开发范式的重大转变，暗示未来AI可能能够自主优化和改进自身架构，减少对人类专家的依赖。

令人惊讶的是：Hermes Agent竟然已经发展到了拥有独立界面的程度，这表明AI代理系统正在从简单的命令行工具演变为具有完整用户界面的复杂系统，反映了AI代理技术的快速成熟。

令人惊讶的是：AI时代的商业策略与SaaS时代截然相反。SaaS时代通过专业化单一功能获得成功，而AI时代则通过提供广泛的综合解决方案获得优势。这种根本性的转变反映了技术演进对商业模式的深远影响。

令人惊讶的是：Google正在将Gemini从单纯的聊天助手转变为能够跨多个应用程序自主执行任务的智能代理系统。这标志着Google正在重新定位其AI产品，从对话式交互转向完整的工作流程自动化，这可能会改变用户与数字环境的互动方式。

令人惊讶的是：仅今年年初以来，Codex等代理工具的使用量增长了5倍以上，GitHub、Nextdoor、Notion等公司正在构建能够端到端执行工程工作的多智能体系统。这表明AI已经从辅助工具转变为能够自主完成复杂任务的系统，技术演进速度令人惊叹。

令人惊讶的是：SkillClaw不仅收集用户交互数据，还能通过自主进化器识别重复行为模式，并将其转化为技能更新或扩展。这种集体进化机制让AI系统能够从多用户经验中学习，实现跨用户知识转移和累积能力提升，这打破了传统AI系统部署后技能保持静态的局限。

打破了“模型变强则脚手架消亡”的线性思维。模型能力的提升并非消灭了架构设计的价值，而是将其推向了更高复杂度、更具挑战性的新领域。AI工程师的核心竞争力正是持续探索这种前沿的架构组合。

这句话点破 AI 产品形态的根本转变：早期 AI 是「你要去的地方」，现在变成「你已在的地方」。流量统计将越来越失真——最重度的 AI 用户可能完全不出现在 Web 访问数据中。未来 AI 竞争的关键指标，可能不再是独立访问量，而是「嵌入深度」：你有多深入用户的工作流。

useful observation, akin to Lovelock's [[AI begincondities en evolutie 20190715140742]]

David posits questions that are all on the application side, what is the impact of using ai. There are also questions on the design side, how do we shape the tools wrt those concepts. Vgl [[AI begincondities en evolutie 20190715140742]] e.g. diff outcomes if you start from military ai params or civil aviation (much stricter), in ref to [[Novacene by James Lovelock]]

26:30 Brings up progress traps of this new technology

26:48

question How do we shift our (human being's) relationship with the rest of nature

27:00

metaphor - interspecies communications - AI can be compared to a new scientific instrument that extends our ability to see - We may discover that humanity is not the center of the universe

32:54

Question - Dr Doolittle question - Will we be able to talk to the animals? - Wittgenstein said no - Human Umwelt is different from others - but it may very well happen

34:54

species have culture - Marine mammals enact behavior similar to humans

• Unknown unknowns will likely move to known unknowns and to some known knowns

36:29

citizen science bioacoustic projects - audio moth - sound invisible to humans - ultrasonic sound - intrasonic sound - example - Amazonian river turtles have been found to have hundreds of unique vocalizations to call their baby turtles to safety out in the ocean

41:56

ocean habitat for whales - they can communicate across the entire ocean of the earth - They tell of a story of a whale in Bermuda can communicate with a whale in Ireland

43:00

progress trap - AI for interspecies communications - examples - examples - poachers or eco tourism can misuse

44:08

progress trap - AI for interspecies communications - policy

45:16

whale protection technology - Kim Davies - University of New Brunswick - aquatic drones - drones triangulate whales - ships must not get near 1,000 km of whales to avoid collision - Canadian government fines are up to 250,000 dollars for violating

50:35

environmental regulation - overhaul for the next century - instead of - treatment, we now have the data tools for - prevention

56:40 - ecological relationship - pollinators and plants have co-evolved

1:00:26

AI for interspecies communication - example - human cultural evolution controlling evolution of life on earth

for - AI evolution - nightmare scenario - US govt may seize Open AI assets if it arrives at superintelligence

AI evolution - projection - US govt may seize Open AI assets if it arrives at superintelligence - He makes a good point here - If Open AI, or Google achieve superintelligence that is many times more intelligent than any human, - the US government would be fearful that they could be overthrown or that the technology can be stolen and fall into the wrong hands

for - AI evolution - projections for capabilities by 2030

AI evolution - projections for 2030 - AI will be able to do things we cannot even conceive of now because their cognitive capabilities are orders of magnitudes faster than our own - Write billions of lines of code - Absorb every scientific paper ever written and write new ones - Gain the equivalent of billions of human equivalent years of experience

for - stats - AI evolution - equivalent of 100 million human researchers working 24/7

stats - AI evolution - equivalent of 100 million human researchers working 24/7 - By 2027, the industry's aim is to have tens of millions of GPU training clusters, running - millions of copies of automated AI researchers, or the equivalent of - 100 million human AI researchers working 24/7

for - AI evolution - prediction - 2027 - all cognitive jobs can be done by AI

for - stat - AI evolution - prediction 2027 - training time - 6 OOM decrease

stat - AI evolution - prediction 2027 - training time - 6 OOM decrease - today it takes 3 months to train GPT 4 - in 2027, it will take 1 minute - That is, 131,400 minutes vs 1 minute, or - 6 OOM

for - AI evolution - prediction - 2027 - AI agent will replace AI chatbot

for - stats - AI evolution - Math benchmark - 2022 to 2024

stats - AI evolution - Math benchmark - 2022 to 2024 - 50% increase in accuracy over 2 years - inference accuracy improved 1000x or 3 Orders Of Magnitude (OOM)

for - stats - AI - evolution - Math benchmark

stats - AI - evolution - Math benchmark - 2021 - GPT3 scored 5% - 2022 - scored 50% - 2024 - Gemini 1.5 Pro scored 90%

• for: instant evolution, AI - instant evolution, progress trap, progress trap - AI - instant evolution, progress trap - robotics