前沿声浪 · Vol.159

数学稿子要人校对,机架一天跑完 6.77T token

陶哲轩挂出 oai-math-revised 给 OpenAI 的数学写作开社区修订站,Jack Clark 把递归自我改进的预期提前到 2027,一台推理机架 24 小时跑掉 6.77 万亿 token 并交出 p50/p95,BBC 与 Prof G Markets 两头算资本开支这本账。

ai-agents ai-infrastructure inference ai-bubble data-center mathematics terence-tao openai anthropic kimi-k3-1 moonshot hermes-agent youtube x bilibili

本期内容 · 8 条

约 1 分钟
X 讨论串 · Dax Raad (@thdxr)

一个机架 24 小时跑掉 6.77 万亿 token

一台推理机架的 24 小时数据:6.77T token、p50 首 token 1.16 秒、p50 输出 143 token/秒,p95 被一块不稳的 tray 拖垮。

约 1 分钟
X 讨论串 · Nous Research (@NousResearch) × Teknium

Nous Research 与 Teknium 用四条推上线 Hermes Agent

主帖「Hermes Agent gives you control」拿到 1355 赞,Teknium 三小时内连补三条推,介绍 Crew、深入上手的 thread 与 Curator 功能。

15:22
YouTube 视频 · BBC News(AI Decoded)

BBC:数据中心要终结了吗,Apple 与 Meta 在往反方向下注

15 分钟质疑「AI 等于更大数据中心」这个等式:Apple 不参加那场约 8000 亿美元的基建军备赛,靠自家芯片跑端侧,边缘小机房一派主张「小就是新的大」。

10:37
YouTube 视频 · Prof G Markets(Ed Elson)

Prof G Markets:泡沫不在你以为的那个地方

Ed Elson 的 Simply Put 视频版,论点直白:真正的 AI 泡沫还没有进入公开市场,风险仍停在私募那一层。

7:15
Bilibili 视频 · 飞天闪客

B站 7 分 15 秒:给超大参数模型做一次后训练之后

从「超大参数模型后训练之后会发生什么」切入讲 Kimi K3.1 Pro 的由来,上线不到两小时 7161 次播放。

4:17
Bilibili 视频 · 高等数学真高等

B站 4 分 17 秒:纯数看不起应用,结果 AI 先来抄了纯数的家

熬了两年的数论猜想被 AI 三小时证出,顶刊论文细节没人验算,作者说被冲碎的是数学圈的傲慢而不是数学。

约 3 分钟阅读
博客 文章 · Terence Tao 博客(客座作者 Abhinav Nellore、Johannes Schmitt、Soledad Villar、Rachel Ward)

陶哲轩挂出 oai-math-revised:给 OpenAI 的数学稿子开社区修订站

四位研究者建 oai-math-revised 社区仓库,公开修订 OpenAI 数学写作里难读、引用不全的部分,并按分类招募管理员与审稿人。

约 5 分钟阅读
新闻 文章 · The Decoder(Manuel Uth)

Jack Clark 把递归自我改进的时间点往前挪了一年

TasteVal 显示 AI 设计实验与解读结果的能力自 2025 年 12 月起约每三个月翻倍,Clark 据此把递归自我改进的预期从 2028 提前到 2027。

一个机架,24 小时跑掉 6.77 万亿 token

Dax Raad 把自己手上一台推理机架的 24 小时账单直接贴了出来。

  • 处理 6.77T token
  • p50 首 token 延迟 1.16 秒
  • p50 输出 143 token/秒
  • p95 不好看,一块 tray 不稳拖了后腿,换掉就漂亮

有几张卡、跑的什么模型、请求长什么样,他一条都没说。

编者评: 这份数据的价值不在 6.77T 这个总量,在于 p50 和 p95 一起交了出来。行业里流通的推理性能数字大多是挑过的单点,中位数漂亮、长尾塌掉才是常态。一块 tray 就能把整机的尾延迟拖下去,他没把这件事藏起来。

Nous Research 和 Teknium 用四条推上线 Hermes Agent

主帖只有一句「Hermes Agent gives you control」,10 月 24 日 16:20 发出,拿到 1355 赞。Teknium 在后面三小时补了三条:招人进 Crew、给一条深入上手的 thread、Curator 功能概览。B站当天也出现了十分钟的 Windows 安装教程。

编者评: 五个单词的发布推配 1355 赞,说明 Nous Research 在开源微调圈攒下的信用还在兑现。Curator 这个命名值得留意——agent 产品开始把「什么进上下文」单独切成一层,而不是塞回 prompt 里。

BBC:数据中心要终结了吗,Apple 与 Meta 在往反方向下注

AI Decoded 这一期 15 分 22 秒,24 小时内跑到 48.8 万观看,把「AI 等于更大数据中心」这个等式摆上台面质疑。Apple 没有加入亚马逊、甲骨文、谷歌、Meta、微软那场合计约 8000 亿美元的基建军备赛,它把一部分 Apple Intelligence 放进自家芯片端侧跑。BBC 同期的文字稿《Honey, I shrunk the data centres》给出另一半证据:英国在建的大型数据中心约 100 座,另一派主张把算力拆成洗衣机大小的边缘节点,DeepGreen 创始人 Mark Bjornsgaard 的说法是「小就是新的大」。

编者评: 端侧和巨型机房不是二选一,是分层。真正被这一期戳中的是估值的逻辑:过去两年「投入即信仰」,谁敢砸钱谁拿估值,现在市场开始问回报路径在哪。苹果的 capex-light 从负债变资产,本身就是这个切换的刻度。

Prof G Markets:泡沫不在你以为的那个地方

Ed Elson 的 Simply Put 通讯视频版,10 分 37 秒,14 万观看。论点写得很直白:真正的 AI 泡沫还没有进入公开市场——至少现在还没有。

编者评: 这个说法换个讲法是「风险还没转移到散户的养老金账户里」。它和上一条 BBC 是同一枚硬币:一个讲资金从算力叙事轮动到现金流叙事,一个讲这轮轮动还停在私募那一层。两条一起看,比单看任何一条都清楚。

B站 7 分 15 秒:给超大参数模型做一次后训练之后

飞天闪客从「当你对一个超大参数的模型进行后训练之后会发生什么」切入,讲 Kimi K3.1 Pro 是怎么来的,视频简介挂了官方 tech blog 链接。上线不到两小时 7161 次播放,是当天同题材里跑得最快的一条。

编者评: 国内讲解 K3.1 Pro 的视频基本分成两类,一类念跑分,一类拆「后训练到底动了什么」。这条属于后者,也是更难做的那一类——跑分可以照抄发布稿,后训练的变化得自己找对照。

B站 4 分 17 秒:纯数看不起应用,结果 AI 先来抄了纯数的家

高等数学真高等这条 4 分 17 秒的视频把数学圈的体面问题摊开了:一个熬了两年的数论猜想,被 AI 三小时证出来;一篇顶刊论文,全中国真正验算过细节的人没几个;同行评审更像看个思路,引用大佬结论比自己推导更安心。作者的结论是,被冲碎的不是数学,是数学圈的傲慢。

编者评: 「引用大佬结论比自己推导更安心」这句是这条视频最狠的地方。它指向一个长期被忽略的事实:数学的验证链条本来就靠少数人的信誉在撑,AI 只是把这条链子的承重能力暴露了出来。

陶哲轩挂出 oai-math-revised:给 OpenAI 的数学稿子开一个社区修订站

10 月 24 日,陶哲轩的 What’s new 发了一篇四位作者的客座文章——Abhinav Nellore、Johannes Schmitt、Soledad Villar、Rachel Ward。文章开门见山:OpenAI 放在 github.com/openai/math 的数学写作「难读,而且引用不全」。社区修订版放在 github.com/mathcommunity/oai-math-revised,按 overview.pdf 里的分类招管理员和审稿人,学生、博后、教授、爱好者都可以报名。

编者评: 一篇只有几百字的客座通告,分量比很多万字评论重。它把「AI 解出了题」和「数学界认了这道题」分成两件事,并且给第二件事配了基础设施——校对机器学习生成的证明,从此有了公开的工位。

Jack Clark 把递归自我改进的时间点往前挪了一年

The Decoder 10 月 25 日报道:一个叫 TasteVal 的新基准测的是 AI 自己设计实验、自己解读结果的能力,P-Zero Research 把它叫「研究品味」。数据显示这项能力自 2025 年 12 月起大约每三个月翻一倍,表现最好的模型压过了 24 位人类专家组成的对照组,成本只是后者的一小部分。Jack Clark 据此把递归自我改进(AI 造自己的下一代)从原先预计的 2028 年提前到 2027 年。

编者评: 基准只覆盖科研工作里很窄的一片,翻倍曲线也才跑了十个月。真正值得记的是讨论的位移——辩论从「模型跑分多少」转向「语言模型能独立扛下多少研究活」,这个转向本身会改变明年的评测怎么造。

编者按

今天这八条里,有三条在做同一件事:给 AI 的产出补一套人类侧的验收流程。陶哲轩挂出的修订站负责验收证明,METR 那一类的驻场审计负责验收 agent 的行为日志,Dax Raad 贴出的 p50/p95 负责验收推理服务的实际表现。三件事隔得很远,动作是同一个——把「它说它做到了」换成「谁、用什么方法、验到了什么程度」。

剩下几条在算另一本账。BBC 和 Prof G Markets 都盯在资本开支上,一个说苹果的轻量路线从负债变成了资产,一个说泡沫还没流进公开市场。算力叙事正在换成现金流叙事,这个过程里最先被重新定价的不是技术,是耐心。

模型侧的动作比讨论的要快。Kimi K3.1 Pro 的讲解视频在 B站 两小时跑到 7161 次播放,Hermes Agent 用五单词的推拿到 1355 赞,两边都不靠发布会。产品发布的仪式感在缩水,留给评测和验收的时间在被压缩——这大概正是上面那三条要补的东西越来越贵的原因。