AI 技术日报 - 2026-10-26
2026-10-26
| 2026-10-26
字数 4033阅读时长≈ 11 分钟

📊 今日概览

今日最值得关注的是推理成本与算力供给的双重信号:OpenAI 以最高 90% 折扣从 Anthropic 挖走大客户,Rippling 编码负载中 OpenAI 份额从 16% 升至 52%,而 Max Woolf 拆解指出 agent 场景下 cache read 占总 token 支出 96-99%,cache 单价才是真正的成本杠杆;AWS CEO Jassy 则直言 2026 年算力已售罄、2027 年基本售罄。开源侧,llm-d 1.0 在 CNCF 治理下发布首个稳定版并加入 agent-aware serving,NVIDIA 把 Run:ai 全栈 GPU 编排以 Apache-2.0 开源。机器人领域,Figure 03 与人类比拼 10 小时包裹分拣仅差 192 件,清华与 AgiBot 用 96 台机器人共享经验把任务成功率推到 97.3%。

🔥 趋势洞察

  • 推理成本结构重估:agent 场景 cache read 占支出 96-99%,cache 单价下调等价于整体成本降 70%+,定价战焦点从 token 单价转向缓存命中率
  • 推理栈走向可运维:llm-d 1.0 把 PD 分离做成 Day-2 生产能力并加入会话感知路由,NVIDIA 开源 Run:ai 四模块,自建推理栈门槛显著降低
  • 机器人长时程稳定性:Figure 03 十小时分拣仅差人类 192 件、96 台机器人集体经验学习达 97.3%,竞争焦点从峰值速度转向持续作业可靠性

🐦 X 推文动态

📈 热点与趋势

  • Figure 03 与人类比拼 10 小时包裹分拣,只差 192 件 - 人类分拣 12,924 件,Figure 03 机器人分拣 12,732 件。机器人全程没有人类式休息,差距出在长时程稳定性而非峰值速度 @ctorobotics(事件主体:Figure AI)
  • Eka Robotics 称靠力觉做到每小时抓取 1500 件 - 人类约 600 件,成功率超 95%。a16z 领投 1.5 亿美元融资,公司主打让机器人感知力而非只靠视觉 @LondonRealTV(事件主体:Eka Robotics)
  • Interconnects 播客复盘 Kimi K3.1 Pro 的"高分低反响" - 讨论议题:基准极强但反响混杂、开源权重的网络安全风险是否被低估、网络专家与 AI 专家对同一批事件判断分歧、Anthropic 不再招初级员工 @natolambert(Nathan Lambert,Interconnects 作者 / Ai2 研究员)

🔧 工具与产品

  • Nanbeige4.3-33B 发布,主打 30B 级开源 agent 上限 - 官方称在 agentic 编码与协作基准上达同参数量开源 SOTA;接入主流 agent harness 后可低成本跑真实任务。该模型还将作为教师模型,蒸馏后续 Nanbeige4.3-3B @nanbeige(Nanbeige,开源 LLM 团队)
  • Together AI 上线 MiniMax M3.1 Flash 后训练 - 用户可用自有数据、奖励函数与环境跑 SFT 或 RL,训练循环仍留在自己的 Python 代码里,面向 agent 工作负载做定制 @togethercompute(Together AI,开源模型基础设施公司)
  • Ethan Mollick 称 Opus 5.5 基本独立重做了他的书籍网站 - 上一版用 Opus 4.8 时需大量人工才做出有辨识度的静态站点,这次模型单独完成大部分工作 @emollick(Ethan Mollick,沃顿商学院教授)

⚙️ 技术实践

  • Resin 把 LLM 推理引擎拆成"共享内核 + 模型 forward" - 作者 Eric Zhang 的思路:通用部分全部复用,每个模型/硬件只写 forward pass 与 kernel。在 DeepSeek-V4.1-Flash 上速度落在 DeepInfer 的 5-10% 内,且自包含、带 metrics、HTTP server 与前缀缓存;用 Codex 一夜生成 GLM-5.3-Flash 引擎(含 MTP),B200 EP4 上达 6 万 input tok/s、1.6 万 output tok/s @ekzhang1(Eric Zhang,Resin 作者 / 独立开发者)。vLLM 核心作者 Woosuk Kwon 回应:vLLM 已把模型专有代码隔离出来,并正考虑把更多栈迁到 Rust @woosuk_k(Woosuk Kwon,vLLM 核心作者)
  • OCRia-1 发 37 页技术报告,4B 模型拿下文档解析多项第一 - ParseBench 87.4,olmOCR-bench 83.5(表格 92.9)、PulseBench-Tab 84.1、fr-bench-pdf2md 72.1,对标 Infinity-Parser、LightOnOCR 3、Chandra 2、dots.mocr。解码速度比最新开源模型快 2-4 倍,另附 24 页附录披露数据与训练管线实验细节 @jerryjliu0(Jerry Liu,LlamaIndex CEO)
  • MiniMax H3 生态新增 11 项社区贡献 - FastH3 实现 4 步蒸馏并跑上 DGX Spark 与 Apple Silicon;NVIDIA SANA 团队的 Sol-H3 在 8×B300 上 6.6 秒出 15 秒 768p 视频+音频;VDN 重做注意力;阿里 PAI 把 PDD 蒸馏做成 8 步 Acc-LoRA 并接入 ComfyUI;LightX2V 提供 4/8 步 Turbo LoRA @MiniMax_AI(MiniMax,视频生成模型公司)
  • 清华、AgiBot、无限光年用 96 台机器人共享经验训练 - 集体经验学习(CEL)框架让机器人互查彼此的成功轨迹来改策略,五个真实任务平均成功率从 81% 升到 97.3%,手机包装从 79.2% 升到 98.3%;机队从 16 台扩到 96 台后成功率 86.7%→98.3%。AgiBot 2026 上半年出货超 8,600 台人形机器人 @CyberRobooo(CyberRobo,机器人媒体账号)
  • 一条纯代码 prompt 让 Claude Opus 复刻 Kurzgesagt 动画风格 - 输出单个 HTML 文件,每帧是时间的纯函数,用 Playwright 无头渲染加 ElevenLabs 配音;含太阳坍缩、地球日照倒计时、宇航员吉祥物等镜头编排与音效对齐规则。原作者 Kurzgesagt 单条视频制作约 1,200 小时 @finnardley(Finn,AI 内容博主)

⭐ 精选内容

OpenAI 与 Anthropic 掀起 LLM 价格战:最高 90% 折扣挖角大客户,cache read 降价才是成本真相 | 商务侧定价情报 + 成本结构拆解
两条互补报道拼出全貌。The Information 转述的商务侧:OpenAI 以最高 90% 折扣从 Anthropic 挖大客户且已见效——Rippling 编码负载中 OpenAI 份额从 16% 升至 52%、Anthropic 从 57% 降至 18%;Replit 在年合同额超 1 亿美元下拿到 30%+ 折扣后切换;DataCamp 称报价把成本砍了 80-90%;一家美国银行免费把 ChatGPT 席位翻倍到 500 人、单价低于 $7/用户。Max Woolf 的技术侧复盘则给出更关键的洞察:agent 场景下 cache read 占总 token 支出 96-99%、命中率 90-100%,所以 cache 单价小幅下调等价于整体成本 70%+ 的下降——这是看定价表时最容易忽略的一栏。文末用 Vercel 网关数据指出单位 token 成本已降到 2026 年 4 月的 43.3%,但总支出反升,因为模型变强快于变便宜。做 API 预算、多供应商策略、agent 成本模型的团队,这两篇要一起读。
Scientific American 还原 OpenAI 百万美元数学证明内幕:模型走的是与自家数学家预期完全不同的路径,社区仍在逆向工程 | "不可解释模型做科学"的一手叙事
NYU 的 Tristan Buckmaster 在公开指责 OpenAI 剽窃其工作后首次公开演讲,现场挤成"摇滚演唱会",听众笔记本上开着 Claude Code 与 Codex 在写证明。文章确认 OpenAI 内部模型确实找到了正确答案,但证明路径与公司自家数学家最初以为的完全不同,社区至今仍在逆向工程其不透明逻辑。核心洞察是:不可解释的模型正在商业机密包裹下创造科学史,而人类(连同优先权争夺)几乎跟不上。这是理解"AI 做科学"新常态与优先权争议的一手材料。
Mundo:从几张房间照片到可探索、可编辑、可模拟的世界,用显式 3D 代理 + 模拟器绕开"看着像但物理不成立" | 世界模型分层架构的清晰样本
流程是四段式:先用 3D 基础模型恢复相机位姿与几何,3D 检测器给出初始包围盒,再由一个 VLM agent 在 Blender 里反复"改场景程序—渲染—与原图比对"的 analysis-by-synthesis 循环精修代理世界;运行时由代码世界维护显式 3D 状态、模拟器计算物体运动与交互,最后用视频模型以输入图为视觉上下文渲染结果。核心是把"物理可行性"交给显式代理与模拟器、把"视觉逼真"交给视频渲染器。对做世界模型物理接地与机器人仿真的团队,这个分层思路可直接借鉴,且支持机器人任务在其中仿真。
llm-d 1.0 发布:CNCF 治理下首个稳定版,把 PD 分离真正做成可运维,并加入 agent-aware serving | 自建推理栈可直接对标的平台能力清单
由 Red Hat、IBM、Google Cloud、CoreWeave、NVIDIA 于 2025 年共同发起,现 25+ 组织、500+ 贡献者。1.0 增量集中在 Day-2 生产运维:多租户优先级与公平性流控(延迟敏感请求与突发 agent 负载共存不互相饿死)、router 热备高可用与滚动升级零停机、把 prefill/decode 副本作为单一逻辑单元协调升级、v1 配置 API,以及 agent-aware serving——会话感知路由把多轮对话钉在缓存上下文附近,配合 turn-priority 调度与原生 Responses API 状态支持减少重复计算。底层仍复用 prefix-cache/负载感知路由、KV cache offload、宽专家并行,同时支持 vLLM 与 SGLang。配套速查文给出部署依赖(K8s + Helm + Gateway API Inference Extension)、硬件示例与"何时需要集群级路由 vs 单机 vLLM 就够"的决策框架。
NVIDIA 把 Run:ai 全栈 GPU 编排平台开源(Apache-2.0),四个模块可独立采用 | 自建共享 GPU 池的选型索引
2026-10-13 开源,含控制平面、集群服务、安装器、CLI 与 MCP server,NGC 提供免费社区版。四个可拆用模块:KAI Scheduler(gang scheduling、fair-share、拓扑感知、抢占)、GPU Fractioning Operator(CUDA 原生显存切分与 per-pod 指标)、KAI Resource Management(项目/部门/节点池配额层级)、Workload Map(异构工作负载统一契约)。适合需要自建共享 GPU 池的 Infra 团队按集群规模与运维负担选型,但二手整理深度有限,建议直接读官方公告与仓库。
来源:aicybr.com
Google 开源 TorchTPU:PyTorch 张量、eager 执行与 torch.compile 直接跑在 Cloud TPU 上 | 评估 TPU 迁移的第一份 checklist
2026-10-20 PyTorch Conference 开源(google-pytorch/torch_tpu,Apache-2.0,0.2.0),覆盖 TPU v5e/v5p/v6e/v7 Ironwood,给出 HuggingFace Transformers/Diffusers、vLLM-TorchTPU、SGLang-TorchTPU、TorchTitan 的集成路径。整理文把版本、Python 3.11+、`torch.device("tpu")`、编译与分布式注意事项做成速查表。缺实测性能与算子覆盖数据,作为迁移评估起点可用,深度需追官方文档。
来源:aicybr.com
开源项目 GPU Unlock 让 RTX 30 系 AI 性能提升最高 60%:内核模块改写速度选择寄存器,绕过 Ampere 消费卡指令派发限制 | 本地推理/出图玩家的硬件红利
通过 Linux 内核模块在驱动加载前改写硬件速度选择寄存器并执行 FLR,无需改驱动或刷 VBIOS。实测 RTX 3080 Ti BF16 从 71.6 升至 114 TFLOPS、TF32 从 35.7 升至 65.3;ComfyUI 中 MOSS-Image/Qwen-Image 2.1/Z-Image Turbo 吞吐提升 56-58.6%,但 INT8 几乎无收益;vLLM prompt 处理 +33% 而 decode 不变(受限于显存带宽)。局限明确:不增带宽、不解锁 CUDA 核心、结果因卡而异,Windows UEFI 版仍实验性。受众窄(仅 Ampere 消费卡本地部署),且来源为币圈快讯二手转述,可信度需自行核验 GitHub 原项目。
来源:kucoin.com
AWS CEO Jassy:2026 年算力已售罄、2027 年基本售罄、2028 年相当一部分也已售罄;SemiAnalysis 预测 2027 年单年新增 50GW | 算力供给紧张的供给侧信号
John Rath 的 Digital Infrastructure 周报汇总:除 Jassy 的售罄表态外,还有 Armada 基于 NVIDIA DSX POD 的集装箱化"超级智能工厂"、Crusoe Spark Liquid 模块化数据中心(单柜 3.5MW、五倍密度、闭环液冷)、Crusoe 与巴拉圭 Itaipú 水电的 120 亿美元合作、TikTok 美国合资公司寻求数 GW 算力。属周度链接聚合,每条仅一两句,价值在"2027 算力基本售罄"这一供给紧张信号,细节需回溯原始来源。

🎙️ 播客精选

AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员

📍 来源:十字路口Crossing | ⭐ 3/5 | 🏷️ LLM, Research, Interview | ⏱️ 00:51:50
港大PhD、小米MiMo后训练研究员李磊分享AI时代读博的10个关键问题:快科研vs慢科研、选校选导师、冷启动争取实习、开源与社交媒体传播研究影响力("大粉理论")。后半段涉及小米MiMo直播后训练、数据公司估值、RSI自我训练、Video-MME Benchmark设计等话题,对关注大模型后训练与研究方向选择的从业者有一定参考价值。
💡 推荐理由: 嘉宾为小米MiMo后训练研究员,涉及大模型训练实战与RSI、Benchmark等话题,但主体是PhD职业规划,技术深度有限

How I'm Actually Using AI Right Now (Including Claude Duet)

📍 来源:AI Daily Brief | ⭐ 3/5 | 🏷️ Agent, Product, LLM | ⏱️ 00:32:28
主持人结合Claude Duet发布,梳理自己在策略、研究、编程、内容创作和数据分析中的AI工具栈,比较不同模型在各任务上的表现。随后对比ChatGPT Dots与Claude Duet,探讨主动式个人Agent为何开始真正融入工作流。对从业者的价值在于了解真实使用场景下的模型选型与Agent产品形态演进,但偏个人经验分享,深度有限。
💡 推荐理由: 主持人个人AI工作流实操分享,涉及Claude Duet与ChatGPT Dots对比及主动式个人Agent,有信息量但缺乏深度技术或独家观点

📄 今日论文精选

Training an MoE LLM in MXFP4: How We Closed the Gap to BF16

AMD | 🏷️ Quantization, Training, MoE
在 MLPerf Small MoE 官方 benchmark 上把 FP4 相对 BF16 的收敛开销从 +20% 压到 +5%,并诚实报告三个负结果,低精度训练从业者的直接工程参考。

Don't Forget What You Just Learned: Self-Directed Repair Turns Agent Mistakes Into Lasting Lessons

Meta | 🏷️ Agent Memory, Fine-tuning, LoRA
把 agent 失败后的反思即时蒸馏成约 0.02% 参数量的低秩 adapter 存入持久经验库并按任务路由,GAIA 等基准提升 8.9-17 个百分点,让错误变成可复用资产。

TGR-EvoDAG: A DAG-based Multi-Agent Code Evolution Framework for Generative Recommendation on Tencent

Tencent | 🏷️ Agent Framework, Multi-Agent, Agentic Workflow
把代码进化建模为 DAG 保留多分支并合并互补创新,针对生成式推荐模块级联流水线做成本规划,已在腾讯大规模商业平台线上 A/B 验证。
  • AI
  • 日报
  • 技术趋势
  • AI 技术日报 - 2026-10-27AI 技术日报 - 2026-10-25
    Loading...