📊 今日概览
今日最值得关注的是推理栈的全面提速与成本重构:vLLM 在 DeepSeek-V4.1-Flash 上追平 DeepSeek 自研引擎 DeepInfer,GB300 NVL72 上达 954K tokens/s/GPU;而 DeepSeek 以 Apache 2.0 开源 DeepInfer,却把 KV cache、PD 分离、负载均衡留在内部,清晰划出"什么可以送出去"的边界。Agent 架构上,Anthropic 发布 migration kit,主张把 router/planner/subagent 折叠进单一 agent loop,客户基准运行时间约快 2x、Claude Code 系统提示缩减 80%+,直接挑战"多 Agent 编排"默认范式。具身智能同样热闹:Dream Labs 以 9000 万美元种子轮出 stealth,做跨本体"机器人大脑 API";DEEP Robotics 一次放出五项研究,把接触动力学注入世界模型。
🔥 趋势洞察
- 推理栈效率竞赛白热化:vLLM 追平 DeepInfer、dax 单 rack 24 小时跑 6.77T tokens,开源引擎与自研引擎的差距正被压缩到可忽略
- 反多 Agent 编排范式:Anthropic migration kit 与 Drew Breunig 的上下文失败四分类共同指向——单循环 + 强 harness 比跨 subagent 传状态更可靠
- 具身智能转向跨本体泛化:Dream Labs 用末端位姿 + IK 解耦、MorphMimic 用形态条件化世界模型,都在绕开"一机一策"的数据困局
🐦 X 推文动态
📈 热点与趋势
- Mariana Minerals 两年融资 4 亿美元,用 AI 运营矿山 - 估值 16 亿美元,a16z、Khosla Ventures 与 CIA 风投基金均在股东名单。创始人是三名斯坦福同学,专买市场已放弃的矿山,再用软件与 AI 重跑 @ryandengg(Ryan Deng,播客主播)
- Dylan Patel:电力不是最大瓶颈,基板、内存、光学才是 - SemiAnalysis(半导体与数据中心研究机构)测算全球近 50GW 数据中心在建:美国约 35GW、中国 7-8GW,其余分布在澳大利亚、印度、马来西亚。现场涡轮机、往复式发动机、燃料电池可绕开电力限制 @pequityresearch(事件主体:Dylan Patel,SemiAnalysis 创始人)
- UBS 拆出人形机器人供应链股票清单 - 灵巧手/传感:VPG;执行器:ADI、MCHP、TXN;OEM:TSLA、CCXI、XPEV、TER;感知:OUST、SONY、CGNX、ON、AMBA;计算:NVDA、AMD、QCOM、INTC、SITM、MU @StockSavvyShay(Shay Boloor,科技股分析师)
🔧 工具与产品
- oh-my-hermes 开源:150+ 技能的一行安装 agent 配置包 - 作者称为此消耗 200B token 调优。含长期记忆系统、记忆管理技能、跨模型链的子 agent 路由、并行工具调用与 evals,默认自动路由 @rlaope(HOPE.,独立开发者)
- AI 工程学习平台上线 50+ 交互 lab - 可在浏览器里实时调 tokenizer、attention、embedding、KV cache,训练小型神经网络,并搭带工具调用、记忆、护栏的 agent 工作流。RAG 部分覆盖 chunking、混合检索、reranking 与 LLM-as-a-judge 评估;另附 490+ 面试题 @adxtyahq(aditya,AI 工程教育博主)
⚙️ 技术实践
- vLLM 在 DeepSeek-V4.1-Flash 上追平 DeepSeek 自研引擎 DeepInfer - batch 8 到 256 全区间持平,且只用 DEP32,对 DeepInfer 的 EP64DP64。在 GB300 NVL72 上以 P/D 分离 + Wide-EP 跑 SemiAnalysis AgentX,达 954K tokens/s/GPU、每用户 P90 196 tokens/s、$38.96/GPU 小时,为单节点结果的 7.9 倍 @vllm_project。SGLang 同场对标:prefill 最高 1.04× 吞吐(4×GB300 / 4×B300),decode 最高 +7.4%(64×GB300) @lmsysorg(LMSYS Org,SGLang 出品方)
- dax 自建 GPU rack 24 小时跑 6.77T tokens - 用 DeepSeek 推理设置,p50 首 token 延迟 1.16 秒、p50 每用户 143 tokens/s。作者称性价比优于其测试过的所有厂商方案;p95 因一块托盘不稳定暂未达标 @thdxr(dax,独立开发者)
- Y Combinator Paper Club 讲透推理全栈 - 数据点:每 1 FLOP 训练对应每年约 6 FLOP 推理,过去十年推理优化催生超 2200 亿美元市值。议程含请求生命周期、开源模型因服务方不同而表现不同、用搜索而非启发式编译模型、SGLang 与 agent 时代的内存管理 @ycombinator
- MorphMimic 用一套形态条件化世界模型跨三种人形机器人 - 同一策略同时驱动 Unitree G1、AgiBot X2 Ultra、Booster T2,从 MuJoCo 中的同一段舞蹈迁移到浏览器 demo 与 G1 真机,代码与报告已公开 @lzyang2000(Lizhi Yang,MorphMimic 作者)
⭐ 精选内容
Dream Labs 出 stealth:$90M seed,前 NVIDIA GR00T 核心成员做"机器人大脑 API",World Action Model 同时预测视频与动作 | 跨本体泛化的机器人基础模型新范式
Dream-1 是 World Action Model(WAM):同时预测视频与动作,但只输出末端执行器位姿而非关节命令,由各机器人自己的 IK solver 执行——用动作空间解耦换取跨本体泛化。基于 DreamZero 论文,仅 30 分钟 YAM 机器人数据 post-training 即 zero-shot 迁移到未见任务。文章还给出硬件成本曲线:双臂夹爪方案约 $2000 起、7 台半人形合计不到 $1.5 万、Hugging Face Microduck $399 四天卖 1 万台,论证"便宜硬件 + 通用模型"正在打破机器人数据的鸡生蛋困局。对做 VLA/具身的团队,末端位姿动作空间 + IK 解耦是可直接借鉴的工程选择。
DeepSeek 以 Apache 2.0 开源生产推理引擎 DeepInfer:单集群 155 万亿 token/日,但 KV cache、PD 分离、负载均衡被保留 | 开源边界划在哪里的样本
引擎内核、调度、投机解码、结构化输出开源,KV cache 系统、prefill/decode 分离部署、负载均衡则绑定内部基础设施未放出。关键数字:谷时约 38 美元/GPU-小时,高效最小单元为 64 prefill + 64 decode(共 128 GPU,NVIDIA SM100 或华为昇腾 950),另附 vLLM/SGLang 独立对标与是否自托管的判断。对自建推理栈的团队,这条的价值不在"又一个开源引擎",而在看清一家前沿实验室认为哪些是核心竞争力、哪些可以送出去。
来源:cellcog.ai
Anthropic 发布 migration kit:把 router/planner/domain subagent 折叠进单一 agent loop,客户基准运行时间约快 2x,Claude Code 系统提示缩减 80%+ | 反"多 Agent 编排"默认范式的架构指南
单循环形态是:一个模型在单一 context window 内跑开放式 tool loop,turn budget / cost cap / write gate 由外层 harness 强制而非中间协调 agent;模型首轮把 plan 写进 context 并随工具结果更新;领域流程转为 skills,硬校验/审批门/记忆查询下沉到 tool 实现;用 tool search 做渐进披露。文中对多 agent 代价的判断很直接——跨 subagent 传结构化状态会像"传话游戏"一样逐层损耗上下文保真度。正在维护生产 agent fleet 的架构师值得对照自查。
Drew Breunig《The State of Context Engineering》:从"长上下文即一切"的乐观期,到四类 context 失败模式的系统梳理 | 建立 Agent 上下文工程 mental model 的框架文
核心论点是模型厂商每追一项新能力就制造一批新的上下文挑战,而 context engineering 的本质工作是判断"何时该确定性、何时该概率性"。文章回顾 128K→1M→Llama 4 Scout 10M 的承诺曲线,随后归类四类失败:context poisoning(错误被反复引用)、context distraction(长上下文压过基座知识)、context confusion(无关信息暗中影响输出)、context clash(工具/技能互相冲突)。偏概念框架、无代码,但作为团队内对齐术语与失败归因的底稿很好用。
来源:dbreunig.com
Raschka 把《Build a Reasoning Model (From Scratch)》做成 8 集 11 小时视频课:从 Qwen3 小模型出发手写推理时扩展、RLVR 与蒸馏 | 端到端可跟练的推理模型内部机制课
纯 Python/PyTorch 实现评测、inference scaling、带可验证奖励的强化学习、蒸馏四个环节,配套 GitHub 仓库含硬件与环境建议,早期文本生成/评测可在 CPU 上跑。文中一张类比图把关系讲得很直白:传统 LLM 是引擎,推理模型是加了 RL 后训练的升级引擎,agent harness 是围绕引擎的机械装置。适合想真正搞懂推理模型内部机制、而非只会调 API 的从业者——代价是要投入十几个小时。
DEEP Robotics 一次放出五项具身智能研究:DR-WM-1.0 世界模型把接触动力学(摩擦/粗糙度/刚度)注入视频生成式动作后果预测 | "视觉逼真≠物理可行"的问题设定值得一读
DR-WM 用双 ControlNet 以场景几何 + 相机运动为条件,训练数据 258 万图文掩码对 + 10 万+ 真机片段;同批还有 DR-VLA-2.0 具身基础模型、DR-APO 策略优化框架、DR-Agent 与 DR-Benchmark 真机评测平台,合作方含 MIT、UCSD、UIUC、清华、浙大、港科大。本文是通稿,只有定性描述与数据规模,缺方法细节、对比基线与开源情况——但"把稠密物理先验作为世界模型条件"这个思路本身对做世界模型物理接地的人有参考价值,细节需追原文。
有人逐行读了 25 个 MCP server 的文档与源码:只读模式仅 5/25 有说明,遥测 3 个默认开启,累计 40 条安全公告 | MCP server 选型的一份粗糙但实用的 checklist
四个维度盘点:只读模式方面 GitHub MCP、n8n-mcp、MongoDB、DBHub、pREST 均未找到说明;遥测方面 Chrome DevTools MCP、Apify、Blender MCP 三个默认开启且可关闭,其余 20 个无任何声明;安全公告共 40 条(n8n-mcp 11、MCP 参考 server 10、GitHub MCP 4),但最新版本均未受影响。作者自述不是排名也不是安全审计,样本小——可操作结论基本只有一条:锁定已验证版本。结合本周 OpenCode MCP OAuth RCE 的教训,这条值得作为接入新 server 前的自查清单。
来源:dev.to
Skyfall SKY-001 自称"首个工程世界模型":CAD/BIM 上 79.7% vs GPT-6 Astra 79.1% IoU,单例成本低约 150-185x | 一份"厂商宣称 vs 可验证"的批判性阅读样本
宣称速度快 50-120x、单例 $0.005 vs $0.75。解读文章逐行拆解 benchmark 表,并明确标注哪些是公司自报、外部无人复核,模型仅开放 waitlist、无权重无价目表。对关注世界模型落地到工程/建筑场景的人,价值不在数字本身,而在看清这类"略胜前沿模型 + 成本低两个数量级"的宣称通常缺什么——可复现细节与第三方复核。
来源:explainx.ai