📊 今日概览
今日最重磅的是 Mistral Large 4(Le Chonk)正式开放权重:1T 原生多模态旗舰主打 agentic coding,FrontierCode 2.0 拿到 19.7%、Terminal-Bench 4.0 提升 13 点,且比 GLM-5.3 少用 47% token,"token 效率"正成为开源 coding 模型的新对比维度。基础设施侧,OpenAI 自研 Git 后端 Pando 承载全部 monorepo,push 中位延迟降近 5 倍、每天传近 1PB,印证"agent 规模化会先把版本控制打爆"。争议方面,一篇声称"LLM 能直接读写神经网络权重"的论文被逐条拆解,作者指出其修复 Qwen 数学能力实为 steering/abliteration 套路。市场端 AI 泡沫担忧持续,半导体 ETF 跌 3.79% 进入熊市,迈威尔科技因 1150 亿美元收购 Lumentum 单日重挫 12.72%。
🔥 趋势洞察
- Agent 规模化撞上基础设施墙:OpenAI 自建 Pando 应对 Codex 并发写代码、Databricks 训练任务量涨 8 倍、SGLang HiCache 把缓存命中率从 30% 拉到 95%,瓶颈正从模型转向版本控制与推理吞吐
- 超长上下文效率竞赛:Latent Sparse Attention 在 10M token 下 prefill 提速 22.7 倍,Mistral Large 4 主打 token 效率,长上下文成本成为新的竞争焦点
- Agent 评测走向真实失败模式:Realtime-Bench 揭示 wall clock 下最强模型通过率仅 36%、Legora 用模拟环境把引用准确率从 70% 拉到 99%,静态 benchmark 正让位于贴近生产的代理指标
🐦 X 推文动态
📈 热点与趋势
- Anthropic 在修正版 S-1 中披露:模型可能即将跨过 RSI 政策阈值 - "RSI" 指"由 AI 推动的急剧加速进展",是 Anthropic 负责任扩展政策里的一档风险等级。公司称这是内部估计,尚未确认已越过 @MTSlive(AI 新闻聚合账号)
- Runway 成立 8 年,上一季度单季新增 ARR 超 1 亿美元 - 联席 CEO Anastasis Germanidis(Runway 联合创始人)在访谈里说,公司"意外做出了最好的机器人模型之一",视频模型可用于训练机器人与自动驾驶。Sora 发布后团队用三个月做出更强的模型 @LubaYudasina(播客主理人)
- Nextcloud 选 Olmo 3 驱动 Nextcloud Assistant - Ai2 称 Nextcloud 选开源模型是为了让用户能检查模型是怎么构建的,本地部署只是数字主权的一部分 @allen_ai(Allen 人工智能研究所)
- Ethan Mollick:用新模型大规模复现旧 LLM 研究,多条常识已过期 - 复现结果显示新模型不再编造引用,幻觉率与刻板印象都有下降;但模型仍然谄媚,政治倾向仍偏左 @emollick(Wharton 商学院教授)
- Figure 新制造的 F.03 机器人离开 BotQ 工厂 - 创始人 Brett Adcock 发布了机器人穿越园区的画面,未披露数量与交付对象 @adcock_brett(Figure 创始人 / CEO)
🔧 工具与产品
- Scenario 开源 3D OS:给编码 agent 配 6 个部门、80 项技能 - 覆盖建模、绑定、Look Dev(材质灯光)、世界搭建到引擎导出,每个部门把产物交给下一个。Expert Tools 可在本机操作 Blender、Maya、ZBrush、Unreal、Unity、Godot、Roblox。支持 Claude Code、Codex、Cursor @Scenario_gg(3D 内容生成平台)
- Replit 上线 Cloud Agents:非工程人员也能改公司代码库 - 提交的改动由工程师审核通过。同时支持在 Agent 里新建会话,模型选择器新增 GPT-6.1 Terra @Replit
- Runway 发布 Cursor 插件,一句话把 Runway API 接进应用 - 安装插件后描述要生成什么,Cursor 负责写集成代码 @runwayml
- 3D World Simulator:RTX 5090 上 50+ FPS 的交互式世界模型 - 在统一 3D 表示空间里预测,可生成新视角外观、多视角一致的 RGB-D、3D 几何,以及空间对齐的触觉信号 @jwang771(3D World Simulator 作者)
- Perplexity 开源视觉语言嵌入模型 pplx-embed-v2-context,9B 与 0.6B 两版 - 每个文档返回一个 int8 向量;按 chunk 切分时,每个向量仍能看到整篇文档。论文与 turbopuffer 合写 @perplexitydevs
⚙️ 技术实践
- Weight-Space Programming:GPT-6 Astra 直接改 Qwen3.5-0.8B 的 0.016% 权重 - 不用梯度、不做训练,数学能力最高提升 6 倍,指令遵循提升 3 倍,并修掉了 0.8B 模型的推理死循环。Yoav Goldberg(NLP 研究者,Bar-Ilan 大学教授)的反应是"这让我更想知道 OpenAI 到底拿什么训练了这些模型" @rikiyatakehi(论文一作)|讨论 @yoavgo
- SGLang HiCache 把 KV 复用做到 CP/PP/推测解码/PD 分离之上 - 科大讯飞 Astron MaaS 的 CodingPlan 负载用 GLM-5.1/5.2 服务,接外部存储后缓存命中率从 30% 升到 95%,输入常在 30K–200K token、最高 1M。首 token 中位延迟降到 3 秒以内,此前延迟高到服务基本不可用 @lmsysorg(SGLang 开源团队)
- Latent Sparse Attention:稀疏注意力最快提速 22.7 倍,全注意力提速 72.4 倍 - 10M token 上下文下,找对要关注的 token 占了注意力层 98% 的时间,LSA 就是压缩这一步。作者称在超长上下文上精度与全注意力持平 @jcrwhittington(论文一作,合作者含 ETH 的 Torsten Hoefler)
- MIT CSAIL 的 OPAL:优化器在训练中读动态、改自己的源码 - 由 AI agent 驱动,边训边重写源码,能自己发明学习率调度、抑制 loss spike、跳出过拟合。在视觉与语言任务上均有提升 @MIT_CSAIL(MIT 计算机科学与人工智能实验室)
- h1:一个"简单到不好意思"的 Lean 证明 harness 成了 SOTA,还多解 4 个 Erdos 问题 - 团队原本做非对称自博弈测试时扩展,每次把基线简化,自博弈的增益就被抹平;最终留下的 h1 反而强于多数方法。论文在 arXiv 被 hold 了 30 多天 @KempeLab(NYU 教授 / KempeLab 负责人)
- Databricks:agent 接管实验循环后,AI Functions 研究的训练任务量涨了 8 倍 - 研究员现在让 agent 提改动、并行跑实验、评估、决定下一步。规模上去后启动延迟与 GPU 可靠性成了瓶颈,用 AI Runtime 顶上 @databricks(数据与 AI 平台公司)
⭐ 精选内容
Mistral Large 4(Le Chonk)开放权重:1T 原生多模态旗舰主打 agentic coding,FrontierCode 2.0 拿 19.7%、Terminal-Bench 4.0 提升 13 点 | 欧洲主权 AI 的最强开源 coding 模型
三周前 preview 的 1T 参数旗舰正式开源权重,仅靠继续 scale RL 就在 FrontierCode 2.0 拿到 19.7%(领先 GLM-5.3、Kimi K3、DeepSeek V4.1 Flash),Terminal-Bench 4.0 从 28% 提到 41%,Artificial Analysis Coding Agent Index 上与 GLM-5.3 基本打平但少用 47% token。新增 Low/Medium/High 三档 reasoning 模式做成本-性能权衡,强调从零在欧洲基础设施训练、可自托管。值得记的是「token 效率」正成为开源 coding 模型的新对比维度,但全部数据为厂商自报口径,需等第三方复测。
来源:mistral.ai
OpenAI 自研 Git 后端 Pando 承载全部 monorepo:push 中位延迟降近 5 倍、每天传近 1PB,因果一致性同时满足写扩展与读带宽 | agent 规模化先压垮版本控制
为应对 Codex 带来的并发写代码压力,OpenAI 自建 Git 服务 Pando 并已全量上线。文章从 Git object storage 基本模型讲起,对比三阶段提交与 WAL 两类分布式 Git 服务模式的取舍,最终选因果一致性(causal consistency)同时满足「写可水平扩展、读能跑满带宽」。完全兼容 Git 协议与客户端,工程师和 agent 无需改工作流,并回馈了 Git 上游。对做大规模 agent 并行写代码的团队,这是一条「agent 规模化会先把版本控制打爆」的完整架构决策链。
来源:openai.com
Realtime-Bench 揭示 agent 真实瓶颈在实时性而非推理:wall clock 下最强模型通过率仅 36%,暂停时钟后高推理模型能到 70-80% | 判断 agent 会在哪类任务崩掉的高密度指标
Import AI 479 重点介绍 Realtime-Bench:50 个交互式游戏与网页任务,拆成 RT-Perceive(时序状态感知)、RT-Deliberate(按剩余时间调整思考长度)、RT-Act(择时行动)三维度,并设 wall clock / paused clock / token clock 三种时钟条件。结果很扎心——GPT-6 Astra 在 wall clock 下通过率仅 36%,暂停时钟后高推理模型能到 70-80%,说明当前 agent 的瓶颈不在推理能力而在实时响应。对做 Computer Use、实时交互 agent 的人,这是比静态 benchmark 更贴近真实失败模式的代理指标。另附 DIA 太空对抗报告与 Genie 4 短评。
Legora CTO 复盘法律 Agent:客户 trace 一条都看不到,靠 3 工程师 + 3 律师自建模拟环境做 eval,一次发布把引用准确率从 70% 拉到 99% | 不可见数据下的 agent eval 方法论
Latent Space 访谈 Legora CTO Jacob Lauritzen,18 个月做到 1 亿美元 ARR、1800+ 客户。核心矛盾是法律 Agent 的 trace 属于律所客户、团队一条都看不到,解法是用 3 名工程师 + 3 名律师搭建仿客户真实工作的模拟环境(如 1 万文件 data room 做尽调、要求 agent 报出正确 red flag),把 trace 改写成脱敏版本、把失败收敛到 10-20 类 failure mode,生产中用 feature flag 挂廉价 LLM check。另有 100 人 legal engineer 池(3-4 年大所经验 + CS 学位)、全栈锁 Azure、对法律检索等窄任务 post-train 开源权重、所有生成内容附 citation 并高亮源 PDF bounding box。两篇访谈内容重叠,合并阅读。
AWS 官方拆解 agent 成本结构:一次任务不是一次调用而是 search→read→refine→verify→decide 循环,用 SeqKD 蒸馏小模型降本 | agent 从 demo 到生产的降本配方
以「购物助手 agent」为例讲清 agentic 应用的成本结构:每步单独计费,规模化后单任务成本会吃掉 ROI。解法是 sequence-level knowledge distillation(SeqKD):用前沿 teacher 生成多步 trajectory,靠程序化 grader 只保留真正解出任务的轨迹,编码成 SFT 数据训练小模型,无需 teacher logits 或 RL 基础设施,闭源 API teacher 也能用。文中点出 agent 场景的特殊价值——被复制的序列就是行为本身,因此蒸馏能同时传递推理与多步动作。适合被推理成本卡住、想把 agent 推到生产的团队,但绑定 SageMaker 单一厂商栈。
「LLM 能直接读写神经网络权重」被逐条拆解:识别小网络靠首层权重 L2 norm 热力图(三行 Python),修复 Qwen 数学能力实为 steering/abliteration 套路 | 如何识别能力夸大的批判框架
针对一篇声称 GPT-6 Astra 能原生编辑 0.8B Qwen 权重提升数学能力的论文,作者逐条拆解其「超人类」结论:识别小网络玩什么游戏靠输入通道已标注 + 首层权重 L2 norm 热力图,三行 Python 可复现;修复 Qwen 数学能力实际是模型 32k token 后陷入循环,Astra 用的是「写循环/不循环文本对 → 测权重贡献 → 剪枝」的 steering/abliteration 套路,人类研究员同样会做。核心观点:直接改权重像直接改编译后二进制,可行但不是最优路径,LLM 帮 AI 研究的正确姿势是改进训练而非魔法调权重。读完能拿到一套判断「能力夸大」的可复用框架。
VLA 上真机的四类物理瓶颈:多相机数百 visual token 把控制环压到 5-10Hz、固定视角盲区、2D RGB 无度量深度、相机 ISP 自动曝光让像素剧变 | 具身落地的失败模式清单 + 论文索引
文章指出 VLA 在 demo 里看似解决了机器人操作,上真机就暴露四类瓶颈:多相机高分辨率图像产生数百 visual token,transformer 前向 100-200ms 把控制环压到 5-10Hz,物体滑落来不及反应;固定第三人称相机与腕部相机各有遮挡/丢失目标的盲区,现有策略常死盯一路;2D RGB 无度量深度导致抓取对位偏移;商用相机 ISP 的自动曝光/增益/锐化在光照变化下让像素剧变,训练分布外的策略直接失效。随后逐篇介绍 FastVLA(语言-视觉注意力剪枝,FLOPs 降 35-59%、真机延迟降 20%)、FocusVLA(按阶段在静态相机与腕部相机间动态路由)等五项工作,均带 arXiv 编号与真机数字,可作为 VLA 工程落地的失败模式清单与论文索引。
自建 30 例带陷阱 benchmark 实测 agent skill:今天的 Claude 无 skill 也能躲开几乎所有陷阱,skill 只在模型知识最弱处生效 | skill 到底还有没有用的实证
作者为「让 coding agent 做数据分析更靠谱」写了一个 agent skill(每条规则来自论文或官方文档),自建 30 个带陷阱的案例(小计行被加总、join 扇出重复订单、平均的平均、p99 被平均、辛普森悖论等),在 Haiku 5.5 / Sonnet 5.5 上做有/无 skill 对照,用 Sonnet 做 LLM judge 三票打分。结果:无 skill 时已达 58/61 与 60/61,skill 只补上零星漏判。三个可复用发现:skill 只在模型知识最弱处生效(训练截止后的 TypeScript 7 升级任务从 10/18 提到 17/18);先怀疑自己的测试用例再相信 baseline 失败;skill 不激活等于不存在——把 description 从「列数据类型和陷阱名」改成「说明何时加载」,触发率从 7/20 提到 20/20。样本小(每臂一次运行),结论需自行验证。
来源:dev.to
📈 市场异动
交易日:2026-11-02
大盘:半导体 ETF -3.79%、科创50 +3.11%
半导体 ETF:AI泡沫担忧持续发酵,SOXX跌破7月低点、进入熊市,资金外流;10月30日英特尔指引不及预期引发的抛售延续,估值重估下半导体板块继续下挫。
科创50:稳市措施出台,股债双杀格局逆转、流动性担忧缓解;上周五美股急跌后亚太回稳,半导体AI硬件领涨,科创50ETF放量创7月中旬以来最高成交。科创板三季报净利同比大增亦提供支撑。
迈威尔科技(MRVL) -12.72% | 半导体 ETF -3.79%,相对 -8.94% | 连跌 3 日,累计 -31.89%
宣布以1150亿美元全股票收购Lumentum,LITE股东获4.5股换1股、将持有合并公司约三分之一,引发大幅稀释与整合风险担忧,股价重挫。
申菱环境(301018) +9.30% | 创业板指 +1.87%,相对 +7.43%
(依据有限)公司10月31日披露申菱转债(10亿元)将于11月6日在深交所上市,转债上市预期提振股价;叠加创业板指涨1.87%带动,前几日连续回调后反弹。
甲骨文(ORCL) -8.76% | 纳斯达克100 ETF -1.36%,相对 -7.40% | 连跌 3 日,累计 -17.52%
甲骨文同日启动100亿美元增发新股和100亿美元高级票据发行,为AI扩张融资,引发股权稀释与债务担忧,股价大跌。此前投资者日刚承诺额外融资上限200亿美元,市场担忧融资节奏。
CoreWeave(CRWV) -8.60% | 纳斯达克100 ETF -1.36%,相对 -7.24% | 连跌 3 日,累计 -21.55%
甲骨文宣布100亿美元债券发行,重燃市场对AI基础设施债务的担忧,CoreWeave自身杠杆高企、债券收益率约15%,叠加技术面头肩顶形态,股价跌至历史新低。
AMD(AMD) -7.52% | 半导体 ETF -3.79%,相对 -3.73% | 连跌 3 日,累计 -19.29%
亚马逊财报令人失望,叠加英特尔PC需求预警持续发酵,市场担忧半导体估值与AI基建支出,芯片板块再遭抛售,AMD跌7.52%。
🎙️ 播客精选
Building Legal Agents When You Can't See the Data - Jacob Lauritzen, CTO of Legora
📍 来源:Latent Space | ⭐ 4/5 | 🏷️ Agent, Product, Research | ⏱️ 1:07:21
Legora CTO Jacob Lauritzen 讨论在无法查看 agent 对律师实际执行 trace 的前提下如何构建和测试法律 Agent——数据归律所客户所有,团队看不到 agent 的工作过程。核心围绕隐私约束下的 eval、测试与可观测性设计,以及如何在缺乏真实反馈时保证 agent 可靠性。对做垂直行业 Agent、受合规与数据隔离限制的从业者很有参考价值。
💡 推荐理由: CTO实战分享法律Agent在数据不可见约束下的构建与测试,技术洞察稀缺且有料,非重量级创始人故未给5分
Ep 96: Nebius CTO on Racing the Hyperscalers Before AWS Wakes Up
📍 来源:Unsupervised Learning | ⭐ 4/5 | 🏷️ Infra, LLM, Interview | ⏱️ 01:01:08
Nebius CTO Danila Shtan 与 Jacob Effron 讨论如何在前沿运营 AI cloud:为何 open-model inference 远未优化、95% 客户跑修改过的模型而非 vanilla、prefill/decode disaggregation 说得多做得少;分析芯片稀缺如何让 AWS/Google 未赢下 AI cloud、AI buildout 的真实瓶颈、是否过度建设,以及公司内部不限制 AI token 用量的工程组织方式。对关注推理 Infra 与算力供给的从业者有实操参考。
💡 推荐理由: Nebius CTO 深度谈 AI cloud 实战:推理优化、prefill/decode 分离、算力瓶颈,嘉宾一线经验足;偏 infra 视角,LLM 算法层面较少。
How to Deslopify Your AI
📍 来源:AI Daily Brief | ⭐ 3/5 | 🏷️ Product, LLM | ⏱️ 00:42:42
NLW与Nufar Gaspar讨论如何避免AI slop(低质AI产出),核心是把思考负担从接收者转回生产者。实操建议包括:建立自己的观点立场、教模型理解你的taste、设置有效的review checkpoint。NLW还分享自己用AI制作播客How We Got Here时如何保持对叙事视角的控制。对用LLM做内容生产的从业者有借鉴意义,但偏工作流习惯而非模型技术。
💡 推荐理由: 聚焦用AI产出高质量工作的实操习惯,有方法论价值,但非技术深度访谈,嘉宾非重量级
Why Leibniz Couldn't Find the Mind Inside the Mill (Joscha Bach)
📍 来源:ML Street Talk | ⭐ 3/5 | 🏷️ Research, Agent, Interview | ⏱️ 01:37:07
Joscha Bach提出Machine Consciousness Hypothesis:意识是一种生物学习算法,自组织学习的机器可能以同样方式发现它。讨论为何不存在意识的图灵测试、棋类程序已是zombie、伪造心智有时比构建更难,并串联Leibniz's mill、Searle到Nagel的解释鸿沟、IIT及其被指伪科学的争议、Gödel形式系统极限、Mike Levin的形态发生与心智同构假说。对关注Agent本质与智能边界的从业者有概念启发,但偏哲学而非工程落地。
💡 推荐理由: 认知科学家Joscha Bach深度探讨意识与学习算法,哲学思辨强,但对LLM/Agent工程实践的直接指导有限
📄 今日论文精选
Agentic World Modeling for Agent Test-time Scaling without Environment Replica
Microsoft | 🏷️ Agent Framework, Agentic Workflow, Tool Use
把 next-observation 预测重构为多轮证据获取,通过只读接口查询真实环境而不改动共享状态,解决不可重置环境下 agent 无法并行 fork 探索的部署痛点。
Latent Sparse Attention: Towards Subquadratic Ultra-Long Context Attention
Google DeepMind | 🏷️ Architecture, Inference, Scaling
在学习到的隐空间对 keys 做层次聚类、让 query 对簇打分而非逐 key 打分,10M token 下 prefill 提速 22.7 倍,为超长上下文注意力给出亚二次复杂度的可行路径。
Chronos-2: A foundation model for multivariate time series forecasting
Amazon Web Services | 🏷️ Architecture, Training, Scaling
从单变量独立建模扩展到多变量交互与异构协变量,直接从历史上下文推断序列关系,单卡一秒内出 100 条序列预测,跨流行病、宏观经济、碳通量等领域匹敌专用方法。