📊 Today's Overview

🔥 Trend Insights

• Model tiering replaces single-model workflows: Fable's pricing and GLM 5.2's 1/9 cost ratio push teams toward hybrid strategies — expensive models for design, cheap ones for execution.

• Memory wall hits the mainstream: Micron's data — compute outruns HBM bandwidth 3x every two years — plus HBM faults causing 17% of Llama 3 training interruptions, quantifies the infrastructure bottleneck.

• Evaluation moves from agents to skills: NVIDIA's ACES framework and Stanford's LLM-as-a-Verifier both signal a shift toward evaluating reusable capabilities and trajectories, not just end-task accuracy.

🐦 X/Twitter Highlights

📈 热点与趋势

• Sam Altman 播客访谈发布：AI 两大风险是失控与权力集中 - David Senra（播客主持人）对话 OpenAI CEO，话题覆盖 AI 采用速度、模型/算力/规模定律、迭代部署 vs 安全，以及 OpenAI 平台策略。Altman 称自己也曾对 AI 有抵触，并指出小企业将迎来 AI 红利 @davidsenra

• 前 Palantir 员工提议在阿拉斯加北海岸建 AI 数据中心 - Barry McCardel（曾在 Palantir 任职）称普拉德霍湾每天伴生 80 亿立方英尺天然气，因无法运输只能回注油藏。他估算 40 万亿立方英尺探明储量可支撑 25GW 电力连续运行 30 年，且当地已有钻井、机场、住宿等现成基础设施，建议直接部署燃气轮机供电 @barrald

🔧 工具与产品

• FreeToken 让 20GB 模型在 16GB VRAM 上跑出 ~100 tok/s - FlashML 团队（推理引擎开发者）发布开源推理引擎 FreeToken：不把整模型塞进 VRAM，而是把 GPU 显存、CPU、系统内存当作统一平台，利用 MoE 稀疏性做动态专家缓存和带宽感知调度。社区在 RTX 5080（16GB VRAM）+ 64GB 内存上跑 Qwen3.6-35B-A3B NVFP4（约 20GB）实测 ~100 tok/s，1100 tok/s 峰值 prompt 达 110 tok/s。论文称 8GB 笔记本 GPU 可跑 35B MoE、RTX 5090 可跑 DeepSeek-V4-Flash 284B。Apache 2.0，支持 OpenAI 兼容 API 与 Claude Code/Codex @TeksEdge

• kimodo.cpp：NVIDIA Kimodo 动画模型可在 CPU/Vulkan 上本地运行 - jichiep（社区开发者）将 Kimodo 移植为原生 C++/GGML 构建，加载 GGUF 模型，无需 PyTorch/CUDA 环境。输入一句文本即生成角色动画，输出 SMPL-X 可重定向到任意骨骼。Stefan 3D AI（3D 内容创作者）实测后称这是当前最好的 AI 动画模型 @Stefan_3D_AI

• aihubmix 开放 50 模型免费 API 目录，含 Ox Alpha、Kimi K3 - painn（独立开发者）介绍 ai hubmix 平台：50 个模型 $0 进出，包括 OX Alpha、gemini-3.7-flash、glm-5.2、kimi-k3、minimax-m3，无需信用卡即可注册并创建 API key，兼容任何 OpenAI 接口工具。OX Alpha 为 1M 上下文的推理模型，支持视频输入，在编码测试集得分 80%，免费窗口约一周 @_0xpainn

• 开源 AI 工程课程：503 课、20 阶段、约 320 小时，MIT 许可 - rohitg00（开发者）开源"AI Engineering from Scratch"课程，覆盖从反向传播、tokenizer、attention 到多智能体系统的全栈路径。每课按 MOTTO→PROBLEM→CONCEPT→BUILD IT→USE IT→SHIP IT 结构设计，产出可复用的 skill 文件、MCP 服务器和可运行代码。附 10 题定位测验生成个性化学习路径，并附带开源 Claude 认证学院 @techNmak

• Hermes 新增 Review 辅助模型功能 - Teknium（Nous Research 联合创始人）在 Hermes 中引入 /review 指令：可指定独立辅助模型审查最近 10 条消息，审查结果回传主 agent。该工作流旨在用外部模型检查主模型输出 @Teknium

• Carnice-V3-27b 开源：基于 Qwen3.8-27B，Hermes-agent 能力超 10 倍大模型 - Teknium（Nous Research 联合创始人）发布 27B 模型，基于 Qwen3.8-27B 做 Hermes-agent SFT（用 Qwen3.8 Max 的 Hermes-agent 轨迹训练），完整 BF16 权重可在 RTX 3090 上本地运行 @Teknium

• Minimax H3 upscaler 节点：低 VRAM 也能制作长高清视频 - AI Search（AI 内容博主）发布 ComfyUI 节点，支持创建长时长高分辨率视频，专为低显存场景优化 @aisearchio

• rag-redteam：CI 中红队你的 RAG 管线 - srivatsa03（社区开发者）开源工具，检测提示注入、源文档泄露和跨文档走私，填补 RAG 评估（RAGAS/DeepEval）与 LLM 扫描器（garak）之间的空白 @Dinosn

⚙️ 技术实践

• Jerry Liu 详解 agent 双遍文档处理：先轻量解析过滤，再 VLM 精读 - LlamaIndex CEO 拆解当前 agent（Codex、Cowork）处理大批量 PDF 的默认流程：第一遍用免费/OSS 解析工具（pdf2text 等）低成本扫全库，第二遍用 VLM 截图精读相关页。他指出 Opus 5 作为 OCR VLM 成本过高且缺乏 grounding，推荐 LiteParse（Rust 编写，支持 50+ 格式）做第一遍 + LlamaParse（支持按页码局部调用）做"放大镜"式第二遍 @jerryjliu0

• Codex 配额重置前 12 条实用 /goal 指令 - Forward Future（AI 内容博主）整理：项目清理、订阅审计、性能优化、文件整理、为个人项目加动画效果、审计 skills/actions、从语音描述构建游戏、搭建个人知识体系、"AI 操作系统"、设计日程、生成 100 个产品点子、定制学习课程 @ForwardEditor

• 斯坦福 LLM-as-a-Verifier：模型自评轨迹，无微调提升 9.3 分 - Shubham Saboo（AI 内容博主）介绍：采样 5 条 SWE-agent 轨迹，用同一模型排序打分，仅保留最优轨迹。DeepSeek-v4-flash 在 terminal-bench 上从 78.7% 提到 88%，全程无需微调，代码已开源 @Saboo_Shubham_

• Netflix 公开 LLM judge 生产实践：四阶段生命周期 - elvis（DAIR.AI 创始人）书签推荐 Netflix 工程博客：LLM judge 每周评估数十万条剧集推荐解释，覆盖数百万移动端会员。四阶段设计（Birth→Training→Deployment→Monitoring），用 Reasoning-Aligned Rubric Tuning 通过 meta-judge 输出优化 rubric，同一 judge 兼任质量门控和反思生成双角色。五周 A/B 测试覆盖数千万会员，提升了从未看过内容的播放率与浏览到播放的转化 @omarsar0

• EMNLP 三篇论文：LLM 置信度表达在分布漂移下不稳定 - Jiayu Liu（研究者）总结其关于 LLM 置信度可靠性的工作：语言标记表达置信度在分布漂移下不稳定；对语言化置信度的解读同样不稳定；RAG 检索噪声会破坏置信校准。为此提出 NAACL（Noise-AwAre Confidence CaLibration）自举框架，让 LLM 在 RAG 中输出可靠且有依据的置信度 @JiayuJeff

• 更多人实测证明：用 RL 可以训练编码模型用 JavaScript 作画 - Surya（独立研究者）演示 RL 训练编码模型输出 JavaScript 绘制图像，视频展示效果，获 226k 浏览 @kickingkeys

• AI 性能工程资源列表 v2 发布 - wafer（wafer_ai 团队）更新 GPU 性能工程学习清单：从单次推理请求讲起，覆盖 CUDA 执行模型、roofline、transformer 算术、TTFT/TPOT/goodput、kernel 优化；新增 FlashAttention-4、Blackwell tensor memory、低精度 tensor core、continuous batching、KV-cache 系统、量化、投机解码、MoE serving、prefill/decode disaggregation，以及 Blackwell Ultra、MI350、Ironwood、Trainium3 硬件对比 @wafer_ai

⭐ Featured Content

🎙️ Podcast Picks

22 岁的具身 CEO、5 轮融资、过亿美元、"不知天有多高"、"一年吃了十年的苦"｜对谈黄一：萝博派对创始人/CEO

The Real Future of AI and Work

📄 Paper Highlights

Evaluating Skills, Not Just Agents: Agentic Continuous Evaluation of Skills

Dual-Cache Latent Space Communication between Heterogeneous Language Models

UpgradeBench: A Decision-Centric Benchmark for Upgrading Fine-Tuned LLM Specialists

🐙 GitHub Trending