From Next-One to Next-N:这才是推荐系统的范式改变

推荐系统 20 年来方法换了六七轮,但问题定义从未改变——始终是预测下一个 item。缺多样性、缺发现性、规则泛滥,根源都在这里。真正的范式改变不是换方法,而是重新定义问题:从 Next One 到 Next N。

生成式推荐 (Generative Recommendation) 工业界深度 Survey

覆盖 101 篇核心论文(58 篇工业界 + 43 篇学术精选),系统梳理 2022-2026 年生成式推荐从学术概念到工业主流范式的完整技术演进。以 TIGER、HSTU、OneRec 等里程碑论文为核心,深入分析 Semantic ID、模型架构、训练范式、推理增强、长序列建模等关键技术方向。

算法工程师的核心能力是什么

谜底就在谜面上。 "算法工程师",做个语法分析,这是个偏正结构。"算法"是定语,"工程师"才是中心语。定语修饰中心语,中心语决定你的身份。 算法工程师核心能力就是"工程能力"。 就像策略产品、用户产品、B端产品——核心都是产品能力。前面的定语告诉你在哪个领域工作,后面的中心语才是你安身立命的东西。 定语决定你的赛道,中心语决定你的天花板。

算法组织熵减与Scaling Law的悖论

我们先思考下,一个公司组织里,为什么需要 Leader,需要层级?任何一个超过几十人的组织都需要架构设计。这件事如此普遍,以至于我们很少追问:为什么需要组织架构?组织架构本质上在解决什么问题? 表面上看,组织架构是在划分职责、分配资源、明确汇报关系。但如果往下挖一层,会发现一个有趣的视角:一个组织本质上是一个分布式信息处理系统。 外部信息进来,内部处理,输出决策和行动。组织架构定义的,其实是信息如何在这个系统里流动——谁产生信息,谁消费信息,信息经过哪些节点,在哪里被过滤,在哪里被聚合。

2026:推荐系统 All-In Transformer 的元年

2017 年,Ilya Sutskever 读到《Attention Is All You Need》时,立即意识到”这就是我们需要的一切”。OpenAI 随即放弃了 RNN/LSTM 路线,全面转向 Transformer,催生出整个 GPT 系列。Transformer 的并行能力让他们得以实现一直相信的 Scaling 路径。八年后的今天,推荐系统终于走到了同样的路口。 2024 年之前,推荐领域有了 HSTU、TIGER 这样的工作,但大多数团队还在观望。2025 年,我观察到一个明显的转变:大家开始认真地把排序模型 Dense Scaling Up,搞生成式召回和端到端推荐。这很像 2017 年——当时大家忙着把 LR/GBDT/FM 切换到 Deep Model 和双塔,切换过程持续了一两年,之后再没人回头。我的判断是,2026 年将是推荐系统 All-In Transformer 的一年,不改变就落后。

从RL比SFT更不容易遗忘到反观推荐系统缺陷

最近陆续有了一些研究LLM中RL相比SFT更不容易造成灾难性遗忘的工作,清晰地支出是RL的On-Policy特性带来了参数的稳定,而SFT将模型参数推向与预训练分布差异很大的方向,导致了遗忘问题(如图,遗忘问题的衡量就是随着新任务的学习,旧任务的平均表现下降)。 这一清晰地结论,点亮了我对很多事情的理解,推荐系统原来孤立的问题也有可能连成一片,有了更深层次的支撑。 本文包括: • LLM领域,RL比SFT更不容易造成灾难性遗忘的工作解读 • 推荐系统是标准的off-policy 监督学习,(猜想)许多缺陷也应当由此而生

推荐系统线上能跑多大的模型

本文不是从系统优化角度谈复杂的模型的部署和优化问题,而是从行业成本角度,看线上推理多复杂的模型是可以满足成本及ROI要求的。 做一个假设: • 电商推荐行业,主要是更熟悉成本核算 • 部署标准的Transformer作为排序模型,参考OneTrans结构 • 参数规模对齐qwen2的系列模型,更直观看看能跑哪个尺寸

OneTrans 推荐系统对齐序列处理与特征交叉

从精排切换成深度学习以来,工业界一直会把排序的模型结构研究切分成基本的两部分,序列处理和特征交叉,甚至有一些公司的排序组,下面都拆成两个Team分别处理行为序列和特征交叉。从最早的时候,比如序列用DIN来处理,序列就被压成了一个或多个向量表征,再参与与其他特征的交叉。我们可以理解成MLP(concat(DIN, Features)),发展到今天大多数的模型研究,还是分立地把MLP换成DCN,增加个LHUC,复杂化为Rank Mixer或Transformer,把DIN叠加MHA,直接换成Transformer,可以写成RankMixer(concat(Transformer, Features))。 从MLP(concat(DIN, Features))到RankMixer(concat(Transformer, Features)),本质没有变,就是序列处理和特征交叉是一个隐式的两阶段处理,序列被压缩到Vector Space才和特征发生交叉。而LLM的有趣之处,就是在Next Token Prediction利用到的交叉发生在词序列的Token Space之中,它能启发推荐排序模型的,就是每一个特征的交叉应该发生在用户序列的Token Space之中。

推荐算法日报 - 2026-07-14

LLM 驱动的可解释性与决策智能:今日多篇论文探索了 LLM 在推荐系统中的应用,从生成自然语言解释(RashomonLLM)到作为路由决策的候选模型(LLM Routing)。这表明 LLM 正从单纯的“特征提取器”向“推理与规划引擎”演进,为提升系统可解释性和决策效率提供了新路径。; 理论驱动的在线学习与探索策略:多篇工作聚焦于 bandit 和 Top-k 识别等在线学习问题,并提出了具有理论保证的算法(如 TOFU-POV、渐近最优 Top-k 识别)。这反映了工业界对在有限样本和不确定

推荐周报 2026-W28

本周推荐系统研究围绕三条技术主线展开:生成式检索的工业落地与理论深化、LLM/Agent从概念验证走向真实部署、以及精排/联邦学习在工业环境中的鲁棒性优化。 生成式检索加速落地与多兴趣精细化: 快手在推送通知系统中部署了异构生成式架构 HGenPush,采用非自回归多token预测替代传统自回归解码,实现DAU提升0.181%。Walmart将库存感知RAG引入赞助搜索,InvAwr-RAG将广告填充率提升68%。理论层面,BACH通过贝叶斯混合头解决多兴趣双塔的路由坍塌问题,在三个基准上刷新召回率;DaV-Gen提出draft-and-verify机制统一生成式检索的效率与精度。此外,Signed MaxSim首次从理论上证明MaxSim的表达力不低于向量内积,并扩展至任意实值内积。 LLM/Agent推荐从原型走向生产: Meta的 SCOReD 是本周最突出的部署工作——通过学生感知的CoT优化将教师推理轨迹适配到小模型,线上获得NDCG+1.56%和Recall@5+1.9%,同时推理长度减少27.3%。Walmart使用LLAMA2 7B+LoRA做广告相关性三分类,准确率89.43%超越GPT-4。学术方面,MMEACR提出双轨记忆架构加强Agent的视觉推理能力;LBR系统性地揭示了LLM推荐中的长度偏差,并提出轻量校正方案(NDCG@5提升16.82%);综述论文Autonomous Information Seeking为Agent推荐建立了三范式分类法。 工业级精排与联邦学习优化: 快手的 PIT-SUN 是一种可直接部署的经验边际变换框架,通过对重尾目标进行概率积分变换与期望一致性恢复,在线上全面改善点精度和校准。FeLiX则针对联邦学习中客户端流失问题,提出流式感知可用性层级和延迟鲁棒聚合,将收敛时间缩短2.37倍。

推荐算法日报 - 2026-07-11

多兴趣建模与端到端生成式检索的范式突破:今日两篇工业界高分论文(Amazon BACH、Alibaba DaV-Gen)分别从不同路径挑战传统多阶段级联架构。BACH 用贝叶斯软混合替代硬路由,解决多兴趣头坍塌问题;DaV-Gen 则借鉴投机解码的 Draft-and-Verify 机制,试图统一检索与排序的优化目标。这标志着工业界正从“多阶段拼装”向“端到端联合优化”加速演进。; 回归任务中的长尾与期望一致性成为精排核心挑战:快手与人大合作的 PIT-SUN 论文,聚焦于停留时长、GMV 等长

推荐算法日报 - 2026-07-10

[大模型 Agent 与多模态记忆的深度融合]:今日多篇论文探索了将 LLM Agent 应用于推荐系统的新范式。MMEACR 提出了双轨记忆架构,将 Agent 的符号推理与多模态嵌入匹配分离,并通过属性引导的强化反思机制更新记忆。这标志着 Agent 推荐正从纯文本推理向融合视觉、文本等多模态信号的更精细、更鲁棒的记忆系统演进,为构建可解释、高保真的下一代推荐系统提供了新思路。; [面向生产环境的联邦学习与在线学习优化]:针对推荐系统对模型新鲜度的严苛要求,FeLiX 框架直面客户端流失、数