- 课程目录
- 课程介绍
-
01｜“传统”推荐系统的局限：我的模型为什么优化不动了？
-
02｜前车可鉴：对比大语言模型和生成式推荐
-
03｜变革前夜：为什么生成式推荐是未来？
-
04｜越大越牛？Transformer和它的scaling law
-
05｜推荐系统的GPT3时刻（上）：SasRec
-
06｜推荐系统的GPT3时刻（下）：Bert4Rec
-
07｜语言体系之争（上）：LLM as Recommender
-
08｜语言体系之争（中）：Recforest算法
-
09｜语言体系之争（下）：Tiger算法
-
10｜另辟蹊径：Diffusion For Rec
-
11｜总结：论文里的生成式算法为何难落地？
-
12｜替换Transformer？HSTU召回算法原理
-
13｜替换Transformer？HSTU 排序算法原理
-
14｜美团MTGR：HSTU算法落地经验
-
15｜小红书RankGPT：HSTU落地实践
-
16｜OneRec：语义ID与特征工程
-
17｜OneRec：强化学习偏好对齐
-
18｜OneSearch：端到端生成式检索
-
19｜UniSearch：一体化的SID模型
-
20｜OneRecV2：模型压缩和推理优化
-
21｜OneRec-think：多模态推理模型
-
22｜通用超级基座的起点：LLM推理技术演进
-
23｜Latent Reasoning：从LLM到推荐系统
-
24｜OnePiece：混合推理在生成式检索的应用（上）
-
25｜OnePiece：混合推理在生成式检索的应用（下）
-
26｜OneRec模式工业系统架构与评估体系解析
-
27｜OnePiece模式工业系统架构与评估体系解析
-
28｜技术选型：如何设计自己的生成式技术发展路线？
生成式推荐技术选型需综合考虑团队现状、基建需求及业务特性。首先，从基建视角看，生成式转型是必然趋势，因主流智能系统正从静态概率预估转向上下文驱动的动态决策。未来算力平台将更多服务于生成式建模，传统DLRM模式面临淘汰。其次，选择OneRec或OnePiece模式取决于团队经验、预算及业务数据特性。OneRec更激进，适合有大模型训练经验和高算力利用率的团队；OnePiece则作为过渡方案，适用于强规则系统和长生命周期Item ID场景。第三，团队对生成式建模的认知至关重要，需评估成员对大模型技术的理解程度。最后，提出三阶段演进路线：初期通过OnePiece探索序列化建模，中期积累在线实验经验，后期根据验证结果决定是否大规模切换至SID模式。整个过程应避免技术理想主义，确保模型与平台适配，并保持对商业目标和用户体验的控制。
-
29｜超长用户行为序列建模：字节 Longer
超长用户行为序列建模面临信息损失、性能开销大等问题。传统方法如人工构建用户画像和预训练用户表征模型存在信息抽取偏差。Longer通过混合多尺度Attention设计解决这些问题，包括Global Token模块定义全局信息与上下文特征，以及Inner Transformer实现序列压缩。具体而言，Longer将长序列拆分成多个块，使用Q-Former结构进行逐级压缩，结合Causal Attention进一步提升推理能力。此外，Longer采用Torch All-Reduce和KV-Cache等技术优化算力，减少冗余计算。实验结果显示，Longer在AUC上比Transformer有轻微提升，并且随着序列长度和参数量增加，效果持续改善。在线实验表明，Longer在抖音广告中表现良好。
-
30｜Transformer做特征交叉（上）：RankMixer
生成式推荐系统中，特征交叉是提升模型性能的关键。传统方法如Factorization Machine、DeepFM等侧重于高维特征的直接交叉或通过深度学习进行特征融合。然而，在Transformer架构下实现高效特征交叉面临挑战。字节跳动提出的RankMixer为此提供了一种新思路。该模型通过Token Mixer模块实现特征拆分与混合，具体包括：依据人工经验对特征进行分组，每组使用独立MLP进行初步映射；随后将各组特征拼接并重新分配至不同head，模仿Multi-head Attention机制以促进跨组信息交流。为确保残差连接的有效性，RankMixer设计了特定的维度转换策略，使得输入输出维度一致。此外，引入Per-Token FFN及Sparse MoE技术进一步增强了模型表达能力与扩展性。实验结果显示，RankMixer在AUC和UAUC指标上显著优于其他特征交叉方案，并且能够支持高达10亿参数规模的训练，展现出强大的工程实践能力。消融研究表明，Multi-Headed Token Mixing与Per-token FFN是影响性能的主要因素，而Self-Attention作为路由策略时效果最佳但会
-
31｜Transformer做特征交叉（中）：OneTrans
-
32｜Transformer做特征交叉（下）：HHFT
-
33｜ReSID：不用 LLM也能做语义 ID
-
34｜ReSID：代码实战
-
35｜ManCAR：首个生成式自适应推理推荐
-
36｜ManCAR：代码实战
-
37｜生成式推荐技术对行业和从业者的冲击和展望
-
结课测试｜检验一下自己的学习成果吧
-
直播加餐｜生成式AI重塑推荐系统：是终极进化，还是美丽泡沫？
生成式AI在推荐系统中的应用潜力及其对未来技术发展的影响是本次讨论的核心。演讲者探讨了生成式AI如何重塑推荐系统，指出传统推荐系统已接近天花板，而生成式推荐系统可能带来新的突破。演讲者介绍了自己在该领域的经验，特别是One Piece模型，这是一种在有限算力下有效分配算力的生成式搜索模型，通过上下文工程和隐式对技术提高了推理效率。 演讲者还分享了在向量检索领域的研究经历与成果，提出了一种高效的向量检索算法NSG，并开发了基于最大内积检索的图算法MAG，进一步提高了性能。针对多模态和RAG系统场景下HSW表现不佳的问题，他们提出了新的评估体系和benchmark（如iceberg），并发表了相关论文。 生成式推荐与判别式模型的区别在于，生成式推荐直接生成item，而不是通过评分或向量召回等间接方式。大语言模型在预训练时，通过逐个token计算损失来建模整句话的联合概率分布，本质上是生成式的。SaaS rec和HSTU等模型根据不同的实现方式可以是生成式或判别式的。 大语言模型的预训练阶段通过在大量文本上进行学习来预测联合分布，从而压缩世界结构信息到模型参数中；而SFT或RL阶段则是根据提示词预测符合人类偏
课程介绍
你将获得 一套系统性的生成式推荐知识全景图 从传统推荐到生成式建模的思维重塑路径 从算法原理到系统架构的完整技术拆解 生成式推荐系统技术选型与架构设计能力 HSTU、OnePiece、OneRec 工业路线深度剖析 讲师介绍...你将获得
- 一套系统性的生成式推荐知识全景图
- 从传统推荐到生成式建模的思维重塑路径
- 从算法原理到系统架构的完整技术拆解
- 生成式推荐系统技术选型与架构设计能力
- HSTU、OnePiece、OneRec 工业路线深度剖析
讲师介绍
课程介绍
但另一边，ChatGPT 掀起的生成式AI浪潮，正席卷所有技术领域。推荐系统也不例外！从 2024 到 2025 年，以 “生成式推荐” 为代表的新范式，开始在各大厂的论文和实践中密集涌现，被很多人称为推荐系统的 “GPT 时刻” 和 “生成式推荐元年”。
生成式推荐系统算法与实践这门课，就是要解决我们当下最切身、最紧迫的问题：
- 生成式推荐到底是“学术玩具”还是“工业未来”？ 它和传统推荐的根本区别在哪？
- 大模型“越大越好”的定律，在推荐系统里行得通吗？ 如何平衡效果与线上苛刻的延迟、成本要求？
- 面对眼花缭乱的论文（Bert4Rec、SasRec、HSTU、OneRec、OnePiece……），到底哪条技术路线能真正落地？ 背后需要怎样的系统架构支撑？
- 我们该如何重构自己的技术思维和知识体系，才能不掉队，甚至引领这次变革？
为了解决这些问题，我们特别邀请了一位资深的搜推广方面的算法专家——傅聪，他将基于多年的科研与工业实践经验，系统对比不同技术路线的优劣，深入拆解大厂已落地案例的真实架构设计与踩坑经验，并探讨生成式推荐未来的发展图景。
第一章：观念重塑——为什么是生成式推荐？
课程会先坦诚地聊聊传统推荐系统的“天花板”和增长乏力背后的深层原因。然后，通过与爆火的大语言模型对比，理解生成式推荐带来的范式转变——它如何从“预测下一个点击”变为“生成整个用户兴趣序列”，以及这种转变所蕴含的巨大潜力。为你建立“这确实是一场革命”的认知基础。
第二章：算法基石——生成式推荐到底是怎么工作的？
这一部分，我们深入算法内部。从 Transformer 的核心 Scaling Law 讲起，回顾推荐系统的“GPT-3 前夜”。重点剖析当前主流技术路线：
- Item ID 和特征工程流派：溯源 SASRec、Bert4Rec，站在新时代的视角重新审视序列推荐模型设计。
- 语言模型派：直接用 LLM 做推荐，它的优势和致命短板是什么？
- 语义 ID 生成派（如 Tiger、OneRec）：如何为商品/视频学习出“语义 ID”，再用生成模型来预测？这是当前落地的主流。
- 扩散模型派：Diffusion 如何应用于推荐？它带来了哪些新想象？ 学完这部分，你不仅能看懂论文，更能理解为什么大多数华丽的前沿算法在工业界“寸步难行”。
第三章～第五章：工业实战——深度拆解三条核心落地路线
这是课程最“干”的部分。我们将像解刨麻雀一样，研究两个已被大厂验证的工业体系：
- Meta HSTU 路线：详解其召回与排序模型原理，并借助美团、小红书的落地报告，分析其优缺点与适用场景。
- 快手 OneRec 路线：这是当前最受关注的端到端生成式推荐系统之一。我们将从语义 ID 生成（Tiger）、码表优化（RQ-Kmeans、RQ-VAE）、模型训练（OneRec Rank）一直讲到推理压缩（OneRecV2）和让模型“思考”的进阶技巧（OneRec-think）。完整呈现一个工业级生成式系统是如何搭建和演进的。
- OnePiece 路线：这是傅聪老师所在的团队提出，在 Shopee 全流量落地的，全行业首个激活推荐模型推理能力的召回-排序框架，试图探索更接近 LLM 的“统一大脑”范式。你将学到如何将 LLM 的上下文工程、思维链、隐式推理等先进经验迁移到推荐中。
第六章：系统重构——你的技术路线图
技术变革从来不只是模型切换。这部分，我们将回归工程本质，探讨在生成式范式下，数据、样本、特征、训练、服务整个链路需要如何重构。我们会对比不同模式的工业架构与评估体系，并最终落脚到一个所有技术决策者最关心的问题：面对多条技术路径，我该如何根据自身业务特点，设计出最适合自己的生成式技术发展路线图。
第七章：业界广角——更多精彩案例与展望
最后，我们把视野放宽，看看行业里其他有趣的实践：字节如何处理超长行为序列（Longer）；如何跳出 Transformer 框架寻找新架构（RankMixer）；阿里如何构建“生成式”用户理解模型（LUM）；以及所有人都在追求的极致性价比——模型压缩与推理加速。最后，我们将一起探讨这场技术革命，对行业生态和我们算法从业者个人，将会带来怎样的冲击与机遇。
这门课的核心价值，是“弥合鸿沟”——在激动人心的学术概念与错综复杂的工业现实之间，为你架起一座坚固的桥梁。无论你是想深入理解趋势，还是正准备启动技术改造，相信这门课都能给你带来切实的启发和帮助。
课程目录
适合人群
推荐算法工程师、技术负责人，或者其他对推荐系统感兴趣的人群