按年被提到
20202022 · 2 次2026
机器学习与深度学习›机器学习实践与反思·arXiv:2007.07203 · cs.IR

Deep Retrieval: Learning A Retrievable Structure for Large-Scale Recommendations

Deep Retrieval:为大规模推荐学习可检索结构
Weihao Gao, Xiangjun Fan, Chong Wang, Jiankai Sun, Kai Jia, Wenzhi Xiao, Ruofan Ding, Xingyan Bin, Hui Yang, Xiaobing Liu · 2020

直接从点击数据学习离散可检索结构,替代近似最近邻检索

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2020-07-24 · 最近 2022-10-16
3不同的人
3活跃月份
3讨论串
3被引(OpenAlex)

传统推荐检索先学习内积模型,再用近似最近邻(ANN)搜索取候选。论文提出 Deep Retrieval(DR),直接用用户—物品交互数据学习可检索结构:把所有候选物品编码到离散潜在空间,潜在编码作为模型参数,与其他神经网络参数一起针对同一目标训练,检索时在该结构上做束搜索,再交给重排。在两个公开数据集上,DR 以次线性复杂度达到几乎与暴力检索相同的精度,在线上生产推荐系统中显著优于调好的 ANN 基线,并被称为首批在数亿物品规模工业推荐中成功部署的非 ANN 算法之一。

HN 为什么提它

HN 评论者把它作为字节跳动关于推荐系统中学习式检索的一篇更技术性的论文来推荐。

方法难度 4 / 5约 45 分钟经得起时间
读之前最好知道
1推荐系统基础(召回与排序)
2近似最近邻(ANN)搜索
3离散潜在变量与束搜索(beam search)
4深度神经网络训练

学习路径

读这篇之前,按顺序读书架上的 1 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

候选里只有 VQ-VAE 与离散结构学习有关,先理解离散表示再读 Deep Retrieval。

  1. 1
    Neural Discrete Representation Learning神经离散表示学习 · 2017

    学习离散编码的代表工作,可帮助理解把条目映射到离散结构的想法。

    读离散码本与量化的概念;先不深究图像生成部分。

  2. 2
    Deep Retrieval: Learning A Retrievable Structure for Large-Scale RecommendationsDeep Retrieval:为大规模推荐学习可检索结构 · 2020 · 就是这篇

    目标论文:直接从点击数据学习可检索的离散结构,替代近似最近邻检索。

    读结构的参数化、训练过程与检索时的束搜索;对比先学向量再做 ANN 的两步法。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用faizshah · 2022-04

“There’s a more technical recent paper from bytedance as well: Deep Retrieval”

补充字节跳动一篇更技术性的论文,讲推荐里的学习式检索
Real World Recommendation System原评论 ↗
被提交为 story · 2 次