引用faizshah · 2022-04
“There’s a more technical recent paper from bytedance as well: Deep Retrieval”
补充字节跳动一篇更技术性的论文,讲推荐里的学习式检索
直接从点击数据学习离散可检索结构,替代近似最近邻检索
传统推荐检索先学习内积模型,再用近似最近邻(ANN)搜索取候选。论文提出 Deep Retrieval(DR),直接用用户—物品交互数据学习可检索结构:把所有候选物品编码到离散潜在空间,潜在编码作为模型参数,与其他神经网络参数一起针对同一目标训练,检索时在该结构上做束搜索,再交给重排。在两个公开数据集上,DR 以次线性复杂度达到几乎与暴力检索相同的精度,在线上生产推荐系统中显著优于调好的 ANN 基线,并被称为首批在数亿物品规模工业推荐中成功部署的非 ANN 算法之一。
HN 评论者把它作为字节跳动关于推荐系统中学习式检索的一篇更技术性的论文来推荐。
候选里只有 VQ-VAE 与离散结构学习有关,先理解离散表示再读 Deep Retrieval。
目标论文:直接从点击数据学习可检索的离散结构,替代近似最近邻检索。
读结构的参数化、训练过程与检索时的束搜索;对比先学向量再做 ANN 的两步法。
“There’s a more technical recent paper from bytedance as well: Deep Retrieval”