推荐CGamesPlay · 2024-07
“An interesting paper that was recently published that talks about a different approach”
推荐这篇近期论文,提出另一种做法:由 LLM 划分情景边界
EM-LLM 用情景事件分段与检索,免微调处理超长上下文
EM-LLM 把人类情景记忆和事件认知的关键方面引入 LLM,无需微调即可处理几乎无限长的上下文。它用贝叶斯惊奇度加图论边界精修,在线地把 token 序列切分成连贯的情景事件;需要时通过结合相似性与时间连续性的两阶段检索取回。在 LongBench 和 ∞-Bench 上,它稳定优于 InfLLM,在多数任务上优于 RAG 乃至全上下文模型,并能在 1000 万 token 规模上检索。
HN 评论者把它当作一种不同于 RAG 分块的长上下文思路来推荐,由 LLM 选择情景边界。
“An interesting paper that was recently published that talks about a different approach”