按年被提到
20242024 · 3 次2026
大模型与语言模型›长上下文与测试时计算·arXiv:2407.09450 · cs.AI

Human-inspired Episodic Memory for Infinite Context LLMs

受人类启发的情景记忆:面向无限上下文的 LLM
Zafeirios Fountas, Martin A Benfeghoul, Adnan Oomerjee, Fenia Christopoulou, Gerasimos Lampouras, Haitham Bou-Ammar, Jun Wang · 2024

EM-LLM 用情景事件分段与检索,免微调处理超长上下文

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 4 人首次 2024-07-25 · 最近 2025-05-08
4不同的人
3活跃月份
4讨论串
—被引(OpenAlex)

EM-LLM 把人类情景记忆和事件认知的关键方面引入 LLM,无需微调即可处理几乎无限长的上下文。它用贝叶斯惊奇度加图论边界精修,在线地把 token 序列切分成连贯的情景事件;需要时通过结合相似性与时间连续性的两阶段检索取回。在 LongBench 和 ∞-Bench 上,它稳定优于 InfLLM,在多数任务上优于 RAG 乃至全上下文模型,并能在 1000 万 token 规模上检索。

HN 为什么提它

HN 评论者把它当作一种不同于 RAG 分块的长上下文思路来推荐,由 LLM 选择情景边界。

方法难度 4 / 5约 55 分钟有时效性
读之前最好知道
1Transformer 与 KV 缓存
2检索增强生成(RAG)
3贝叶斯惊奇度(Bayesian surprise)
4长上下文基准如 LongBench

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐CGamesPlay · 2024-07

“An interesting paper that was recently published that talks about a different approach”

推荐这篇近期论文,提出另一种做法:由 LLM 划分情景边界
Solving the out-of-context chunk problem for RAG原评论 ↗
被提交为 story · 3 次