按年被提到
20242024 · 5 次2026
大模型与语言模型›大模型评测与真实性·arXiv:2403.05530 · cs.CL

Gemini 1.5: Unlocking multimodal understanding across millions of tokens of context

Gemini 1.5:解锁跨数百万 token 上下文的多模态理解
Gemini Team, Petko Georgiev, Ving Ian Lei, Ryan Burnell, Libin Bai, Anmol Gulati, Garrett Tanzer, Damien Vincent, Zhufeng Pan, Shibo Wang, Soroosh Mariooryad, Yifan Ding 等 1137 人 · 2024

Gemini 1.5 技术报告:千万 token 上下文下近乎完美的检索

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 6 人首次 2024-03-13 · 最近 2025-01-25
6不同的人
4活跃月份
6讨论串
1,574被引(OpenAlex)

报告介绍 Gemini 1.5 系列:更新后的 1.5 Pro 和更轻量的 1.5 Flash,能在数百万 token 的上下文(包括多篇长文档和数小时视频音频)中回忆和推理细粒度信息。研究其长上下文极限时,在至少 10M token 范围内下一 token 预测持续改善、检索接近完美(>99%);还展示了真实用例(在 10 类职业任务上节省 26% 到 75% 时间)以及仅凭一本语法手册学习翻译 Kalamang 语的能力。

HN 为什么提它

评论者引用它的模型卡信息(输出仅为文本)和技术报告里的「大海捞针」召回测试,也把它当作千余名作者的大公司署名文化的例子。

其他难度 3 / 5约 90 分钟有时效性
读之前最好知道
1大语言模型与长上下文
2多模态模型
3大海捞针(needle-in-a-haystack)检索评测
4基准评测

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用simonw · 2024-04

“The paper here Gemini 1.5 has a model card for Gemini 1.5 Pro that says:”

引用论文里 Gemini 1.5 Pro 的模型卡:输出只有生成文本
Hello OLMo: A truly open LLM原评论 ↗
引用barfbagginus · 2024-04

“You could do the needle recall test, detailed in the following article, and used in the Gemini technical report:”

建议用 Gemini 技术报告里采用的“大海捞针”召回测试
Can Gemini 1.5 read all the Harry Potter books at once?原评论 ↗
引用mi_lk · 2025-01

“Same thing happened to Google Gemini paper (1000+ authors) and it was described as big co promo culture (everyone wants credits).”

拿 Gemini 论文 1000 多位作者为例,说明大公司的署名邀功文化
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL原评论 ↗
被提交为 story · 3 次