按年被提到
20252026 · 3 次2026
大模型与语言模型›混合专家与高效训练·arXiv:2512.02556 · cs.CL

DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models

DeepSeek-V3.2:推进开放大语言模型的前沿
DeepSeek-AI, Aixin Liu, Aoxue Mei, Bangcai Lin, Bing Xue, Bingxuan Wang, Bingzheng Xu, Bochao Wu, Bowei Zhang, Chaofan Lin, Chen Dong, Chengda Lu 等 264 人 · 2025

稀疏注意力、规模化强化学习与智能体合成数据的开放模型

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2026-02-04 · 最近 2026-06-06
3不同的人
3活跃月份
3讨论串
341被引(OpenAlex)

论文介绍 DeepSeek-V3.2,主要有三点:提出 DeepSeek Sparse Attention(DSA),在长上下文下大幅降低注意力计算复杂度而性能不降;通过稳健的强化学习协议并扩大后训练算力,使模型与 GPT-5 相当,高算力变体 Speciale 据称超过 GPT-5,并在 2025 年 IMO 和 IOI 取得金牌水平;以及一条大规模智能体任务合成流水线,用于把推理融入工具使用场景并提升复杂交互环境中的泛化与指令遵循鲁棒性。

HN 为什么提它

评论者把它与 GLM 的论文一起当作了解前沿 LLM 各种必要技巧的概览,也围绕 DSA 里 lightning indexer 使整体复杂度仍为 O(N^2) 展开讨论。

方法难度 4 / 5约 90 分钟有时效性
读之前最好知道
1Transformer 与注意力机制
2混合专家模型(MoE)
3强化学习后训练(RL post-training)
4LLM 智能体与工具调用

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐blackbear_ · 2026-06

“I also enjoyed the papers for DeepSeek and GLM for an overview of all the tricks you need to make these things work”

推荐 DeepSeek 和 GLM 的论文,了解让这些模型跑起来的各种技巧
How LLMs Work原评论 ↗
引用andy12_ · 2026-02

“It really isn't sub N^2. The main attention is only O(Nk), but only thanks to a lightning indexer that still has complexity O(N^2).”

指出其稀疏注意力并非次二次,lightning indexer 仍是 O(N^2)
Attention at Constant Cost per Token via Symmetry-Aware Taylor Approximation原评论 ↗
引用Palmik · 2026-05

“Introduced 1.5 years ago”

指出 DeepSeek Sparse Attention 的出处,一年半前提出
DeepSeek makes the V4 Pro price discount permanent原评论 ↗