按年被提到
20262026 · 4 次2026
大模型与语言模型›长上下文与测试时计算·arXiv:2606.19317 · cs.LG

Explaining Attention with Program Synthesis

用程序合成解释注意力
Amiri Hayes, Belinda Z Li, Jacob Andreas · 2026

让 LLM 为注意力头生成 Python 程序,近似并替换神经注意力头

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2026-06-18 · 最近 2026-08-04
4不同的人
3活跃月份
4讨论串
0被引(OpenAlex)

论文提出用可执行程序近似深度网络组件行为的方法,聚焦 Transformer 语言模型的注意力头:先在随机训练样本上计算某个头的注意力矩阵,再把这些矩阵的摘要交给预训练语言模型,要求它生成只依赖输入文本就能复现该注意力模式的 Python 程序,最后按程序在留出输入上的预测效果重新排序。少于 1,000 个生成的程序可以复现 GPT-2、TinyLlama-1.1B 和 Llama-3B 的注意力头模式,在 TinyStories 上平均 IoU 相似度超过 75%;把三个模型 25% 的注意力头换成程序替代品,平均困惑度只上升 16%,且多种下游问答基准表现得以保持。

HN 为什么提它

评论者引用它作为用 Python 程序替换部分注意力头的例子,用来说明模型内部计算可以被可读的代码近似。

方法难度 4 / 5约 45 分钟经得起时间
读之前最好知道
1Transformer 注意力头
2可解释性与机制解释(interpretability)
3程序合成与 LLM 代码生成
4困惑度(perplexity)与 IoU 等评估指标

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用cma · 2026-08

“in Explaining Attention with Program Synthesis they were able to replace some attention heads with Python programs:”

举例说明它能把部分 attention head 替换成 Python 程序
MiniMax H3 Day-0 Support in ComfyUI: Open Weights, Native Audio, and 2K Video原评论 ↗
被提交为 story · 3 次