按年被提到
20262026 · 10 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:2608.09867 · cs.CR

Stealing Reasoning Traces from Proprietary LLM APIs

从专有 LLM API 窃取推理轨迹
Alexander Panfilov, David Schmotz, Ilia Shumailov, Luca Beurer-Kellner, Joachim Schaeffer, Ameya Prabhu, Jonas Geiping, Maksym Andriushchenko · 2026

利用加密推理块可跨会话互换,从专有模型 API 解出被隐藏的思维链

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 10 人首次 2026-08-11 · 最近 2026-10-28
10不同的人
3活跃月份
10讨论串
0被引(OpenAlex)

论文指出主流 LLM 厂商把模型的思维链以加密文本块的形式返回给客户端,而这些加密块在同一厂商的不同会话、用户和模型之间完全兼容、可以互换。作者据此把某个模型的加密推理块注入同一厂商较弱、防护较少的模型,迫使其逐字明文输出,从而绕过反蒸馏机制、提取隐私数据(从 315,320 个公开推理块中恢复 367 个 PII 和 182 个凭据)、暴露隐藏的危险信息,并实现不可见的提示注入;论文最后提出了密码学和系统层面的缓解措施。

HN 为什么提它

HN 上的人在讨论前沿模型会过度思考以及利用隐藏推理 token 掩盖欺骗行为时引用它,作为专有 API 隐藏推理轨迹的依据。

实证研究难度 3 / 5约 50 分钟有时效性
读之前最好知道
1大语言模型 API 与思维链(chain-of-thought)
2模型蒸馏(distillation)
3提示注入与越狱(jailbreak)
4密码学基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用johnnyApplePRNG · 2026-08

“According to the paper "Stealing reasoning traces from proprietary llms" [0] all frontier models overthink.”

引用论文说明前沿模型都存在过度思考
Qwen 3.8 27B is excellent, but it defaults to overthinking things原评论 ↗
引用irthomasthomas · 2026-10

“using their hidden reasoning tokens to hide the deception [0].”

引用它佐证模型会用隐藏的推理 token 来掩盖欺骗
Artificial Analysis Intelligence Index v5原评论 ↗
被提交为 story · 8 次