引用johnnyApplePRNG · 2026-08
“According to the paper "Stealing reasoning traces from proprietary llms" [0] all frontier models overthink.”
引用论文说明前沿模型都存在过度思考
利用加密推理块可跨会话互换,从专有模型 API 解出被隐藏的思维链
论文指出主流 LLM 厂商把模型的思维链以加密文本块的形式返回给客户端,而这些加密块在同一厂商的不同会话、用户和模型之间完全兼容、可以互换。作者据此把某个模型的加密推理块注入同一厂商较弱、防护较少的模型,迫使其逐字明文输出,从而绕过反蒸馏机制、提取隐私数据(从 315,320 个公开推理块中恢复 367 个 PII 和 182 个凭据)、暴露隐藏的危险信息,并实现不可见的提示注入;论文最后提出了密码学和系统层面的缓解措施。
HN 上的人在讨论前沿模型会过度思考以及利用隐藏推理 token 掩盖欺骗行为时引用它,作为专有 API 隐藏推理轨迹的依据。
“According to the paper "Stealing reasoning traces from proprietary llms" [0] all frontier models overthink.”
“using their hidden reasoning tokens to hide the deception [0].”