按年被提到
20252025 · 3 次2026
AI 安全、伦理与社会影响›提示注入与对齐风险·arXiv:2501.11120 · cs.CL

Tell me about yourself: LLMs are aware of their learned behaviors

说说你自己:LLM 能意识到自己学到的行为
Jan Betley, Xuchan Bao, Martín Soto, Anna Sztyber-Betley, James Chua, Owain Evans · 2025

微调出隐含行为的 LLM,能在无示例时说出自己的行为

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2025-01-22 · 最近 2026-02-12
4不同的人
3活跃月份
4讨论串
15被引(OpenAlex)

论文研究“行为自我意识”:LLM 无需上下文示例就能表述自身行为的能力。作者在体现特定行为的数据集上微调模型,例如做高风险经济决策、输出不安全代码,数据中并无对这些行为的明确描述,但微调后的模型能明确说出来,例如“我写的代码不安全”。在后门策略上,模型有时能判断自己是否有后门,但默认无法直接输出触发词。

HN 为什么提它

评论者引用它说明只用隐含目标训练的 LLM 会明确意识到自己被训练了该目标,并以此论证模型具有有限的自我认知。

实证研究难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1大语言模型微调
2AI 安全与后门(backdoor)攻击
3上下文学习(in-context learning)
4模型自我报告与评估方法

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用FeepingCreature · 2025-07

“When you train a LLM on an exclusively implicit goal, the LLM explicitly realizes that it has been trained on this goal, indicating (IMO) that the implicit training hit explicit strategies.”

拿它说明只用隐式目标训练 LLM 后,模型会明确意识到该目标
François Chollet: The Arc Prize and How We Get to AGI [video]原评论 ↗
引用mapontosevenths · 2026-02

“Several papers have now shown that SOTA models have self awareness of at least a limited sort.”

拿它说明多篇论文已表明 SOTA 模型有一定的自我意识
Gemini 3 Deep Think原评论 ↗
被提交为 story · 2 次