按年被提到
20222023 · 4 次2026
AI 安全、伦理与社会影响›大模型与人类行为·arXiv:2208.02957 · cs.CL

Meaning without reference in large language models

大语言模型中无需指称的意义
Steven T. Piantadosi, Felix Hill · 2022

论证大语言模型可能通过概念角色捕捉到意义

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 5 人首次 2022-08-08 · 最近 2023-08-01
5不同的人
4活跃月份
6讨论串
127被引(OpenAlex)

针对「LLM 毫无意义可言」的质疑,作者论证 LLM 很可能捕捉到了意义的重要方面,其工作方式近似于「意义来自概念角色」的人类认知理论。由于概念角色由内部表征状态之间的关系决定,意义不能由架构、训练数据或目标函数推断,只能通过考察内部状态间的关系来判断。

HN 为什么提它

HN 上的人用它反驳「LLM 只是随机续写、没有意义」的看法,作为认真对待 LLM 理解能力的一篇好文章。

观点难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1语言哲学(意义与指称)
2概念角色语义(conceptual role semantics)
3大语言模型基础
4认知科学基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐hackandthink · 2023-06

“A nice paper:”

推荐它,认为是一篇好论文
Stochastic Parrot原评论 ↗
被提交为 story · 5 次