按年被提到
20232023 · 9 次2026
AI 安全、伦理与社会影响›大模型与人类行为·arXiv:2301.06627 · cs.CL

Dissociating language and thought in large language models

解耦大语言模型中的语言与思维
Kyle Mahowald, Anna A. Ivanova, Idan A. Blank, Nancy Kanwisher, Joshua B. Tenenbaum, Evelina Fedorenko · 2023

区分形式语言能力与功能语言能力,评估 LLM 的语言与认知

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 9 人首次 2023-01-18 · 最近 2024-09-21发表于 Trends in Cognitive Sciences
9不同的人
7活跃月份
10讨论串
344被引(OpenAlex)

论文用形式语言能力(语言规则与模式的知识)和功能语言能力(在现实世界中理解和使用语言)的区分来评估大语言模型,并把这一区分建立在人类神经科学的基础上,因为二者依赖不同的神经机制。作者指出 LLM 在形式能力上出人意料地好,但在功能能力任务上的表现时好时坏,常常需要专门微调或与外部模块耦合。他们据此提出,要以类人方式使用语言的模型需要掌握这两种能力,这可能需要出现专门处理形式语言能力、有别于功能能力的机制。

HN 为什么提它

HN 上的人在争论 LLM 语言流畅是否等于会思考时引用它,用来说明流畅的语言能力不等于思维或推理能力。

观点难度 2 / 5约 60 分钟经得起时间
读之前最好知道
1大语言模型基础
2语言学基础(形式 vs 语用)
3认知神经科学(语言脑区)
4语言与思维的关系

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用ttctciyf · 2023-02

“that meaning comes from 'handling symbols', see also [1]”

引它作为认知主义“意义来自处理符号”观点的参考
Theory of Mind May Have Spontaneously Emerged in Large Language Models (2021)原评论 ↗
引用geraneum · 2023-04

“Language is evidently not enough on its own [1].”

引它说明仅有语言能力不够,LLM 的语言技巧不等于会思考
Why ChatGPT and Bing Chat are so good at making things up原评论 ↗
引用beanbean01 · 2023-05

“To sum up: a human can think outside of their training distribution, an LLM cannot.”

借它论证人能在训练分布之外思考,而 LLM 不能
Geoffrey Hinton leaves Google and can now speak freely about his AI concern原评论 ↗
引用rileyphone · 2023-07

“a decent amount of research that supports this view [1][2]”

引它作为支持自己对 LLM 看法的研究
A Latent Space Theory for Emergent Abilities in Large Language Models原评论 ↗
引用beanbean01 · 2023-10

“Here's the problem with LLMs:”

借它论证流畅的语言并不意味着有思考能力,这是 LLM 的问题
Ask HN: Why are current LLMs not considered AGI?原评论 ↗
被提交为 story · 5 次