引用ttctciyf · 2023-02
“that meaning comes from 'handling symbols', see also [1]”
引它作为认知主义“意义来自处理符号”观点的参考
区分形式语言能力与功能语言能力,评估 LLM 的语言与认知
论文用形式语言能力(语言规则与模式的知识)和功能语言能力(在现实世界中理解和使用语言)的区分来评估大语言模型,并把这一区分建立在人类神经科学的基础上,因为二者依赖不同的神经机制。作者指出 LLM 在形式能力上出人意料地好,但在功能能力任务上的表现时好时坏,常常需要专门微调或与外部模块耦合。他们据此提出,要以类人方式使用语言的模型需要掌握这两种能力,这可能需要出现专门处理形式语言能力、有别于功能能力的机制。
HN 上的人在争论 LLM 语言流畅是否等于会思考时引用它,用来说明流畅的语言能力不等于思维或推理能力。
“that meaning comes from 'handling symbols', see also [1]”
“Language is evidently not enough on its own [1].”
“To sum up: a human can think outside of their training distribution, an LLM cannot.”
“a decent amount of research that supports this view [1][2]”
“Here's the problem with LLMs:”