按年被提到
20222023 · 3 次2026
AI 安全、伦理与社会影响›大模型与人类行为·arXiv:2212.03551 · cs.CL

Talking About Large Language Models

谈谈大语言模型
Murray Shanahan · 2022

提醒别把大语言模型拟人化,说清它们实际是如何工作的

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 5 人首次 2022-12-10 · 最近 2024-06-08发表于 Communications of the ACM
5不同的人
3活跃月份
5讨论串
381被引(OpenAlex)

论文指出,LLM 越擅长模仿人类语言,我们就越容易把它们及其所在系统看得比实际更像人,而用「知道」「相信」「思考」这类带哲学色彩的词描述它们会加剧这种倾向。作者主张反复退一步,提醒自己 LLM 及其所属系统究竟如何工作,希望更高的科学精确度能促使围绕人工智能的讨论(无论在学界还是公众中)更有哲学上的细致。

HN 为什么提它

HN 评论者引用它来澄清对 LLM 的常见误解,提醒人们 ChatGPT 之类说到底是强大的统计式下一个 token 预测系统,不应拟人化。

观点难度 2 / 5约 25 分钟经得起时间
读之前最好知道
1大语言模型基本原理(下一个 token 预测)
2拟人化(anthropomorphism)
3心灵哲学基础概念
4提示与对话系统基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用LewisVerstappen · 2023-01

“a research scientist at DeepMind wrote a paper around this - clarifying some of the misconceptions around LLMs”

推荐 DeepMind 研究员的这篇论文,用来澄清对 LLM 的误解
Ask HN: How long before a “Cargo cult” for AI begins?原评论 ↗
引用corford · 2023-01

“keep in perspective (as the article and referenced paper - Talking About Large Language Models - talk about) that ChatGPT/LLMs are, ultimately, "just" extremely powerful statistical next-token prediction systems.”

借它提醒 LLM 终究只是强大的下一 token 预测系统,别拟人化
GPT Takes the Bar Exam原评论 ↗
被提交为 story · 3 次