按年被提到
20252026 · 4 次2026
大模型与语言模型›混合专家与高效训练·arXiv:2511.07885 · cs.DC

Intelligence per Watt: Measuring Intelligence Efficiency of Local AI

每瓦智能:衡量本地 AI 的智能效率
Jon Saad-Falcon, Avanika Narayan, Hakki Orhun Akengin, J. Wes Griffin, Herumb Shandilya, Adrian Gamarra Lafuente, Medhya Goel, Rebecca Joseph, Shlok Natarajan, Etash Kumar Guha, Shang Zhu, Ben Athiwaratkun 等 15 人 · 2025

提出每瓦智能(IPW)指标,评估本地小模型能分担多少云端请求

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 4 人首次 2025-12-02 · 最近 2026-09-14
4不同的人
4活跃月份
6讨论串
7被引(OpenAlex)

论文提出「每瓦智能」(IPW,即每单位功耗的任务准确率)作为衡量本地推理能力与效率的统一指标,并评测了 20 多个本地语言模型、8 种加速器和 100 万条真实的单轮对话与推理查询。结果显示本地模型能成功回答 88.7% 的查询;2023 至 2025 年 IPW 提升 5.3 倍,可由本地处理的查询比例从 23.2% 升至 71.3%;本地加速器的 IPW 比运行相同模型的云端加速器至少低 1.4 倍,仍有很大优化空间。

HN 为什么提它

评论者喜欢它提出的「每瓦智能、每焦耳智能」框架,认为这是思考 AI 基础设施长期可持续性的有用指标,也有人让大家直接读它的原始数据而不是转述文章。

实证研究难度 2 / 5约 40 分钟有时效性
读之前最好知道
1大语言模型推理(inference)基础
2本地部署的小模型与量化
3功耗与能效的概念
4模型评测与胜率(win rate)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐mzl · 2025-12

“I think the measures of intelligence per watt and intelligence per joule from Intelligence per Watt is very interesting.”

觉得其每瓦智能和每焦耳智能的度量很有意思
DeepSeek-v3.2: Pushing the frontier of open large language models [pdf]原评论 ↗
推荐mzl · 2026-02

“I like the intelligence per watt and intelligence per joule framing in Intelligence per Watt It feels like a very useful measure for thinking about long-term sustainable variants of AI build-outs.”

喜欢其每瓦、每焦耳智能的框架,适合衡量可持续的 AI 建设
Step 3.5 Flash: Fast Enough to Think. Reliable Enough to Act原评论 ↗
推荐embedding-shape · 2026-08

“Read the paper the author talks about yourself instead”

建议直接读作者提到的论文,而非转述文章
If this is true, the hyperscalers are toast原评论 ↗
被提交为 story · 3 次