“This may disabuse you of two ideas:”
按年被提到
20232023 · 7 次2026
Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc
从生成式 AI 走向可信 AI:LLM 可以向 Cyc 学什么
Doug Lenat, Gary Marcus · 2023
Lenat 与 Marcus:用 Cyc 式符号推理与 LLM 混合,实现可信 AI
被推荐 · 9 人首次 2023-08-10 · 最近 2025-04-10
9不同的人
5活跃月份
9讨论串
38被引(OpenAlex)
文章指出 LLM 的输出只求似是而非,推理不足,结果难以预测和解释,因而不完全可信。作者列出对未来 AI 的 16 条要求,并讨论另一条路线:用整理过的显式知识和经验规则训练 AI,让推理引擎自动推出其逻辑蕴含,使推理的每一步及知识来源都可审计。难点是表达力足够的逻辑推理太慢,并介绍 Cyc 如何在高阶逻辑中做到实时推理;最后认为可信的通用 AI 需要把 LLM 与形式化方法混合。
HN 为什么提它
HN 上的人把它当作 Lenat 的最后一篇论文,并用来说明神经符号混合路线、Cyc 与 LLM 如何互补,以及其中的 AGI 目标清单。
观点难度 2 / 5约 40 分钟经得起时间
读之前最好知道
1大语言模型的局限与幻觉
2符号 AI 与知识表示(knowledge representation)
3一阶与高阶逻辑
4Cyc 知识库项目背景
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及推荐PaulDavisThe1st · 2023-09
推荐它,可以打破两种想法,Cyc 式符号推理或可补足 LLM 走向可信 AI
推荐nickpsecurity · 2024-06
“You also might find use for the list of AGI goals in Section 2 of this paper:”
推荐其第 2 节的 AGI 目标清单,并借鉴 Cyc 这类常识引擎的经验
引用PaulDavisThe1st · 2023-09
“is precisely Doug Lenat & Gary Marcus' thoughts on how to combine them”
指出这正是 Lenat 和 Marcus 对如何结合符号系统与 LLM 的想法
引用PaulHoule · 2023-09
“and that one said that Cyc had over 1,100 special purpose reasoning engines.”
引用它:Cyc 有 1100 多个专用推理引擎,因为通用求解器太慢
引用Rochus · 2023-09
“likely this one: Getting from Generative AI to Trustworthy AI. See also [LINK].”
推测这可能是 Doug Lenat 当时在写的关于 Cyc 与 LLM 的文章
引用trott · 2024-11
“He advocates [1] neurosymbolic AI, i.e. hybridizing NNs with symbolic approaches, as a path to AGI.”
指出 Marcus 主张神经符号 AI,把神经网络与符号方法结合作为通向 AGI 的路径
看全部 7 条 →
引用musicale · 2025-04
“See also (Lenat's final paper):”
补充 Lenat 的最后一篇论文,讲 LLM 可以向 Cyc 学什么
被提交为 story · 3 次
- Getting from Generative AI to Trustworthy AI: What LLMs Might Learn from Cyc ↗dimmuborgir · 2023-08-10 · 1 分
- Getting from Generative AI to Trustworthy AI: What LLMs Might Learn from Cyc ↗dougb5 · 2023-08-31 · 2 分
- Getting from Generative AI to Trustworthy AI: What LLMs Might Learn from Cyc ↗mpweiher · 2023-09-01 · 2 分