按年被提到
20232023 · 3 次2026
大模型与语言模型›对话式大模型·arXiv:2307.09288 · cs.CL

Llama 2: Open Foundation and Fine-Tuned Chat Models

Llama 2:开放的基础模型与微调对话模型
Hugo Touvron, Louis Martin, Kevin Stone, Peter Albert, Amjad Almahairi, Yasmine Babaei, Nikolay Bashlykov, Soumya Batra, Prajjwal Bhargava, Shruti Bhosale, Dan Bikel, Lukas Blecher 等 68 人 · 2023

Meta 发布 7B 至 70B 的 Llama 2 及对话模型 Llama 2-Chat 的技术报告

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 7 人首次 2023-07-29 · 最近 2026-06-24
7不同的人
7活跃月份
8讨论串
9,019被引(OpenAlex)

论文发布了 Llama 2,一组参数规模从 70 亿到 700 亿的预训练和微调大语言模型,其中针对对话优化的版本称为 Llama 2-Chat。作者称这些模型在其测试的大多数基准上优于开源对话模型,并且基于人工评估的有用性和安全性,可能适合作为闭源模型的替代品。报告详细描述了微调与安全改进的方法,以便社区在此基础上继续工作。

HN 为什么提它

评论者既把它当作学习 RLHF 和对话模型训练方法的教材,也用它说明许可条款与开源定义的冲突,以及报告没有披露训练数据来源的问题。

方法难度 3 / 5约 120 分钟有时效性
读之前最好知道
1Transformer 架构
2大语言模型的预训练与微调
3RLHF(基于人类反馈的强化学习)
4大模型评测基准与人工评估
5AI 安全与对齐基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐hexaga · 2023-10

“The rest of 3.2 should be enlightening as well”

推荐 3.2 节其余部分,Llama 2 的 RLHF 章节讲清训练机制和偏好数据
How Transformers Work原评论 ↗
推荐hapanin · 2023-12

“probably the best chat model we can train on, focus on training method.”

推荐它,认为这可能是最适合参考的对话模型,重点看训练方法
Ask HN: AI/ML papers to catch up with current state of AI?原评论 ↗
推荐michaelt · 2024-06

“Then, you should check out papers like [OTHER_PAPER] and Llama 2”

推荐一并读它,Llama 2 称不使用 Meta 产品数据并过滤含个人信息的网站
How Meta trains large language models at scale原评论 ↗
批评rafram · 2025-03

“LLaMA 2 and 3 are significantly more capable models trained on orders of magnitude more data, and those papers notably do not say where the data comes from.”

批评 LLaMA 2 和 3 的论文都没说明训练数据来自哪里
AMD Announces "Instella" Open-Source 3B Language Models原评论 ↗
引用ninjin · 2024-06

“despite being in direct violation of the terms [1, 2]”

指出 Llama 2 的发布条款违背了开源定义
Not all 'open source' AI models are open: here's a ranking原评论 ↗
引用like_any_other · 2025-04

“e.g. Facebook tuned their LLAMA-2 on it [3]”

引用报告第 31 页:Facebook 用仇恨言论数据集微调了 Llama 2
Russian Propaganda Has Now Infected Western AI Chatbots – New Study原评论 ↗
看全部 7 条 →
引用like_any_other · 2026-06

“While made by Microsoft, it's widely used in the industry, e.g. Facebook tuned their LLAMA-2 on it [4].”

引用第 31 页:Llama 2 的安全微调用了该仇恨言论数据集
Are AI chatbots politically biased?原评论 ↗
被提交为 story · 1 次