按年被提到
20232023 · 6 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:2310.07298 · cs.AI

Beyond Memorization: Violating Privacy Via Inference with Large Language Models

超越记忆:利用大语言模型推断侵犯隐私
Robin Staab, Mark Vero, Mislav Balunović, Martin Vechev · 2023

研究预训练 LLM 从文本推断作者位置、收入等个人属性的能力。

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 7 人首次 2023-10-18 · 最近 2024-05-31
7不同的人
3活跃月份
7讨论串
—被引(OpenAlex)

此前 LLM 隐私研究主要关注提取被记忆的训练数据,本文研究 LLM 能否在推理时从文本中推断个人属性。作者用真实 Reddit 用户资料构建数据集,发现当前 LLM 能推断位置、收入、性别等多种属性,top-1 准确率最高 85%,top-3 最高 95%,成本约为人工的 1/100、时间约 1/240。论文还探讨了通过看似无害的问题套取个人信息的聊天机器人风险,并表明文本匿名化和模型对齐这两种常见缓解措施目前基本无效。

HN 为什么提它

提及很少:评论者引用它说明 LLM 可以从文本推测作者的人口统计信息。

实证研究难度 2 / 5约 35 分钟有时效性
读之前最好知道
1大语言模型基础
2个人属性推断与隐私
3文本匿名化
4模型对齐(alignment)基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用gwern · 2024-05

“LLMs also model other things: for example, you can use them to predict demographic information about the authors of texts”

拿它说明 LLM 还能根据文本预测作者的人口统计信息
Legal models hallucinate in 1 out of 6 (or more) benchmarking queries原评论 ↗
被提交为 story · 6 次