引用gwern · 2024-05
“LLMs also model other things: for example, you can use them to predict demographic information about the authors of texts”
拿它说明 LLM 还能根据文本预测作者的人口统计信息
研究预训练 LLM 从文本推断作者位置、收入等个人属性的能力。
此前 LLM 隐私研究主要关注提取被记忆的训练数据,本文研究 LLM 能否在推理时从文本中推断个人属性。作者用真实 Reddit 用户资料构建数据集,发现当前 LLM 能推断位置、收入、性别等多种属性,top-1 准确率最高 85%,top-3 最高 95%,成本约为人工的 1/100、时间约 1/240。论文还探讨了通过看似无害的问题套取个人信息的聊天机器人风险,并表明文本匿名化和模型对齐这两种常见缓解措施目前基本无效。
提及很少:评论者引用它说明 LLM 可以从文本推测作者的人口统计信息。
“LLMs also model other things: for example, you can use them to predict demographic information about the authors of texts”