按年被提到
20232024 · 3 次2026
大模型与语言模型›词向量与预训练模型·arXiv:2310.06816 · cs.CL

Text Embeddings Reveal (Almost) As Much As Text

文本嵌入几乎和文本一样泄露信息
John X. Morris, Volodymyr Kuleshov, Vitaly Shmatikov, Alexander M. Rush · 2023

从稠密文本嵌入中还原原文,精确恢复 92% 的 32 token 输入

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 6 人首次 2023-10-13 · 最近 2025-01-17
6不同的人
6活跃月份
6讨论串
123被引(OpenAlex)

论文研究嵌入反演:从稠密文本嵌入重建它所表示的完整文本,以评估嵌入泄露多少隐私信息。作者把它看成受控生成问题,即生成重新嵌入后接近潜空间中某个固定点的文本。直接以嵌入为条件的朴素模型效果很差,而反复纠正并重新嵌入文本的多步方法能精确恢复 92% 的 32 token 文本输入。作者对两个先进的嵌入模型训练了解码模型,并展示它能从临床笔记数据集中恢复全名等重要个人信息。

HN 为什么提它

HN 上的人引用它说明文本嵌入并非不可逆的匿名化,只要知道所用的嵌入模型,原文往往大体可以还原,并指出论文附有代码可快速试验。

实证研究难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1文本嵌入(text embeddings)
2Transformer 编码器与解码器
3隐私与模型反演攻击
4向量数据库基础

学习路径

读这篇之前,按顺序读书架上的 5 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先理解词嵌入、Transformer 与 T5 这条编码解码主线,再看现代文本嵌入模型及其评测,才能明白从嵌入反推原文是怎么做到的。

  1. 1
    Efficient Estimation of Word Representations in Vector Space向量空间中词表示的高效估计 · 2013

    它是稠密文本表示的起点,帮助理解嵌入把文字映射成向量究竟保留了什么。

    读词向量的训练目标与向量空间中的相似性;不用细看实验。

  2. 2
    Attention Is All You Need注意力就是你所需要的一切 · 2017

    目标论文的反演模型和被攻击的嵌入模型都建立在 Transformer 之上。

    读编码器与解码器结构、自注意力的作用。

  3. 3
    Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer探索迁移学习的极限:统一的文本到文本 Transformer · 2019

    论文的纠错式生成模型基于 T5 的文本到文本框架。

    读把任务统一成文本到文本的做法,以及编码器-解码器 T5 的基本配置。

  4. 4

    它用对比预训练得到文本嵌入,属于目标论文攻击的那一类嵌入模型。

    读对比学习的训练目标与负样本构造,理解嵌入向量是怎么训练出来的。

  5. 5

    目标论文用 MTEB 一类的基准背景来选取与比较嵌入模型。

    读基准涵盖的任务类型和评测指标,对嵌入模型的实际用途有整体印象。

  6. 6
    Text Embeddings Reveal (Almost) As Much As Text文本嵌入几乎和文本一样泄露信息 · 2023 · 就是这篇

    有了嵌入与 T5 的背景,看如何把嵌入反演当成带控制的生成问题。

    读迭代纠错再嵌入的多步方法、为什么朴素的单步条件生成效果差、对隐私的含义。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐wint3rmute · 2023-12

“The paper provides the code implementing the reversal process, so you could quickly hack together a prototype”

推荐它,论文附带反推文本的代码,可以快速做出原型
Embeddings, Vectors, and Arithmetic原评论 ↗
推荐jncraton · 2024-03

“You might be interested in”

推荐它,其方法能从嵌入解码出文本,包括临床笔记里的个人信息
Launch HN: Greptile (YC W24) - RAG on codebases that actually works原评论 ↗
引用tripplyons · 2024-06

“They are optimized to contain as much information as possible from the text they represent and can often be decoded into their input: Text Embeddings Reveal (Almost) As Much As Text”

指出文本嵌入承载尽可能多的文本信息,常常能被解码回原文
CryptGPT: A Simple Approach to Privacy-Preserving LLMs Using Vigenere Cipher原评论 ↗
引用visarga · 2024-07

“a paper that sheds light on this issue”

指出这篇论文说明此问题:文本嵌入能精确还原 92% 的 32 token 输入
Vision language models are blind原评论 ↗
引用hallh · 2025-01

“No, the original text can largely be recovered from embeddings[0] if you know which embedding model was used.”

反驳上文:知道嵌入模型时,原文大体可以从嵌入中还原
Let's talk about AI and end-to-end encryption原评论 ↗
被提交为 story · 1 次