按年被提到
20162016 · 4 次2026
大模型与语言模型›词向量与预训练模型·arXiv:1606.06121 · cs.CL

Quantifying and Reducing Stereotypes in Word Embeddings

量化并减少词嵌入中的刻板印象
Tolga Bolukbasi, Kai-Wei Chang, James Zou, Venkatesh Saligrama, Adam Kalai · 2016

测量并削减词嵌入中的性别刻板印象

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2016-07-10 · 最近 2016-12-18
4不同的人
4活跃月份
4讨论串
57被引(OpenAlex)

研究词嵌入中的性别刻板印象,在多个数据集上发现嵌入含有显著的性别偏见,尤其体现在职业词上;为此构造了新的性别类比任务并结合众包来系统地量化偏见。还提出一种只需少量训练样例的高效算法,在保留嵌入有用几何性质的同时降低性别刻板印象。

HN 为什么提它

评论者引用它说明几乎所有深度学习系统都在用的词向量里已经嵌入了性别(及种族)刻板印象。

方法难度 3 / 5约 25 分钟经得起时间
读之前最好知道
1词嵌入(word embedding,如 word2vec)
2向量空间几何与线性代数
3算法公平性基础

学习路径

读这篇之前,按顺序读书架上的 1 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

候选里只有 word2vec 与目标论文直接相关,这条路径先读词嵌入的基础,再读如何度量并削减其中的性别刻板印象。

  1. 1
    Efficient Estimation of Word Representations in Vector Space向量空间中词表示的高效估计 · 2013

    本文研究的词嵌入就是这类方法学出的向量,其类比性质是度量偏见的基础。

    读Skip-gram 与 CBOW 的基本想法,以及词类比(如 king - man + woman)这一性质。

  2. 2
    Quantifying and Reducing Stereotypes in Word Embeddings量化并减少词嵌入中的刻板印象 · 2016 · 就是这篇

    目标论文:测量并削减词嵌入中的性别刻板印象。

    读如何度量刻板印象(性别方向与职业词)以及去偏方法和评估。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用Smerity · 2016-07

“word vectors are used by just about every deep learning system and recent research has found gender and racial stereotypes strongly embedded in them[3].”

引用它说明词向量中深嵌着性别和种族刻板印象
Simple questions to help reduce AI hype原评论 ↗
引用Eridrus · 2016-09

“This paper has some details on such issues: Quantifying and Reducing Stereotypes in Word Embeddings”

贴出它来说明词嵌入编码了刻板印象,如护士与程序员
Approaching fairness in machine learning原评论 ↗
被提交为 story · 2 次