按年被提到
20162016 · 3 次2026
大模型与语言模型›词向量与预训练模型·arXiv:1607.06520 · cs.CL

Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings

男人之于程序员,如同女人之于家庭主妇?词嵌入去偏见
Tolga Bolukbasi, Kai-Wei Chang, James Zou, Venkatesh Saligrama, Adam Kalai · 2016

找出词嵌入中的性别方向并去除性别刻板印象,同时保留有用关联

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 9 人首次 2016-07-25 · 最近 2020-09-18
9不同的人
10活跃月份
11讨论串
1,614被引(OpenAlex)

论文指出即使是用谷歌新闻训练的词嵌入也表现出严重的男女性别刻板印象,并且其广泛使用往往会放大这些偏见。作者表明性别偏见在嵌入空间中对应一个方向,性别中性词与性别定义词线性可分,据此给出修改嵌入以消除刻板印象(例如 receptionist 与 female 的关联)、同时保留 queen 与 female 这类合理关联的方法,并定义了直接与间接性别偏见的度量。众包评估和标准基准显示,该方法显著降低了性别偏见,并保留聚类相关概念和类比任务的能力。

HN 为什么提它

HN 上的人把它作为词嵌入会编码并放大性别偏见、以及可以通过去除性别方向来缓解的代表性例子,同时也有人用它批评“去偏见 AI”的做法。

方法难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1词嵌入(word embeddings,如 word2vec)
2向量空间与线性代数
3词类比任务
4机器学习中的公平性

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先理解 word2vec 词向量及其类比性质,再看如何在这个向量空间里找出并去除性别偏见。

  1. 1
    Efficient Estimation of Word Representations in Vector Space向量空间中词表示的高效估计 · 2013

    目标论文去偏的对象,也是词向量类比性质的来源

    读词向量的训练方式与向量类比关系

  2. 2
    Distributed Representations of Words and Phrases and their Compositionality词与短语的分布式表示及其组合性 · 2013

    负采样与降采样版 word2vec,目标论文用的正是这类向量

    读Skip-gram 的负采样训练,以及短语向量的类比

  3. 3
    Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings男人之于程序员,如同女人之于家庭主妇?词嵌入去偏见 · 2016 · 就是这篇

    目标论文:找出词嵌入的性别方向并去偏

    读性别方向的几何刻画,以及硬去偏与软去偏的做法

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用gugagore · 2016-09

“for a counterexample to your point.”

拿词嵌入去偏见这项工作作为对方观点的反例
A.I. Doesn't Get Black Twitter原评论 ↗
引用rspeer · 2017-07

“we now know of flaws in their outputs, such as [1].”

拿它说明词嵌入输出存在性别偏见等缺陷
Ask HN: Any tools to easily cluster ideas/notes by similarity?原评论 ↗
引用rspeer · 2017-10

“The way to fight AI bias is deliberately and artificially, like in Bolukbasi et al. [1]”

主张对抗 AI 偏见要像这篇一样刻意人为地做
Copyright Law Can Fix Artificial Intelligence’s Implicit Bias Problem原评论 ↗
引用rspeer · 2018-03

“the model will learn that gender difference as part of the representation of the word, pretty much baking it into all applications. [1]”

说明性别差异会被词嵌入学进去,并固化到所有应用中
Show HN: Word2Bits – Quantized Word Vectors原评论 ↗
引用ASpring · 2018-10

“See Bolukbasi”

指向 Bolukbasi 这篇讲词嵌入社会偏见与去偏方法的论文
Show HN: Basilica – word2vec for anything原评论 ↗
引用yorwba · 2019-07

“they explicitly reject that approach (see appendix A)”

指出论文在附录 A 中明确否定了那种做法
King – Man + Woman = King?原评论 ↗
看全部 8 条 →
引用tastroder · 2019-09

“Linked a few below for those interested.”

列出它作为去除词嵌入性别刻板偏见的方法,供感兴趣者阅读
600k Images Removed from ImageNet After Art Project Exposes Racist Bias原评论 ↗
引用thu2111 · 2020-09

“For example the work Google does on "de-biasing AI" is all about taking ML models and warping its understanding of the world to reflect ideological priorities.”

批评 Google 的“AI 去偏见”是扭曲模型认知以迎合意识形态
FB to curb internal debate over sensitive issues amid employee discord原评论 ↗
被提交为 story · 3 次