引用Smerity · 2016-07
“word vectors are used by just about every deep learning system and recent research has found gender and racial stereotypes strongly embedded in them[3].”
引用它说明词向量中深嵌着性别和种族刻板印象
测量并削减词嵌入中的性别刻板印象
研究词嵌入中的性别刻板印象,在多个数据集上发现嵌入含有显著的性别偏见,尤其体现在职业词上;为此构造了新的性别类比任务并结合众包来系统地量化偏见。还提出一种只需少量训练样例的高效算法,在保留嵌入有用几何性质的同时降低性别刻板印象。
评论者引用它说明几乎所有深度学习系统都在用的词向量里已经嵌入了性别(及种族)刻板印象。
候选里只有 word2vec 与目标论文直接相关,这条路径先读词嵌入的基础,再读如何度量并削减其中的性别刻板印象。
本文研究的词嵌入就是这类方法学出的向量,其类比性质是度量偏见的基础。
读Skip-gram 与 CBOW 的基本想法,以及词类比(如 king - man + woman)这一性质。
目标论文:测量并削减词嵌入中的性别刻板印象。
读如何度量刻板印象(性别方向与职业词)以及去偏方法和评估。
“word vectors are used by just about every deep learning system and recent research has found gender and racial stereotypes strongly embedded in them[3].”
“This paper has some details on such issues: Quantifying and Reducing Stereotypes in Word Embeddings”