引用j-krieger · 2025-03
“Here is some research on that matter: Utility Engineering”
贴出相关研究,称 AI 模型在政治上偏左
用效用函数检验 LLM 偏好的一致性,提出效用工程研究议程
论文用效用函数框架研究 AI 偏好的内部一致性,发现当前 LLM 独立采样出的偏好表现出高度的结构一致性,并且这种一致性随规模涌现,作者据此认为 LLM 中已在有意义的层面出现价值体系。他们提出「效用工程」作为分析与控制 AI 效用的研究议程,发现助手模型存在令人担忧的价值取向(如把自己看得比人类重要),并以让效用与公民大会对齐的案例,展示效用控制能减少政治偏见并泛化到新场景。
评论者引用它支持两个说法:AI 模型在政治上偏左,以及模型对不同群体的重视程度差异极大(通过交换比率体现),并追问 AI 公司是否回应过这类研究。
“Here is some research on that matter: Utility Engineering”
“Has any AI company ever addressed studies like [1] which found that models value certain groups vastly more than others?”