引用absal · 2024-02
“I have some related work where we looked at how tipping (and other variations) affect predictions and accuracy in classification tasks.”
拿它对照自己的相关工作:给小费等提示变化如何影响分类预测和准确率
提示的微小改动,甚至多一个空格,都可能改变 LLM 的标注结果。
LLM 常被用来给各领域的数据打标签,而提示的构造涉及措辞、输出数据格式,乃至敏感话题下的越狱等一系列决定。论文在多种文本分类任务上设计一系列提示变体,检验提示构造方式的变化是否会改变 LLM 的最终判断。结果发现,即使是最小的扰动(如在提示末尾加一个空格)也可能使 LLM 改变答案;要求以 XML 输出和常用越狱提示,更可能对 LLM 标注的数据造成灾难性影响。
评论者引它来说明提示的小改动(如“给小费”这类争议较大的提示技巧)会影响分类任务中的预测和准确率。
“I have some related work where we looked at how tipping (and other variations) affect predictions and accuracy in classification tasks.”
“Since the most contested one in this thread is the "tipping" prompt hack: The Butterfly Effect of Altering Prompts”