<think> 那么，让我们用侮辱性的话来替换这个短语…… </think> 从生成有毒的 LLM 文本中吸取的教训

现代大型语言模型（LLM）在生成合成数据方面表现出色。然而，它们在文本去毒等敏感领域的性能尚未得到科学界的充分关注。本文探讨了使用 LLM 生成的合成毒性数据作为人类生成数据替代品来训练去毒模型的可能性。我们使用 Llama 3 和 Qwen 激活修补模型，为 ParaDetox 和 SST-2 数据集中的中性文本生成了合成毒性对应文本。我们的实验表明，在合成数据上微调的模型比在人类数据上训练的模型表现持续更差，联合指标的性能下降高达 30%。根本原因被确定为关键的词汇多样性差距：LLM 使用狭窄、重复的侮辱性词汇生成有毒内容，未能捕捉到人类毒性的细微差别和多样性。这些发现突显了当前 LLM 在该领域的局限性，并强调了多样化、人工标注的数据对于构建强大的去毒系统仍然至关重要。