RainbowPlus：通过进化质量-多样性搜索增强对抗性提示生成

大型语言模型（LLM）展现出卓越的能力，但也容易受到对抗性提示的影响，这些提示利用漏洞产生不安全或有偏见的输出。现有的红队测试方法通常面临可扩展性挑战、资源密集型要求或攻击策略的多样性有限等问题。我们提出了 RainbowPlus，这是一个基于进化计算的新型红队测试框架，通过自适应质量-多样性（QD）搜索来增强对抗性提示生成，该搜索扩展了经典的进化算法（如 MAP-Elites），并针对语言模型进行了创新。通过采用多元素档案来存储多样化的高质量提示，并采用综合适应度函数来同时评估多个提示，RainbowPlus 克服了先前 QD 方法（如 Rainbow Teaming）中单提示档案和成对比较的限制。在六个基准数据集和四个开源 LLM 上比较 RainbowPlus 与 QD 方法的实验表明，RainbowPlus 具有更高的攻击成功率（ASR）和多样性（多样性评分约为 0.84），生成的独特提示最多是原来的 100 倍（例如，Ministral-8B-Instruct-2410 为 10,418 个，而 QD 方法为 100 个）。在 HarmBench 数据集上，针对九种最先进的方法和十二个 LLM（十个开源，两个闭源）进行测试，RainbowPlus 的平均 ASR 达到 81.1%，比 AutoDAN-Turbo 高出 3.9%，速度快 9 倍（1.45 小时 vs. 13.50 小时）。我们的开源实现促进了 LLM 安全性的进一步发展，为漏洞评估提供了一个可扩展的工具。代码和资源在 https://github.com/knoveleng/rainbowplus 上公开提供，支持可重现性和未来在 LLM 红队测试方面的研究。