预训练中根植，微调中摇摆：LLM中认知偏差起源的案例研究

大型语言模型（LLM）表现出认知偏差——系统性的非理性决策倾向，类似于人类。先前的研究发现这些偏差因模型而异，并且可以通过指令微调而放大。然而，目前尚不清楚这些偏差的差异是否源于预训练、微调，甚至训练随机性导致的随机噪声。我们提出了一种两步因果实验方法来解开这些因素。首先，我们使用不同的随机种子多次微调模型，以研究训练随机性如何影响30多种认知偏差。其次，我们引入了交叉微调——在模型之间交换指令数据集以隔离偏差来源。这种交换使用了导致不同偏差模式的数据集，直接测试偏差是否依赖于数据集。我们的发现表明，虽然训练随机性会引入一些变异性，但偏差主要由预训练决定：具有相同预训练骨干的模型比仅共享微调数据的模型表现出更相似的偏差模式。这些见解表明，理解微调模型中的偏差需要考虑其预训练起源，而不仅仅是微调效应。这一视角可以指导未来为评估和减轻LLM偏差制定有原则的策略。