FinCoT: 将思维链植根于专家金融推理

发表
Natapong Nitarach (Schwyter)Natapong Nitarach (Schwyter) 提交
作者: Natapong Nitarach (Schwyter)Natapong Nitarach, Warit Sirichotedumrong, Panop Pitchayarthorn, Pittawat TaveekitworachaiPittawat Taveekitworachai, Potsawee Manakul, Kunat Pipatanakul

摘要

本文介绍了 FinCoT,这是一种结构化思维链(CoT)提示方法,它融合了领域特定专家金融推理的见解,以指导大型语言模型的推理轨迹。我们研究了 FinNLP 中三种主要的提示风格:(1) 标准提示——零样本提示;(2) 非结构化 CoT——不带有明确推理结构(例如不使用标签)的 CoT 提示;以及 (3) 结构化 CoT 提示——带有明确指令或示例来定义结构化推理步骤的 CoT 提示。此前,FinNLP 主要侧重于标准或非结构化 CoT 提示的提示工程。然而,结构化 CoT 提示在现有工作中受到的关注有限。此外,结构化 CoT 提示中推理结构的设计通常基于非领域专家的启发式方法。在这项研究中,我们调查了 FinNLP 中的每种提示方法。我们评估了 CFA 风格的问题中三种主要提示风格和 FinCoT 在十个金融领域的表现。我们观察到,FinCoT 将性能从 63.2% 提高到 80.5%,Qwen-2.5-7B-Instruct 从 69.7% 提高到 74.2%,同时与结构化 CoT 提示相比,生成的标记减少了八倍。我们的研究结果表明,领域对齐的结构化提示不仅提高了性能并降低了推理成本,而且产生了更具可解释性且与专家对齐的推理轨迹。
查看 arXiv 页面查看 PDF
FinCoT: 将思维链植根于专家金融推理
FinCoT: 将思维链植根于专家金融推理

评论

Natapong Nitarach (Schwyter)Natapong Nitarach (Schwyter)
论文作者
论文提交者

FinCoT (Financial Chain-of-Thought) 是一个结构化提示框架,旨在增强大型语言模型(LLM)在专业金融领域的推理能力。FinCoT 在 ST-CoT 方法的基础上,将专家导出的问题解决 S方法直接嵌入到提示中,引导 LLM 遵循领域特定的推理路径,而无需模型微调。