Innovator-VL：用于科学发现的多模态大语言模型

我们展示了 Innovator-VL，这是一款科学多模态大语言模型，旨在提升对不同科学领域的理解和推理能力，同时在通用视觉任务上保持优异性能。与依赖大规模特定领域预训练和不透明流程的趋势相反，我们的工作证明了原则性的训练设计和透明的方法论可以用大幅减少的数据需求产生强大的科学智能。(i) 首先，我们提供了一个完全透明、端到端可复现的训练流程，涵盖数据收集、清洗、预处理、监督微调、强化学习和评估，以及详细的优化配方。这有利于社区进行系统性扩展。(ii) 其次，Innovator-VL 表现出卓越的数据效率，在不进行大规模预训练的情况下，使用少于 500 万个精选样本在各种科学任务上取得了极具竞争力的性能。这些结果强调，有效的推理可以通过原则性的数据选择而非盲目扩张来实现。(iii) 第三，Innovator-VL 表现出强大的泛化能力，在通用视觉、多模态推理和科学基准测试上均取得了极具竞争力的表现。这表明科学对齐可以整合到统一模型中，而不会损害通用能力。我们的实践表明，即使没有大规模数据，也可以构建高效、可复现且高性能的科学多模态模型，为未来研究提供了实用的基础。