低成本训练材料基础模型

用于材料建模的基础模型正在快速发展，但它们的 训练仍然非常昂贵，这使得许多研究小组无法触及最先进的方法。我们介绍了 Nequix，这是一种紧凑的 E(3)-等变 势函数，它将简化的 NequIP 设计与现代训练实践相结合，包括等变均方根层归一化和 Muon 优化器，以在大幅降低计算需求的同时保持准确性。Nequix 构建在 JAX 中，拥有 700K 参数，并在 500 小时的 A100 GPU 训练时间内完成训练。在 Matbench-Discovery 和 MDR Phonon 基准测试中，Nequix 总体排名第三，但训练成本仅为大多数其他方法所需成本的四分之一不到，并且其推理速度比当前排名第一的模型快一个数量级。我们在 https://github.com/atomicarchitects/nequix 上发布了模型权重和完全可复现的代码库。