神经符号扩散模型

发表
Emile van KriekenEmile van Krieken 提交
作者: Emile van KriekenEmile van Krieken, Pasquale MinerviniPasquale Minervini, Edoardo Maria PontiEdoardo Ponti, Antonio VergariAntonio Vergari

摘要

神经符号 (NeSy) 预测器将神经感知与符号推理相结合,用于解决诸如视觉推理等任务。然而,标准的 NeSy 预测器假设它们提取的符号之间存在条件独立性,从而限制了它们建模交互和不确定性的能力——这通常会导致过度自信的预测以及较差的分布外泛化能力。为了克服独立性假设的局限性,我们引入了神经符号扩散模型 (NeSyDMs),这是一类新的 NeSy 预测器,它使用离散扩散来建模符号之间的依赖关系。我们的方法在扩散过程的每一步中重用了 NeSy 预测器中的独立性假设,从而实现了可扩展的学习,同时捕获了符号依赖关系和不确定性量化。在合成和真实世界的基准上——包括高维视觉路径规划和基于规则的自动驾驶——NeSyDMs 在 NeSy 预测器中实现了最先进的准确性,并表现出强大的校准能力。
查看 arXiv 页面查看 PDF
神经符号扩散模型

评论

Emile van KriekenEmile van Krieken
论文作者
论文提交者

我们将神经符号 (NeSy) 方法与离散扩散模型集成。用于离散数据的扩散方法取得了巨大成功:就在昨天,谷歌宣布了一个扩散 LLM!我们发现扩散方法特别适合用于 NeSy,结合了强大的视觉理解能力与符号推理能力 🚀 代码:https://github.com/HEmile/neurosymbolic-diffusion