X-Cross：用于跨域序列推荐的语言模型动态集成

随着新产品每天不断涌现，推荐系统需要在不需要大量重新训练的情况下快速适应可能的新领域。这项工作提出了“X-Cross”——一种新颖的跨域序列推荐模型，它通过整合多个领域特定的语言模型来推荐新领域的产品；每个模型都使用低秩适配器（LoRA）进行微调。给定一个推荐提示，X-Cross 逐层操作，通过整合所有其他模型的知识来动态地优化每个源语言模型的表示。这些优化的表示从一层传播到下一层，利用每个领域适配器的激活来确保保留领域特定的细微差别，同时实现跨领域的适应性。使用亚马逊数据集进行序列推荐，X-Cross 取得了与使用 LoRA 微调的模型相当的性能，但只使用了 25% 的额外参数。在跨域任务中，例如从玩具领域适应到工具、电子产品或体育用品领域，X-Cross 表现出强大的性能，同时比 LoRA 需要少约 50%-75% 的微调数据才能使微调有效。此外，X-Cross 在准确性上比其他跨域基线方法取得了显著提升。总的来说，X-Cross 实现了可扩展和自适应的跨域推荐，减少了计算开销，并为数据受限的环境提供了一个高效的解决方案。