大型语言模型的语境工程综述

大型语言模型（LLM）的性能从根本上取决于推理过程中提供的上下文信息。本综述介绍了上下文工程（Context Engineering），这是一门正式的学科，它超越了简单的提示词设计，涵盖了为大型语言模型系统性地优化信息有效载荷。我们提出了一个全面的分类法，将上下文工程分解为其基础组件和将这些组件集成到智能系统中的复杂实现。我们首先审视其基础组件：上下文检索与生成、上下文处理与上下文管理。然后，我们探讨这些组件如何在架构上集成，以创建复杂的系统实现：检索增强生成（RAG）、记忆系统与工具集成推理，以及多智能体系统。通过对 1300 多篇研究论文的系统性分析，本综述不仅为该领域确立了技术路线图，还揭示了一个关键的研究空白：模型能力之间存在根本性的不对称。尽管当前的模型在先进的上下文工程增强下，表现出卓越的复杂上下文理解能力，但在生成同样复杂的长篇输出方面却存在明显的局限性。解决这一差距是未来研究的一个决定性优先事项。最终，本综述为推动上下文感知人工智能发展的研究人员和工程师提供了一个统一的框架。