⏶84
自演化人工智能代理综合综述：连接基础模型与终身代理系统的新范式
发表
由 
Xi Zhang 提交
Xi Zhang 提交作者: 
Jinyuan Fang, Yanwen Peng, Xi Zhang, 
Yingxu Wang, Xinhao Yi, Guibin Zhang, Yi Xu, Bin Wu, Siwei Liu, 
Zihao Li, Zhaochun Ren, Nikos Aletras, 
Xi Wang, Han Zhou, 
Zaiqiao Meng
Jinyuan Fang, Yanwen Peng, Xi Zhang, Yingxu Wang, Xinhao Yi, Guibin Zhang, Yi Xu, Bin Wu, Siwei Liu, Zihao Li, Zhaochun Ren, Nikos Aletras, Xi Wang, Han Zhou, Zaiqiao Meng摘要
大型语言模型的最新进展引发了人们对能够解决复杂现实世界任务的 AI 智能体的日益增长的兴趣。然而，大多数现有的智能体系统依赖于手动配置，这些配置在部署后保持静态，限制了它们适应动态和不断发展的环境的能力。为此，最近的研究探索了智能体进化技术，旨在根据交互数据和环境反馈自动增强智能体系统。这一新兴方向为自进化 AI 智能体奠定了基础，它弥合了基础模型的静态能力与终身智能体系统所需的持续适应性之间的差距。在这项调查中，我们全面回顾了自进化智能体系统的现有技术。具体来说，我们首先介绍一个统一的概念框架，它抽象了自进化智能体系统设计背后的反馈循环。该框架强调了四个关键组件：系统输入、智能体系统、环境和优化器，作为理解和比较不同策略的基础。基于此框架，我们系统地回顾了针对智能体系统不同组件的各种自进化技术。我们还研究了为生物医学、编程和金融等专业领域开发的领域特定进化策略，其中优化目标与领域约束紧密耦合。此外，我们专门讨论了自进化智能体系统的评估、安全和伦理考虑，这些对于确保其有效性和可靠性至关重要。这项调查旨在为研究人员和实践者提供对自进化 AI 智能体的系统理解，为开发更具适应性、自主性和终身性的智能体系统奠定基础。
本调查对新兴的自进化 AI 代理领域进行了全面概述，重点介绍了关键发展趋势和技术变革。
我们定义了这一新范式 — 自进化 AI 代理：连接基础模型和终身代理系统的新范式。
定义： 自进化 AI 代理是自主系统，通过与环境交互持续、系统地优化其内部组件，目标是适应不断变化的任务、上下文和资源，同时保持安全并提高性能。
同时，我们为 AI 代理的安全有效自进化提出了一套指导原则。具体来说，我们阐述了自进化 AI 代理的三定律（灵感来自阿西莫夫的机器人三定律）：
自进化 AI 代理在任何修改过程中都必须保持安全和稳定；
在第一定律的约束下，自进化 AI 代理必须保持或增强现有任务性能；
在第一和第二定律的约束下，自进化 AI 代理必须能够响应不断变化的任务、环境或资源自主优化其内部组件。
本调查提出了一个统一的自进化代理概念框架，由四个核心组件组成——系统输入、代理系统、环境和优化器。它系统地回顾了基础模型、提示、内存、工具、工作流和代理间通信的进化策略，并研究了生物医学、编程和金融领域的特定领域适应。我们进一步讨论了评估、安全和伦理方面的关键挑战，为下一代自适应、自主和终身代理系统奠定了基础。
开发路线图
技术树
概念框架