⏶0
倡议协同智能：为什么人机代理系统应先于人工智能自治
发表
由 
Henry Peng Zou 提交
Henry Peng Zou 提交作者: Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu
Henry Peng Zou, Wei-Chieh Huang, Yaozu Wu, Chunyu Miao, Dongyuan Li, Aiwei Liu, Yue Zhou, Yankai Chen, Weizhi Zhang, Yangning Li, Liancheng Fang, Renhe Jiang, Philip S. Yu摘要
大型语言模型（LLM）的最新进展，使得许多研究人员专注于构建完全自主的AI代理。本立场文件质疑这种方法是否是正确的方向，因为这些自主系统在可靠性、透明度以及理解人类实际需求方面仍存在问题。我们提出一种不同的方法：基于LLM的人机协作系统（LLM-HAS），其中AI与人类协作而非取代人类。通过让人类参与其中以提供指导、回答问题和保持控制，这些系统可以变得更值得信赖和更具适应性。通过考察医疗保健、金融和软件开发领域的例子，我们展示了人机协作如何比AI单独工作更好地处理复杂任务。我们还讨论了构建这些协作系统所面临的挑战，并提供了实用的解决方案。本文认为，人工智能的进步不应以系统变得多么独立来衡量，而应以它们与人类协作的程度来衡量。人工智能最有前途的未来不在于取代人类角色的系统，而在于那些通过有意义的伙伴关系增强人类能力的系统。
呼唤协作智能：为什么人机协作系统应优先于AI自主性
大型语言模型（LLMs）的最新进展促使许多研究人员致力于构建完全自主的AI智能体。本文质疑这种方法是否是正确的方向，因为这些自主系统在可靠性、透明度以及理解人类实际需求方面仍存在问题。我们提出一种不同的方法：基于LLM的人机协作系统（LLM-HAS），其中AI与人类协作，而不是取代人类。通过让人类参与提供指导、回答问题和保持控制，这些系统可以更值得信赖和更具适应性。通过考察医疗保健、金融和软件开发领域的例子，我们展示了人机协作如何比AI单独工作更好地处理复杂任务。我们还讨论了构建这些协作系统面临的挑战，并提供了实用的解决方案。本文认为，AI的进步不应以系统变得多么独立来衡量，而应以它们与人类协作的程度来衡量。AI最有前途的未来不在于取代人类角色的系统，而在于那些通过有意义的伙伴关系增强人类能力的系统。