生成式人工智能第二阶段：测试时缩放驱动认知工程

第一代大型语言模型——可以称之为生成式人工智能的“第一幕”（2020-2023年）——通过大规模参数和数据扩展取得了显著成功，但在知识延迟、浅层推理和受限的认知过程方面表现出根本性的局限。在这个时代，提示工程成为我们与人工智能交互的主要界面，通过自然语言实现对话级别的沟通。我们现在见证了“第二幕”（2024年至今）的出现，模型正在通过测试时扩展技术，从知识检索系统（在潜在空间中）过渡到思维构建引擎。这种新范式通过基于语言的思维，与人工智能建立了心智层面的连接。在本文中，我们阐明了认知工程的概念基础，并解释了为什么此时此刻对其发展至关重要。我们通过全面的教程和优化的实现，系统地分解了这些先进方法，普及认知工程的访问，并使每位从业者都能参与到人工智能的第二幕中。我们在 GitHub 仓库中提供了一个定期更新的关于测试时扩展的论文集：https://github.com/GAIR-NLP/cognition-engineering