语言模型模拟语言

发表
Łukasz BorchmannŁukasz Borchmann 提交
作者: Łukasz Borchmann

摘要

AI 生成总结
该论文提倡采用经验主义方法来评估语言模型,强调使用频率而不是传统的理论框架。
对大型语言模型(LLM)的语言学评论,深受索绪尔和乔姆斯基理论框架的影响,通常是推测性的且低效的。批评者质疑 LLM 是否能够合法地模拟语言,并引用了对“深层结构”或“接地”的需求,以实现理想化的语言“能力”。我们主张将视角彻底转向波兰著名普通和历史语言学家 Witold Mańczak 的经验主义原则。他将语言定义为不是“符号系统”或“大脑的计算系统”,而是所有言语和书面语的总体。最重要的是,他将特定语言元素的用法频率视为语言的主要指导原则。使用他的框架,我们挑战了之前对 LLM 的批评,并为设计、评估和解释语言模型提供了建设性的指南。
查看 arXiv 页面查看 PDF

评论

Łukasz BorchmannŁukasz Borchmann
论文提交者

大型语言模型并非不完美,原因不在于它们未能模拟语言,而在于它们只模拟语言。

Peter SzemrajPeter Szemraj

IMO,这是年度最佳论文标题了 🔥