2021年3月，四位语言学家和计算机科学家联手发了一篇论文，到今天已经成为领域内公认的里程碑式作品——《随机鹦鹉的危险：语言模型能否过于庞大？》。五年过去，论文的第一作者埃米莉·本德（Emily Bender），在ChatGPT席卷全球的当下，重新审视了这篇论文当年的意义，以及它如今的影响力。

论文诞生的背景与争议

这篇论文发表时，正值自然语言处理领域高速扩张的前夜。彼时，GPT-3这类大规模语言模型刚刚引发业界轰动，研究者们普遍沉浸在“规模即进步”的乐观情绪中。本德等人却选择逆流而上，抛出了一个让很多人感到不安的问题：当语言模型变得越来越大，我们到底在付出什么代价？

论文的核心隐喻是“随机鹦鹉”——它描述的是大语言模型本质上就是一台超级复杂的统计机器，它能把语言片段拼凑得像模像样，但对语言背后的真实含义，根本就谈不上理解。这个比喻不仅挑战了当时业界的过度乐观，还率先点出了大规模训练带来的环境代价与社会风险。

让这篇论文声名大噪的，还有一段前前后后的插曲：谷歌以论文内容有损公司声誉为由，向参与撰写的内部研究员施压，最终导致AI伦理团队的核心成员蒂姆尼特·格布鲁（Timnit Gebru）和玛格丽特·米切尔（Margaret Mitchell）相继离职。这场风波让这篇原本属于学术圈的论文，一夜之间变成了全球科技媒体关注的焦点。

五年后，本德如何看待这篇论文？

时隔五年，本德表示，论文中提出的核心担忧不仅没有过时，反而随着ChatGPT的爆发式传播变得更加紧迫。她指出，当下公众和媒体对大语言模型的讨论，依然充斥着拟人化的误解——人们习惯把模型的输出当作“思考”“理解”甚至“感受”，却忽视了这些系统本质上只是在做大规模的统计预测。

本德强调，“随机鹦鹉”这个隐喻，从来不是要否定这类技术的实用价值，而是呼吁大家保持清醒的认知边界。当一项技术被赋予超出其实际能力的期待时，真正的风险往往会被掩盖：错误信息的扩散、对弱势群体的系统性偏见、训练数据中隐含的价值观倾斜——这些问题在ChatGPT普及后愈发突出。

对于生成式AI的现状，本德的态度非常审慎。她认为，目前业界推动技术落地的速度，远远超过了对其社会影响进行严肃评估的节奏。监管的缺位、公众AI素养的不足，以及商业利益对研究议程的主导，都让她感到忧虑。

论文的持久意义

《随机鹦鹉》论文的贡献，不仅在于它提前预警了大语言模型时代的诸多问题，更在于它开创了一种将技术批评与社会责任相结合的研究范式。它提醒所有研究者和开发者：构建一个系统的代价，不能只用基准测试分数来衡量，还必须纳入能源消耗、数据来源的合法性、对边缘化群体的潜在伤害等维度。

本德说，她希望这篇论文能持续发挥“减速器”的作用——不是阻止技术进步，而是促使整个行业在奔跑之前，先想清楚自己究竟要跑向何处。

Q&A

Q1：《随机鹦鹉》论文的核心观点是什么？

A：核心观点是，大语言模型本质上是复杂的统计机器，能够拼接出看似合理的语言输出，但对语言背后的含义并无真正理解。论文同时指出，盲目追求模型规模会带来环境代价、社会偏见和错误信息扩散等多重风险，呼吁业界在推进技术发展时保持批判性反思。

Q2：埃米莉·本德为什么在ChatGPT时代重新审视这篇论文？

A：因为ChatGPT的爆发式普及，让论文中提出的担忧变得更加现实和紧迫。公众和媒体对大语言模型的拟人化误解依然普遍，商业利益主导研究议程、监管缺位等问题也愈发突出，这些都与当年的预警高度吻合，因此有必要重新将这些观点带入当下的讨论。

Q3：“随机鹦鹉”这个比喻具体是什么意思？

A：“随机鹦鹉”是论文用来描述大语言模型工作机制的隐喻。就像鹦鹉能模仿人类语言却不理解其含义一样，大语言模型通过海量数据训练，能以统计概率生成连贯的文本，但并不具备真正的语义理解或推理能力。这一比喻旨在纠正外界对模型“智能”的过度解读，而非全盘否定其实用价值。