车马先行，粮草呢？

据外泄消息，OpenAI CEO山姆·阿尔特曼在伦敦一场闭门会议上坦言：缺少专用计算机芯片（GPU）已经打乱了公司的经营计划。这场会议约有20位软件开发者与初创公司CEO参加，与会者拉扎·哈毕比（Humanloop公司联合创始人）将会议内容记录在博客中，虽然后来博客应OpenAI要求关闭，但互联网存档网站已保存副本，并在社交媒体和开发者论坛广泛传播。

一、芯片荒带来的连锁影响

GPU（图形处理单元）是运行人工智能软件的专用芯片，目前全球绝大多数AI应用都依赖它进行训练和运行。GPU通过高速并行处理数据分析，而市面上最主流的GPU来自英伟达（Nvidia），单块售价可达数千甚至数十万美元。这种高度集中的供应格局，直接导致了以下问题：

• 阻碍短期计划：OpenAI无法买到足够多的GPU，导致公司难以支持用户通过大语言模型推送更多数据，也延缓了新功能与服务的发布节奏。
• 降低现有服务体验：芯片短缺使ChatGPT等产品的速度和可靠性下降，可能引发客户不满，进而影响企业用户基于OpenAI技术开发应用的意愿。
• 威胁先行者优势：谷歌及其他竞争对手（包括开源社区）正加速推出类似服务，而GPU供应紧张可能让OpenAI失去生成式AI领域的领跑地位。

小提示：如果您的企业正在考虑使用OpenAI的API，建议提前评估GPU短缺可能带来的响应延迟或服务不稳定风险，并提前规划备选方案（如本地部署或使用其他AI供应商）。

二、关于“语境窗口”

阿尔特曼在会议上重点提到了“语境窗口”——它决定了输入一条提示词时可以调用的数据数量，以及模型的输出长度。目前大多数GPT-4用户的语境窗口支持8,000个标记（一个标记约等于一个半英文单词）。虽然OpenAI在3月宣布为精选客户提供32,000个标记的语境窗口，但极少用户能用上——阿尔特曼将此归咎于GPU短缺。

哈毕比在博客中写道：GPU荒导致OpenAI无法向大多数客户提供更长语境窗口，而这恰恰是许多开发者急需的功能——比如处理长文档、复杂对话或大量数据分析时，更大的语境窗口能大幅提升效果。

常见问题：
问：为什么语境窗口这么重要？
答：语境窗口越大，模型就能一次性“记住”更多上下文信息，从而生成更连贯、准确的回答。比如处理一本书的摘要或长代码库时，32K标记的窗口远比8K实用。

问：我如何知道自己当前用的是哪个语境窗口？
答：通过OpenAI API调用GPT-4时，可以在请求中指定max_tokens参数，但实际可用窗口受模型版本和账户权限限制。普通用户的默认窗口为8K，需申请才能升级到32K。

三、OpenAI的未来规划

阿尔特曼在会议上分享了清晰的近期及远期目标：

2023年目标

• 提升GPT-4的运行速度并降低成本
• 提供更长的语境窗口（如上所述受GPU制约）
• 推出更便捷的模型微调方法，方便客户针对具体用例调整GPT-4
• 支持ChatGPT保留历史对话记忆，避免用户重复输入相同提示

2024年目标

• 发布GPT-4的图像输入能力（即多模态功能，3月已演示但未开放）

阿尔特曼还澄清了关于“超大规模模型时代结束”的误解。他原意是：GPT-4的规模已足够大，未来模型规模只会增长2~3倍，而非百万倍。但这不代表停止创建更大模型，只是增速放缓。

四、开源与监管立场

在监管方面，阿尔特曼表示：他不认为现有模型带来严重风险，并强调“对现有模型进行监管或禁用将是严重错误”。他重申支持开源AI，并证实OpenAI正在考虑开源某款模型——可能是GPT-3。之所以至今未开源，是因为担心“没有多少个人和公司有能力托管和服务”这种规模的大语言模型。

常见问题：
问：GPT-3开源后，普通人能自己运行吗？
答：很难。GPT-3包含1750亿个参数，即使开源也需要庞大的算力（多块高端GPU）和存储空间，个人几乎无法负担，通常只有大型企业或研究机构才能部署。

五、插件与API策略

关于插件——该功能支持大语言模型调用其他软件。阿尔特曼透露：OpenAI仍在分析Plus用户如何使用插件，且插件尚未达到“产品与市场契合”的程度。因此短期内不会通过API向企业客户发布。这意味着插件仍处于用户测试迭代阶段。

六、外部视角：GPU垄断与开源两极

Signal基金会总裁梅雷迪思·惠特克在评价该事件时指出：尽管OpenAI背靠微软（已投资130亿美元），但GPU仍是其最大约束因素。她警告人们不要误以为开源社区的存在就代表行业格局已民主化——超级昂贵的计算基础设施决定了只有极少数巨头能参与顶级AI竞赛。

同时，开源社区也展示出强大活力：许多创新方法能用更少算力和数据实现接近专有模型的性能。这表明芯片荒可能加速低成本替代技术路线的发展。

小提示：关注开源替代方案（如LLaMA、Alpaca等）的企业，可以更灵活地规避GPU依赖风险，尽管这些方案在性能和功能上仍有差距。

本文由半导体产业纵横（ID:ICVIEWS）转载自相关报道。