记者 任晓宁
先说个最近在大模型圈子里热议的消息——7月7日,DeepSeek和智谱几乎同时被曝出正在自研推理芯片。有消息称,DeepSeek已经与芯片设计公司、晶圆代工厂、存储企业展开接洽;智谱方面,则已向部分国内芯片设计公司进行了初步询问,探讨联合开发专用AI处理器的可能性。
针对这一动态,记者分别向智谱和DeepSeek求证,截至目前,智谱方面未予回应,DeepSeek也未公开发表意见。但该消息本身已在市场上引发了不小的讨论。
两家公司瞄准的都是推理芯片,而非训练芯片。这里简要区分一下:训练芯片的核心任务是让模型学习知识,对计算精度、算力密度、内存带宽的要求极高;而推理芯片的任务是把已经训练好的模型落地应用,更注重低延迟、高能效比和小尺寸。技术方向不同,门槛也截然不同。
那么,为何大模型公司优先选择自研推理芯片?一位头部国产芯片公司的高级工程师给出了两点分析:
第一,难度相对可控。训练芯片对精度要求极高,一旦训练过程中精度崩溃,前期投入的巨额资金和时间就会付诸东流。推理芯片则不同,它是在已有模型权重的基础上运行,即便芯片性能稍弱,最多只是运行较慢、成本略高,不至于满盘皆输,后续仍可逐步优化。
第二,实用性更强。今年Agent(智能体)爆发后,推理需求增长迅猛,国产芯片现阶段的产能已经明显跟不上。如果大模型公司能自研推理芯片,相当于自己弥补了一个关键缺口。
这位工程师也坦言,目前国产大模型厂商普遍面临算力紧张的局面。
实际上,这种紧张程度从用户端就能直观感受到。在社交平台上,智谱的用户经常抱怨新模型报错,或者购买了个人套餐却需要排队、抢不到额度;“DeepSeek崩了”更是屡次登上热搜,有用户统计过,今年以来DeepSeek至少发生了18次宕机。腾讯高管也多次在财报电话会上表示,希望能采购到更多算力卡。火山引擎方面,Seedance模型的API服务同样处于供不应求的状态。
北京市人工智能高级工程师张发恩认为,大模型公司自研芯片,短期内肯定无法完全填补需求的缺口,过渡期内仍需继续买卡、混合使用。但从长远来看,造芯这件事大模型公司非做不可——用自家最先进的AI去打磨最适配的底层硬件,将性能压榨到极致,这条路一旦走通,未来的利润率和生态主动权就有了坚实保障。
OpenAI已经提供了一个现成的参考案例。6月24日,OpenAI联合博通发布了首款定制推理芯片。博通CEO陈福阳表示,这颗芯片在推理任务上的性能可与英伟达Blackwell芯片、谷歌TPU相媲美,而成本却能降低约50%。如此性价比,很难不让人心动。
不过,那位头部芯片公司的高级工程师也提醒,国内大模型公司自研芯片能否持续、能否成功,存在不小的不确定性。自研芯片是一项高投入、长周期的业务,而国内大模型公司的收入水平与OpenAI相比,差距依然显著。
再看国内已拥有成熟产品的芯片厂商,无论是互联网大厂还是独立芯片公司,都是经过多年布局才取得今天的成果。百度昆仑芯从2011年起步,至今已有15年;阿里巴巴平头哥从2018年开始布局,也已走过约8年;寒武纪、燧原科技、天数智芯、壁仞科技等独立芯片公司,同样持续投入7年以上,才实现了规模化部署。
前车之鉴也并非没有。OPPO旗下的哲库(ZEKU)在2024年关停,3000多人的团队就地解散。京东去年高薪招募芯片人才,结果不到半年,今年4月就被曝出公司主体发生变更。芯片这条路,并非光有决心和资金就能走得通的。
