如果要找一个海内外大模型商业化探索中最鲜明的差异点，一体机这个赛道绝对绕不过去。

看看海外，微软、谷歌、OpenAI这些巨头，主攻方向还是基于云的AI服务和API接口。当然硬件也有，比如英伟达的Jetson，面向边缘计算和AI应用，可以在边缘场景里跑复杂的模型，但它更多是个通用的AI计算平台，而不是那种集成了特定大模型的一体机。

反观国内市场，大模型一体机的热度简直不是一个量级。主流的AI大模型厂商、ICT服务商、ISV服务商，几乎全都下场了。

厂家名单可以拉出一长串：AI大模型阵营里，有百度的千帆大模型一体机、科大讯飞的星火一体机、智谱AI的智谱GLM昇腾大模型一体机。ICT厂商和ISV们也毫不示弱，纷纷推出各种场景化一体机，比如新华三面向政企客户的AIGC灵犀一体机，达观数据的“曹植”大模型一体机，商汤科技的金融大模型检索问答一体机，中软国际面向政府市场的JointPilot“四问”系列等等。

大模型一体机，确实是个很有意思的赛道。

有人说，这东西更符合国情，本质上就是“卖盒子”——软硬结合，把软件打包进硬件盒子一起卖给客户。这一套在ToB/ToG市场特别好使，因为很多“拍板领导”更能理解看得见摸得着的硬资产，对纯软件的价值反而不太认账。

把计算硬件、AI大模型和配套支持软件紧耦合地封装在一起，让客户能方便地用大模型开发AI应用——这种AI版的“卖盒子”，究竟是不是一门好生意？

一体机里，除了大模型还有什么？

首先得搞清楚，大模型一体机到底在卖什么？市面上主流的一体机，主要由这几个部分构成：

第一，硬件。大模型训练和推理，对算力的需求是巨大的，必须依赖高性能AI硬件。大模型一体机会搭载这些硬件，并针对模型进行深度优化调校。尤其是国产芯片，有数据显示，经过优化后性能能提升20%-30%，吞吐量提升6-7倍。所以，一体机在算效上确实有优势。

第二，大模型。满足客户使用大模型、开发AI应用的核心需求。不同的一体机内置的大模型也各有门道。一种走的是单一模型路线，比如软通动力联合百川智能推出的“软通-百川AI大模型一体机”，预装的就是百川大模型。另一种则是开源开放路线，提供丰富的基座模型让企业去测试、调用，像百度的千帆大模型一体机，除了自家文心大模型，还提供了Llama、Baichuan、ChatGLM等十几个主流开源模型供选择。

第三，全栈工具。通用大模型要直接用到垂直场景里，几乎是不可能的。很多行业连高质量的语料都没建好，知识经验没文本化、数据化，大模型根本学不到位。企业想用好大模型，得有工程师跟进数据治理、建行业语料库和知识库、打磨提示词工程、开发对业务友好的插件……从零开始搭建全栈AI开发能力，工程量不小。而大模型一体机的好处是，它针对垂直场景做过优化微调，集成了易用的平台化工具，能把原本几个月的开发周期缩短到几天甚至几小时，实现特定行业专属大模型的快速部署。

第四，支持服务。大模型不是传统软件，它需要持续学习，要根据人类反馈和数据集不断更新迭代，时效性很强。这要求服务商能更快、更有针对性地响应。而作为整体解决方案的一体机，本身就包含了相应的技术支持和配套服务，能帮企业解决长期应用大模型过程中的各种问题。

不难看出，相比单纯卖AI服务和API，开箱即用的一体机能缩短部署周期、深度贴合场景、直接拉低落地门槛。对当下的产业现状来说，这确实是个更务实的选择，也能让更多企业更快地用上大模型。

大模型一体机，不等于传统盒子

国内企业纷纷推出一体机的时候，笔者关注到的一个行业交流群里，有人说了句很直白的话：“国内就是软件不值钱，硬件值钱。”

在圈子里，一直有种根深蒂固的观念：卖服务和解决方案的商业模式，比“卖盒子”要高级。

特别是在传统企业软件和云计算领域，“卖盒子”常被认为是市场不够成熟时不得已的选择。以前很多甲方领导不了解软件技术，觉得硬件才更有科技含量。而在销售端，卖盒子壁垒不高，拼的不是产品创新，而是客情关系和酒量。商业回报上，它涉及定制成本和人力维护成本，不像纯软件那样能通过规模化实现非线性增长，干的都是苦活累活。

既然大模型一体机本质上也是把软件和硬件集成在一起，作为一个整体产品卖出去——那这种商业模式到底好不好？

这里需要明确一点：虽然都是软硬件集成销售，但此一时彼一时，大模型一体机和传统“卖盒子”模式，画不上等号。

先从需求驱动力来看。今天购买一体机的客户，绝非“不懂大模型”的门外汉。

过去觉得“卖盒子”比“卖软件服务”低级，很大程度上是因为ToB市场很多客户不懂软件，不明白为什么一张license要卖那么贵，非要封装到“盒子”里才肯买单。但今时今日，随着数字化、智能化的深入，各行各业的企业决策者，很少有人不认可大模型的价值，也没人轻视数据工程、知识工程这些“软实力”对AI落地的意义。恰恰相反，大模型一体机市场的崛起，正是因为市场对应用大模型、开发专属大模型的需求极其迫切。

如果说以前的“卖盒子”有点买椟还珠的味道，那现在，一体机里这颗“大模型”的明珠在企业市场中的认可度，是毋庸置疑的。

除了“软实力”的价值被广泛认可，大模型一体机在硬件上也变得更加多元、灵活。

“卖盒子”过去的另一个问题是，客户为了把硬件作为企业资产来估价，往往导致硬件过度堆砌、脱离业务实际。显然，现在的一体机市场不是这个走向。

可以看到，大模型一体机的供应商普遍会提供多种部署方案：有低成本的轻量级一体机，也有针对大中型客户的高配定制化方案，堪称“中杯、大杯、超大杯”。企业完全可以根据自身业务场景的实际需求来挑选最合适的硬件版本，没必要在硬件资源上做过度投入。

“不是高配一体机买不起，而是轻量一体机更有性价比。”价值导向、实用导向，这才是驱动当下大模型一体机市场的核心逻辑。它拼的主要是产品力，在供给和销售策略上也更合理、更市场化。

还有一点值得聊一聊。“卖盒子”曾被解读为迎合了中国企业缺乏“安全感”的心理，去搞（可能没太大必要的）私有化本地部署。那支持本地部署、强调数据隔离与安全保障的大模型一体机，到底有没有必要？

相信对大模型技术有所了解的读者，都会很快给出判断：很有必要。

大模型不同于传统软件，训练和推理都涉及大量敏感隐私数据，而且还有“幻觉”问题，对数据监管和内容安全的担忧并非杞人忧天。而大模型一体机的本地私有化部署，能帮助企业在数据隔离、网络隔离上做到位，减少数据传输和存储过程中的风险，确保数据资产的安全。如果不打消这些客观存在的安全顾虑，大模型很难真正落地到“最后一公里”。

所以说，大模型一体机和传统“卖盒子”根本不是一回事，它是从复杂产业实际出发做出的务实选择。

大模型一体机，到底谁在用？

当然，大模型一体机有用，不代表每个开发者、每家企业都适合。

相比一台一体机少则几万、多则几十万的前期投入成本，按API调用次数或算力资源计费的方式，一个token只要几分钱，起步成本要低得多。那么问题来了：这大模型一体机到底是谁在用？

以下三类群体，应该认真把一体机方案纳入重点考量：

第一类，风险敏感型。

担心的风险主要有两个：一是数据隐私安全，二是供应链断链风险。软硬件协同优化的一体机，能让AI大模型在国产硬件上跑出不错的性能。对有信创需求的企事业单位来说，这显然是更优解。公开报道显示，基于昇腾AI硬件底座的软通AI训推一体化平台，在央国企、科技机构、教育、金融等领域颇有认可度。

第二类，长期运营型。

有开发者朋友在调用了GPT-4 Turbo之后大呼“太烧钱了”。他那边非代码调用场景，一次就要花0.5元，长期用根本扛不住，最后只能降级用GPT-3.5加其他模型的“组合拳”。大模型API按token用量计费，初期看着成本低，但总体拥有成本（TCO）可不一定低。实际来看，企业应用AI，并不意味着所有任务都要调用云端最强模型的完整能力。而大模型一体机能提供更丰富的模型选择、本地化部署和优化后的性能保障，帮企业在AI开发应用的全生命周期里打好“组合拳”。

第三类，非AI原生型。

大模型爆火之后，很多行业和机构才开始关注AI、使用AI，缺乏相关的开发能力和人才储备，对技术也是一知半解。这时候想在自身业务场景中快速上马大模型，很可能会碰到短期资源紧缺的溢价情况，不得不在算力市场、人才市场上竞价，试错成本非常高。而通过大模型一体机的小时级一站式交付、即插即用，可以快速试错。比如一个普惠版的一体机，不需要A100这类高端显卡，就能帮企业打造一个专属大模型，开发出小型知识库应用或AIGC应用，让业务先跑起来，让大模型不再遥远。

大模型的商业化探索还处于早期，用过去的思维定式去看待新事物，多少有点刻舟求剑。大模型不一定要捆绑硬件来凸显价值，但它确实需要通过硬件来充分释放价值。从这个角度看，大模型一体机的商业内核，和以往的“卖盒子”已经有了本质区别，或许能为企业市场带来一种全新的商业机遇。