一家专注于AI领域的初创企业,如何让大模型在销售场景中真正落地并高效运行?达瓦科技的答案是:围绕NVIDIA DGX Spark构建完整工程体系,将大模型推理从实验室环境推向真实的商业战场。
先了解这家公司的背景。作为NVIDIA初创加速计划的成员之一,达瓦科技深耕大模型开发与影视工业化,致力于帮助客户实现内容工业化与客户运营效率提升。其核心产品DealCat(成交猫)是一款基于大模型的智能销售辅助机器人平台,覆盖从客户触达、智能对话、意向识别、跟进提醒到内容输出的完整销售链路。
随着企业客户规模持续扩大,平台面临的挑战日益严峻:同时管理大量机器人实例,在高并发场景下实时完成多轮AI对话推理、长期记忆检索以及复杂工具调用——传统CPU服务器在推理延迟和并发吞吐方面已明显力不从心。
具体而言,DealCat在实际运营中遭遇多个关键瓶颈:实时推理延迟偏高、高并发场景下算力不足、记忆与知识检索的计算压力巨大、多模型及多工具协同的复杂度,以及自主执行工程治理的难度。这些问题绝非小事,任何一个环节出现短板,都会直接影响销售场景中的用户体验。
解决方案是将大语言模型推理服务部署于NVIDIA DGX Spark。借助其强大的Blackwell GPU算力,同时围绕模型构建完整的Harness Engineering工程体系,大幅提升模型推理速度与系统并发能力。如此一来,智能销售辅助机器人在海量销售会话场景中,能够保持低延迟、稳定可信的运行,为企业客户带来更流畅、更智能的体验。
达瓦科技创始人卢琪对此有一段直白的判断:“AI营销正在经历一场深刻变革,谁能率先让大模型真正跑通销售全链路,谁就掌握了下一个时代的竞争主动权。NVIDIA DGX Spark为我们提供了坚实的算力底座,让DealCat基于自进化架构的智能销售辅助机器人能够在高并发、低延迟的真实业务场景中稳定可信运行。我们相信,AI不只是效率工具,更是每一家企业的新型销售基础设施。”
说到底,这并非简单的技术选型问题,而是如何将大模型的“算力”与“工程”两件事真正融合在一起。对于正在探索AI落地路径的企业而言,达瓦科技的做法或许提供了值得参考的样本。
