在万象智维的会议室里，市面上主流的AI硬件产品一字排开。CEO王拓为向《智能涌现》表示，团队最近一直在反复讨论：一款真正有价值的AI硬件，究竟应该被设计成什么样的产品形态。

这是一支偏软件基因的团队，但在过去一年里不断调整方向，最终明确了核心路线：聚焦端侧AI的软件基础设施，以及端侧智能计算硬件。

具体来看，面向B端市场，他们推出了一款名为OmniInfer的推理引擎，填补了当前市场上面向端侧SoC芯片推理引擎的空白。SoC芯片是一种高度集成的单芯片系统，广泛应用于手机、耳机、手表、智能眼镜、机器人等终端设备。为了让云侧模型与端侧模型实现更高效的协同，万象智维还发布了端侧任务执行框架OmniClaw。

最近，万象智维又进一步向前，在C端消费级市场推出了一款面向个人用户的端侧智算设备。它并不是手机的附属功能，而是一块独立硬件，外观有些类似可磁吸在手机背部的AI录音卡。这样的设计价值非常直接：既不占用手机本身的算力资源，又能把大模型部署在端侧；同时，它还可以作为用户持续沉淀上下文、独立执行任务的移动智能终端。

万象智维（Omnimind）创立于2025年5月，依托清华大学泛在智能实验室（THU OmniLab）孵化成立，核心团队成员来自清华、北大、上海交大，以及腾讯、阿里、字节等高校和企业。加上实习生，万象智维团队目前约30人，其中超过一半成员从事研发工作。

创始人兼CEO王拓为目前是清华大学计算机系在读博士生，公司发起人任炬为清华大学计算机系副教授、教育部长江学者特聘教授。

《智能涌现》获悉，近日，万象智维已完成数千万元天使+轮融资，由韶音领投，瀚晖投资、知行资本、宝尔爱迪跟投，源合、浪潮担任财务顾问。去年年底，他们还完成了一轮由星连资本领投的千万元天使轮融资。

王拓为认为，云侧AI属于AI发展的上半场，核心任务是探索智能能力的上限；而端侧AI则是AI进入下半场的关键，重点在于推动AI能力真正全面落地。

在端侧部署模型的优势，首先体现在Token成本上。与纯云侧调用大模型相比，端云协同在保证能力与纯云方案对齐的同时，可以显著降低Token成本。适合在端侧完成的任务，例如本地信息整理和持续学习过程，无需云端参与；只有在端侧模型无法完成部分复杂任务时，系统才会调用云端模型处理更高难度的任务。

除此之外，端侧AI在隐私保护、实时响应和存储成本方面也具有天然优势。本地计算意味着数据无需离开设备，用户不必把自己的文件、对话和行为数据持续同步到云端。其他端侧设备，如球场摄像头、工业对讲机等，即便处于弱网甚至离线环境下，也能完成部分实时处理任务。

“做端侧AI，我们并不想过度追求模型智能上限，而是更关注如何让模型在设备上运行得更持久、更稳定、更高效。长期来看，端侧AI最大的价值不只是隐私保护或节省Token成本，而是让AI真正具备持续学习和长期记忆能力，最终成为一个可以长期陪伴用户的智能助手。”王拓为告诉我们。

从手机市场，转向更广阔的SoC端侧市场

2025年底，字节跳动与中兴联合推出第一代豆包手机，成为端侧AI加速进入手机终端的重要行业信号。此后，各大手机厂商陆续加大AI能力建设投入，一方面强化自研，另一方面积极寻求与模型厂商和技术服务商合作。

随着网信办公布7款手机端侧AI产品的监管落地，AI手机也正式纳入合规框架。随后，第二代豆包手机、阶跃星辰STEPX Neo等打出“全球首款智能体手机”概念的终端产品也陆续亮相。

事实上，万象智维并不是这条赛道的旁观者。团队在手机侧AI领域具备扎实的技术基础，长期积累了端侧模型推理、系统Infra以及Agent等底层能力。

2025年12月，万象智维推出首款产品“小万App”，这是一个完全免费、可本地运行的Android Agent。用户只需安装App，就能够完成点外卖、打车等跨应用操作，这也验证了他们在消费级手机上实现系统级Agent的技术能力。

在推出小万之前，万象智维曾与几乎所有主流手机品牌进行交流，希望依托自身在端侧Agent上的技术积累，为手机厂商提供从底层Infra到上层Agent的完整解决方案。

不过，对于手机厂商而言，AI Agent正在成为下一代操作系统级必须具备的核心能力，因此很难通过整体采购一套外部完整方案来实现。在与几乎所有手机厂商品牌沟通后，他们得到的反馈基本一致：行业对万象智维的技术能力高度认可，也愿意在部分具体模块和技术方向上合作，但这并不是一套长期可行的商业路径。

随后，小万App整套技术在Github上开源，项目名为OmniBot，累计获得超过2000个GitHub Stars，并多次登上GitHub Trending榜首。这也让万象智维率先收获了一批真实用户的积极反馈。

王拓为意识到，团队没有必要把商业模式单纯绑定在手机厂商身上。于是，绕开手机市场后，他们发现自己可以在更广泛的端侧设备品类中提供技术服务。

现有推理引擎要么是为云侧CPU/GPU架构设计，要么面向桌面级大型一体机，真正针对端侧SoC芯片优化的引擎在市场上仍然是空白。因此，万象智维推出了能够覆盖各类端侧SoC设备的infra基座OmniInfer。“端侧的异构性非常复杂，不同品类的终端设备，甚至同一品类不同型号的终端设备，对Infra的要求都不一样。”王拓为说。

OmniInfer的核心目标，是让大模型在端侧SoC芯片上以最小资源开销实现最快推理速度。它主要解决了两个关键痛点：

一是计算资源不足。大模型每次推理并不需要激活全部参数，OmniInfer会根据请求动态选择最重要的参数参与计算，再将精简后的工作负载灵活分配给CPU、GPU、NPU协同处理。

二是内存资源紧张。端侧SoC的存储通常分为两层：内存速度快但容量小，外存速度慢但容量大。OmniInfer的方案是将部分数据先卸载到外存，在需要时再搬回，同时通过计算与数据搬运重叠、外存数据排布优化等方式缩短等待时间。

从实际表现来看，搭载OmniInfer后，在客户同一台设备上，原本只能部署10B以下模型，其上限可提升到30B模型。不仅如此，模型Prefill（预填充）速度最高提升接近15倍，Decode（解码）性能最高提升2.49倍，同时内存节省接近一半。在端侧设备上运行Qwen3.5 9B这类大模型时，其推理内存占用可压缩到3GB以下。

端侧AI的潜力，不仅体现在模型部署能力上。在持续运行之后，它还能够逐步具备持续学习的能力。

王拓为介绍，持续学习通常有两种路径：一种是把本地数据以提示词形式输入模型，但由于端侧模型本身上下文窗口较小，这种方法效果有限；另一种是做周期性微调，将端侧数据训练到模型参数中，但这种方式需要额外算力，通常要在云端完成周期性微调，端侧数据也会离开设备，因此并不算真正意义上的端侧持续学习。

为此，万象智维研究出了一套新的端侧微调算法。在周期性微调的基础上，他们对用户交互数据进行大量前向推理，每次只针对性微调一个极小参数模块，约为1%-2%的LoRA参数量。最终效果可接近传统微调，但每一步成本仅达到推理级别，在显著降低成本的同时，整个过程中模型和数据都无需出端。

在OmniInfer之上，万象智维构建了第二层技术基座，名为OmniClaw。这是一套专门面向端侧小模型设计的Harness。当前主流Harness，如Claude Code等，几乎完全围绕云侧大模型构建，如果直接调用端侧小模型，任务往往很难顺利跑起来。

OmniClaw则从工具调用、接口调度、推理过程中的引导与重试机制等方面，为小模型重新进行了系统设计，并内置了一套端云协同的智能路由体系。端侧可以独立完成的任务就在本地执行，复杂任务则自动引入云侧模型参与，在保证任务能力上限与纯云方案对齐的同时，还能大幅降低Token成本。

OmniInfer和OmniClaw构成了万象智维的技术底座。基于此，他们推出了OmniStudio一站式端侧模型部署平台，作为直接面向To B客户的产品。该平台适配Windows、Mac、Linux、iOS和安卓操作系统，并与底层硬件深度协同，落地场景覆盖手机、电脑、智能家居、AI玩具、机器人等。

补上自研终端这一块拼图，探索端侧智能上限

端侧智能这个概念在业内已经被讨论了很长时间，但无论是手机厂商、硬件终端厂商还是模型厂商，真正围绕端侧AI系统性推进的并不多。王拓为告诉我们，他们并不满足于只是在端侧简单部署小参数模型，或者单纯调用云端模型能力，而是希望真正通过技术实现端侧AI，并让用户切实体验到端侧AI的独特价值。

基于自身系统性的端侧Infra能力，万象智维正在推进自有硬件产品研发，一款类似录音卡形态的端侧AI硬件设备——Taste。

在他们看来，手机并不是端侧AI落地的最佳场景。一方面，消费者经常更换不同手机，用户上下文难以迁移；另一方面，不同品牌手机的生态相对封闭且互斥。做一款独立硬件的好处在于，它既是一个能够直接触达消费者的消费级产品，也不再受制于复杂的操作系统权限限制。

王拓为透露，Taste定位于面向未来个人智能交互的新型终端，目前已完成首轮样机研发与生产验证，并围绕软硬件协同以及AI应用场景持续迭代。从形态来看，这款硬件的尺寸大致与卡片相近，可磁吸附着在手机背板上，内置独立SoC芯片、麦克风、扬声器和一小块电子屏，同时配备独立电源和录音功能。

△万象智维正在研发的端侧智能硬件Demo，图源：企业提供

万象智维希望Taste最终能够成为用户个人上下文存储的Memory设备。依托团队自研的端侧微调算法OmniTune，它可以在白天跟随用户正常使用，夜间利用空闲算力完成自学习，将白天的交互内容逐步内化到模型参数中。为此，万象智维会在每一台设备上部署一个用户独立的LoRA，并随着用户数据不断积累持续调整LoRA参数，从而实现真正的持续学习。久而久之，每位用户都将拥有一个权重独特、专属于自己的个性化模型。

节省Token只是端侧智能的起点，但绝不会是终点。“端侧成本这件事，不会成为大家永久的痛点。”王拓为说，一个长期积累个性化上下文的产品，天然会形成自己的护城河——成为用户身边一个能够持续学习、真正个性化的AI助手。

“端侧真正不可替代的价值在于时间。我们希望运行的模型不一定特别大，但一个设备如果长期带有你的独立上下文，经过持续积累和不断学习，逐渐内化成一个真正懂你的专属模型，这种时间成本很难被纯技术手段跨越。”

选择SoC芯片而不是桌面级架构，是Taste设计中的关键决策之一。这也是万象智维所看到的未来趋势：端侧设备将大规模拥抱SoC芯片。对市场来说，桌面级架构与移动端架构本身就是两种完全不同的设计逻辑。

许多端侧设备，例如PC、AI Nas等，其芯片结构大多是围绕高算力、高功耗设计的。尽管不少团队仍在讨论算力不足的问题，但一个很明显的事实是，桌面级算力本身已经足够强大。

而端侧SoC芯片的设计重点则不同。首先是功耗，移动供电场景决定了端侧SoC芯片厂商必须在功耗层面做大量优化；其次是在兼顾功耗与散热平衡的前提下，尽可能叠加更高算力。因此，围绕SoC芯片展开的端侧AI市场，依然存在大量可挖掘的机会。

今年5月，万象智维正式启动商业化。目前，公司已率先跑通B端商业模式，依托自身技术研发能力与工程落地经验，为企业客户提供端侧AI技术与产品服务，并已签下多个百万级订单，预计全年累计订单额将达到千万元级别。在B端商业化初步得到验证的同时，万象智维也在逐步拓展C端消费级市场，探索更具规模化潜力的产品形态与商业模式。

面向B端，万象智维希望从定制化服务逐步走向标准化产品。对于PC、智能终端等厂商，万象智维采用NRE+License商业模式，通过NRE（非重复性工程费用）覆盖前期定制开发和适配成本，并基于产品规模化应用持续收取License费用。同时，他们也在与产业伙伴联合推出智能化产品和行业解决方案。C端商业化则主要来自Taste这款硬件产品的一次性销售收入以及相关软件订阅服务，预计将在明年正式量产后逐步实现。

AI硬件究竟能够实现怎样的功能，目前行业里还没有人能给出一个确定答案。

面向端侧便携式计算，这条赛道接下来很可能会跑出具有独立形态的产品：它们可以直接接收用户输入，并把任务完整执行；当然，也不排除与其他设备打通协作，通过联动共同完成任务。至于未来究竟会演化成哪种实现方式，变量仍然很多，但万象智维的目标始终很明确：先稳稳占住这个生态位，并持续留在行业第一梯队，第一时间跟进端侧AI和AI硬件领域的最新进展。