2024年世界移动通信大会(MWC 2024)上,前沿通信技术与生成式AI的深度融合,成为展会最受瞩目的焦点。联发科在现场首次展示了基于Meta Llama 2的端侧生成式AI应用——在天玑9300和8300芯片的独立AI处理器APU硬件加速下,手机可直接在本地完成文章生成与摘要提炼,这一突破性表现确实令人印象深刻。

不仅如此,联发科还带来了支持SDXL Turbo的文本到图像生成引擎、Diffusion视频生成技术,以及端侧生成式AI技能扩充(LoRA Fusion)等一系列创新成果。简单来说,生成式AI正在加速“下沉”,从云端走向终端设备。

相比云端AI,端侧AI的优势十分明显:隐私安全有保障、无需持续联网、响应延迟低。而手机本身具备的移动便携性、个人专属化属性、多模态感知能力以及通信计算能力,使其天然成为端侧AI的最佳载体。那么,决定手机端侧AI能力上限的关键因素是什么?答案很明确——移动芯片的生成式AI处理能力。
作为边缘端侧AI领域的先行者,联发科很早就开始布局端侧生成式AI技术,尤其在芯片算力方面投入了大量研发精力。天玑9300旗舰芯片搭载的独立AI处理器APU,拥有业界领先的移动端AI算力,配合AI开发平台NeuroPilot构建的完整生态,使其成为最早一批支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川、vivo蓝心大模型BlueLM、OPPO AndesGPT等全球主流大模型的移动平台。
早在去年,联发科便与百度启动了飞桨和文心大模型的硬件生态共创计划,共同推动硬件平台与大模型深度适配。

联发科还利用Meta的Llama 2,结合自研APU和NeuroPilot平台,构建了完整的端侧AI计算生态,覆盖智能手机、物联网、汽车、智能家居等多个场景。经过全面适配优化,天玑9300和8300已能流畅运行70亿参数的Llama 2大模型。

近期,联发科又宣布天玑9300和8300已针对Google Gemini Nano大语言模型完成芯片和算法适配,并计划与Google联手推出专用APK,帮助开发者和OEM厂商快速部署Gemini Nano应用,加速端侧AI落地进程。

与手机厂商的深度合作同样在持续推进。联发科携手vivo,在vivo X100系列上成功落地端侧70亿参数大语言模型,甚至在实验环境中跑通了130亿参数模型。在天玑9300的算力加持下,用户能够体验到vivo AI蓝心大模型的超能语义搜索、超能问答、超能写作、超能创图、超能智慧交互等一系列实用功能。

与OPPO的合作同样值得关注——双方共建轻量化大模型端侧部署方案,共同推动“AI手机”新时代的到来。天玑9300的生成式AI能力让OPPO AndesGPT大语言模型性能更优、响应速度更快,OPPO Find X7在AI-Benchmark排行榜上拿下业界第一的AI性能成绩,并带来了AIGC消除、AI通话摘要等实用功能。

联发科天玑9300和8300对全球主流大模型的广泛支持,不仅推动了端侧AI生态的完善与创新,也为手机厂商的生成式AI技术出海铺平了道路,让“AI手机”惠及更多用户。

具体到技术细节,天玑9300集成的第七代AI处理器APU 790,在性能与能效上实现了大幅提升,生成式AI处理速度达到上一代的8倍,1秒内即可生成一张图片。配合混合精度INT4量化技术和内存硬件压缩技术,最高可支持终端运行330亿参数的AI大语言模型。APU 790还支持端侧“技能扩充”技术NeuroPilot Fusion,利用LoRA技术让基础大模型更加全面,满足个性化体验需求。天玑8300则在同级产品中率先支持生成式AI,至高支持100亿参数大模型,加速端侧AI向主流市场普及。

回顾来看,联发科正从芯片架构革新、软硬件协同以及生态创新三个维度,全力推动端侧AI能力的进化与普及。可以确定的是,在全生态系统的共同努力下,一个全新的移动“智能体”时代正在加速到来——那些科幻电影里的全场景智慧生活,正在一步步变成现实。
