华为CANN闪绘画:实现AI端侧大模型落地突破

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
11月10日,华为麒麟官方公众号发布最新动态,宣布基于CANN(神经网络计算架构)的端云协同框架所开发的PC端AI闪绘功能正式上线。这一技术成果标志着大模型在终端设备上的应用迈入全新发展阶段。
AI闪绘依托扩散模型技术实现图像生成,不仅能将用户提供的原始图片与文字提示智能结合,还能根据创作意图生成符合预期的全新画面。该功能由华为CANN团队携手生态合作伙伴悟空图像共同打造,聚焦于将SDXL(Stable Diffusion XL)模型部署在终端设备本地运行,成功攻克了模型压缩、多风格适配与算子优化等关键技术壁垒。
在终端侧部署大模型需要突破三大核心难题:首先是模型参数量过大,部分模型参数高达数十亿甚至上百亿,对设备内存造成巨大压力;其次是推理延迟较高,受限于终端算力,复杂模型难以实现快速响应;此外,传统方案往往存在生成风格单一的问题,难以满足用户多样化的创作需求。
为应对这些挑战,CANN团队创新性地提出"瘦身-加速-灵活"一体化的技术方案。依托CANN在端侧与云端一致的异构计算架构及其内置的量化能力,研发团队采用混合精度量化技术,在保持模型原有精度水平的同时,大幅压缩了SDXL模型的体积。这一优化不仅有效减少了模型在终端设备上的存储占用,还显著降低了推理过程中的内存带宽消耗。
目前,该技术方案已在搭载麒麟芯片的NPU上完成验证,实现了大模型在终端侧的高效运行,为后续更多AI功能的本地化部署奠定了坚实基础。
热门专题
热门推荐
清明节假期期间,A 股和港股休市,但比特币行情永不停歇。 4月6日,当多数市场还在假期中沉睡时,比特币已经悄然启动。价格从亚洲早盘的低点67400美元出发,一路向上试探,盘中最高涨破70300美元,不仅刷新了3月26日以来的高位,较日内低点的涨幅也超过了4%。以太坊的表现同样不俗,从2050美元附近
4月5日消息,日前,REDMI K90至尊版通过3C认证,预计将于本月发布。今日,小米中国区市场部总经理魏思琪用小米新机发布微博,不出意外,这正是即将登场的REDMI K90至尊版,这将是小米首款配
WPS演示中图表不随数据更新时,可通过四种方法实现自动同步:一、用OFFSET+COUNTA定义动态名称绑定图表;二、用组合框控件联动VLOOKUP提取数据;三、用数据透视图配合切
聚焦数字技术,释放创新动能。为集中展示静安区区块链技术从“实验室”走向“应用场”的丰硕成果,挖掘一批可复制、可推广的行业解决方案,加速构建区块链产业生态闭环,静安区数据局特推出“静安区区块链创新应用
太空中的马桶堵了,边飞边修还能勉强用。但中东被点燃的火药桶,美国怎么来扑灭?靠一再延期的“最后通牒”?还是靠无底线的轰炸?2300万美元的马桶美国航空航天局4名宇航员1日搭乘“猎户座”飞船升空,执行





