首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
腾讯混元0.3B小模型发布:端侧推理内存仅占600M

腾讯混元0.3B小模型发布:端侧推理内存仅占600M

热心网友
70
转载
2026-02-10

2月10日,腾讯混元宣布正式推出一款面向消费级硬件场景的“极小”模型HY-1.8B-2Bit,其等效参数量仅为0.3B,内存占用低至600MB。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

据介绍,该模型通过对腾讯混元此前的小尺寸语言模型——HY-1.8B-Instruct进行2比特量化感知训练(QAT)产出。对比原始精度模型,新模型的等效参数量降低了6倍,在继承原模型全思考能力的同时,于真实端侧设备上对比原始精度模型的生成速度提升了2到3倍,能够显著提升使用体验。此次腾讯混元推出的HY-1.8B-2Bit模型,可在边缘设备上实现无压力部署。这也是业内首个实现2bit产业化量级的端侧模型实践。

随着大语言模型日益普及,如何将模型在手机、耳机或智能家居等设备上有效应用,成为行业面临的实际挑战。尤其在许多应用场景中,对模型的离线部署能力、隐私保护性等都提出了更高要求,这就需要更多能够在端侧运行、既小巧又强大的模型来支撑。

腾讯混元表示,端侧部署的展开,本质上是一条追求“小而精,快而准”的艰难探索之路。我们既需要模型足够聪明,以应对千变万化的现实需求,又必须将其约束在极其有限的硬件资源内进行部署和快速推理,这就像是在为模型进行一场“减脂增肌、减重提质”的精益工程。

来源:https://www.163.com/dy/article/KLDFS02R0550WHYR.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

腾讯汤道生:混元3.0发布引领AI应用向智能体模式迁移
科技数码
腾讯汤道生:混元3.0发布引领AI应用向智能体模式迁移

3月27日,2026腾讯云城市峰会首站落地上海。现场,腾讯云发布了Agent产品全景图,已推出面向个人、企业和开发者的多款Agent产品,并宣布即将发布混元3 0。值得一提的是,腾讯集团高级执行副总

热心网友
03.28
DeepSeek-V4与姚顺雨大模型联袂发布,下月震撼登场
AI
DeepSeek-V4与姚顺雨大模型联袂发布,下月震撼登场

新智元报道编辑:艾伦【新智元导读】3 月 12 日,据《白鲸实验室》独家爆料,DeepSeek V4 和姚顺雨领衔操刀的混元新模型,均预计将于下个月(2026 年 4 月)发布。3 月 11 日,O

热心网友
03.15
腾讯混元强化学习框架详解:如何精调世界模型
科技数码
腾讯混元强化学习框架详解:如何精调世界模型

新京报贝壳财经讯(记者韦英姿)3月10日,腾讯混元3D团队宣布开源业界首个面向世界模型的强化学习后训练框架WorldCompass。腾讯混元3D团队表示,这是此前发布的混元世界模型1 5 最新强化学

热心网友
03.10
腾讯云在德国法兰克福新增可用区,混元3D正式落地欧洲
科技数码
腾讯云在德国法兰克福新增可用区,混元3D正式落地欧洲

3月3日,澎湃新闻记者获悉,2026世界移动通信大会(MWC)期间,腾讯云宣布将在德国法兰克福新增一个云可用区。随着腾讯混元3D大模型和腾讯云音视频、刷掌(掌纹识别)等技术在海外的加速应用,此举也将

热心网友
03.03
腾讯云一站式AI漫画解决方案:双引擎驱动AIGC创作提效
业界动态
腾讯云一站式AI漫画解决方案:双引擎驱动AIGC创作提效

随着2025年“漫剧”市场迎来史诗级爆发,内容消费需求呈指数级增长。近日,腾讯云联合DataEyeL!NK在深圳南山举办AI漫剧生态交流会,并推出一站式AI漫剧解决方案。该方案深度融合了腾讯云领先的

热心网友
02.10

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

5月11日午间重要动态:Web3市场行情与政策更新速览
web3.0
5月11日午间重要动态:Web3市场行情与政策更新速览

上午的市场动态,总是带着一种特别的节奏。今天也不例外,从东京到首尔,再到硅谷和华盛顿,一系列消息勾勒出全球科技与金融领域的最新轮廓。我们不妨快速浏览一下这些关键信息。 7:00-12:00 关键动态梳理 首先来看产业布局。软银,这家以愿景基金闻名遐迩的投资巨头,如今正将目光投向人工智能的基础设施深处

热心网友
05.11
软银投资AI数据中心电池 大规模储能方案解析
web3.0
软银投资AI数据中心电池 大规模储能方案解析

```html AI算力竞赛引爆能源危机,软银跨界储能剑指电力瓶颈 全球人工智能的军备竞赛正进入白热化阶段,然而,在这场围绕算法与模型的角逐背后,一个更为根本的制约因素正浮出水面:电力。当科技巨头们竞相部署参数规模惊人的大模型时,其对稳定、巨量且可持续电力的需求,已从后台支撑跃升为决定未来发展上限的

热心网友
05.11
币安语言切换指南:按钮位置与术语翻译详解
web3.0
币安语言切换指南:按钮位置与术语翻译详解

本文针对不熟悉Binance平台语言切换的用户,详细介绍了在网页端和移动端App上找到语言设置按钮的具体路径。同时,提供了交易界面、资产页面及订单类型中常见关键术语的中英文对照翻译,帮助用户跨越语言障碍,更顺畅地使用平台进行数字资产管理和交易操作。

热心网友
05.11
SUI质押量超1亿枚 全链网持仓价值与质押收益解析
web3.0
SUI质押量超1亿枚 全链网持仓价值与质押收益解析

Sui生态质押新动态:机构巨鲸持有超1亿枚SUI并深度参与质押 近期,Sui生态内一则来自SUI Group的官方公告引发了市场广泛关注。该公告披露,截至5月4日,SUI Group持有的SUI代币总量已高达1 087亿枚。尤为关键的是,这笔巨额资产中的绝大部分并未处于闲置状态,而是已积极投入Sui

热心网友
05.11
三星Z Flip5恢复出厂设置后系统版本会降级吗
电脑教程
三星Z Flip5恢复出厂设置后系统版本会降级吗

三星Z Flip5恢复出厂设置后,系统版本会不会变?这是很多用户在操作前都会有的疑问。简单来说:不会。这个操作只会清除你的个人数据、应用设置和自定义项,而手机底层的系统版本、预装应用和安全补丁等核心内容,都存储在独立的只读分区里,恢复出厂设置流程根本碰不到它们。无论是通过手机设置菜单操作,还是进入R

热心网友
05.11