首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
全球最小AI超算震撼问世:仅300克、算力超190TOPS

全球最小AI超算震撼问世:仅300克、算力超190TOPS

热心网友
96
转载
2025-12-11

12月11日,IT之家援引科技媒体Wccftech报道称,初创公司Tiiny AI近日发布了一款号称全球最小的AI超级计算机——Tiiny AI Pocket Lab。这款设备重量仅300克,尺寸与手掌相当,却搭载了ARMv9.2架构的12核CPU和高达80GB的LPDDR5X内存,AI算力达到190 TOPS。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

报道提到,这台迷你计算机的尺寸仅为14.2×8×2.53厘米,重量约300克,可以轻松握在掌心。尽管体积小巧,Tiiny AI宣称该设备能够成功部署参数规模达1200亿(120B)的大模型,这在同类便携设备中尚属首次。


Tiiny AI Pocket Lab正式亮相

据介绍,该设备支持的大语言模型(LLM)能胜任“博士级推理、多步骤分析和深度上下文理解”等复杂任务。其核心搭载了最新的ARMv9.2 12核CPU,并通过定制的异构计算模块(SoC + 独立NPU)提供约190 TOPS的AI算力。

为支撑庞大模型的流畅运行,该设备配备了高达80GB的LPDDR5X内存和1TB SSD存储空间。这种大容量内存配置让用户可以启用激进的量化技术,从而在本地环境中顺畅运行120B参数模型。此外,该设备的功耗控制表现出色,TDP为30W,典型系统功耗约为65W。


AI Pocket Lab重量仅为300克

为了在如此紧凑的设备上实用化运行120B模型,Tiiny采用了两项核心技术。首先是TurboSparse,这是一种神经元级别的稀疏激活技术,能在保持模型完整智能的同时,显著提升推理效率。

其次是PowerInfer,这是一个在GitHub上拥有超过8000颗星标的开源异构推理引擎。它能够通过动态分配CPU和NPU之间的计算任务,来加速繁重的大语言模型工作负载。


设备配备了高达80GB的LPDDR5X内存和1TB SSD存储空间

在软件生态方面,AI Pocket Lab支持一键部署GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi等数十种主流开源模型及代理框架。它无需依赖互联网或云端,支持完全离线操作。Tiiny AI确认将在CES 2026上正式展出该设备。

来源:https://www.163.com/dy/article/KGGJ1Q3L0511B8LM.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

美国操纵存储芯片价格,海外企业转向中国芯片求合作
科技数码
美国操纵存储芯片价格,海外企业转向中国芯片求合作

这次全球存储芯片价格暴涨维持时间仅有半年时间,其中中国存储芯片的崛起起到了巨大的作用,这也让海外诸多科技巨头认识到中国存储芯片的价值,据传已有海外科技巨头寻求与中国存储芯片合作,以制衡美韩的存储芯片

热心网友
03.31
印度院校实现智能内存控制器,优化系统卡顿与功耗表现
科技数码
印度院校实现智能内存控制器,优化系统卡顿与功耗表现

这项由印度萨蒂亚赛巴巴高等学习学院联合印度理工学院罗帕尔分校和红帽公司共同完成的研究发表于2026年3月的arXiv预印本平台,编号为arXiv:2603 17309v1。有兴趣深入了解的读者可以通

热心网友
03.31
AMD第六代霄龙处理器曝光:192核主频突破4GHz
礼仪与书信
AMD第六代霄龙处理器曝光:192核主频突破4GHz

IT之家 3 月 31 日消息,科技媒体 Wccftech 于 3 月 29 日发布博文,报道称 AMD 第六代霄龙 EPYC“Venice”处理器工程样片数据泄露,揭示了全新 Zen 6 架构与

热心网友
03.31
AMD 9800X3D连线3颗:其华擎主板实测与最新固件升级反馈
娱乐
AMD 9800X3D连线3颗:其华擎主板实测与最新固件升级反馈

IT之家 3 月 31 日消息,网友 u notmember 于 3 月 29 日在 Reddit 社区发帖,反馈其遭遇极其罕见的硬件故障,其电脑主板在短短几个月内连续烧毁了 3 块 AMD Ryz

热心网友
03.31
Omdia:Win11换机成本压力下的美国PC市场明年增长3%
科技数码
Omdia:Win11换机成本压力下的美国PC市场明年增长3%

智通财经APP获悉,Omdia最新研究显示,2025年第四季度,美国PC出货量(不含平板)同比增长3%,达到1820万台,扭转了此前连续两个季度的同比下滑。这一增长主要得益于Windows 11商用

热心网友
03.31

最新APP

你说我猜
你说我猜
休闲益智 03-31
史莱姆农场
史莱姆农场
休闲益智 03-31
凡人传说
凡人传说
角色扮演 03-30
恶魔秘境
恶魔秘境
角色扮演 03-29
猫和老鼠华为
猫和老鼠华为
休闲益智 03-29

热门推荐

海信 E7S Pro RGB-Mini LED 电视发布:4K 180Hz 玲珑真彩背光屏,政企双补价 6999 元起
科技数码
海信 E7S Pro RGB-Mini LED 电视发布:4K 180Hz 玲珑真彩背光屏,政企双补价 6999 元起

海信E7S Pro RGB-Mini LED电视发布:4K 180Hz玲珑真彩背光屏,政企双补价6999元起 3月10日,海信正式推出了E7S Pro RGB-Mini LED电视。这款新品最引人注目的亮点,无疑是它那极具竞争力的“政企双补价”——起售价定在了6999元。 核心画质:玲珑真彩背光屏与

热心网友
03.31
用docker来安装openclaw
AI
用docker来安装openclaw

用docker来安装openclaw 前言 最近OpenClaw的热度确实居高不下,但它本质上仍是一个处于高速成长期的系统,远未到“成熟稳定”的阶段。这不奇怪,看看开源代码库,一天一个Release算是常态,频繁且快速的迭代正是它活力的体现。 随之而来的,自然是各种意料之外的Bug、与第三方插件的兼

热心网友
03.31
Chainbase (C币) 是什么?如何获取空投?C代币经济学、价格预测介绍
web3.0
Chainbase (C币) 是什么?如何获取空投?C代币经济学、价格预测介绍

加密货币世界正在产生比以往任何时候都都多的数据。面对数百条区块链、数千种代币以及源源不断涌现的新型去中心化应用,驾驭这一复杂格局对于投资者、开发者和分析师而言都极具挑战性。可靠、实时的区块链数据对于做出明智的决策和驱动下一代加密产品至关重要。 这正是 Chainbase (C) 试图解决的难题。这个

热心网友
03.31
学生8684元网购iPhone 16 激活日期显示1978年:比我妈都大
iphone
学生8684元网购iPhone 16 激活日期显示1978年:比我妈都大

15岁学生花8684元网购苹果iPhone 16,激活日期竟显示1978年 最近一起网购纠纷,听起来有点魔幻。一位15岁的初二学生,攒钱买了台新款iPhone,激活后一看购买日期,居然是1978年。这到底是怎么回事?背后又藏着一个怎样的消费陷阱? 事情发生在江苏苏州。初二学生小金(化名)向媒体反映了

热心网友
03.31
听劝:微软将停止向 Teams 用户自动发送“会议录制过期提醒”邮件
业界动态
听劝:微软将停止向 Teams 用户自动发送“会议录制过期提醒”邮件

听劝:微软将停止向 Teams 用户自动发送“会议录制过期提醒”邮件 3月11日,微软公布了一项“听劝”的政策调整:将取消默认通过邮件自动发送 Teams 会议录制过期提醒。这意味着,自6月1日起,当会议录制内容即将被永久删除时,多数用户的收件箱将能保持清净,不会再收到系统发来的提醒邮件。 这一调整

热心网友
03.31