唯一本地跑1280亿参数大模型!AMD锐龙AI Max+ 395重磅升级
7月30日消息,AMD Zen5架构的锐龙AI Max+ 395,是第一个可以在本地运行700亿参数AI大模型的平台,当然需要搭配128GB统一内存,而现在,AMD奉上重磅升级,1280亿参数大模型都可以在本地运行了!
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
当然,能做到这一点的还是只有锐龙AI Max+ 395,还是必须搭配128GB统一内存,并分配96GB作为显存,而且必须在Vulkan llama.cpp环境下。
驱动方面需要搭配还在测试阶段的25.10 RC 24版本,下个月初将会变成正式版25.8.1。




这使得锐龙AI Max+ 395成为第一个能在本地运行1090亿参数的Meta Llama 4 Sout大模型的平台,体积多达66GB,活跃参数最多170亿,并支持Vision、MCP。
这得益于该模型使用了混合专家(MoE)模式,每次只激活模型的一部分,从而保持性能可用,锐龙AI Max+ 395实测可以做到每秒15 Tokens。
同时,锐龙AI Max+ 395还可以跑68GB体积、1230亿参数的Mistral Large,至于18GB、300亿参数的Qwen3 A3B、17GB、270亿参数的Google Gemma,自然更是不在话下。
当然,锐龙AI Max+ 395还支持各种各样的模型尺寸、量化格式,包括GGUF。



同样重要的是,锐龙AI Max+ 395升级支持了更大的上下文尺寸,从传统的4096 Tokens左右,一举来到了惊人的256000 Tokens,从而能够分析、汇总更大规模的文档等数据资料。
不过这里需要注意,得开启Flash Attention、Q8 KV Cache。
对于一般的非大规模模型,32000 Tokens的上下文就足够用了,锐龙AI Max+ 395则提供了新的可能,而以往如此超大规模的上下文,往往需要几万十几万的设备才能实现。
锐龙AI Max+ 395、128GB配置的迷你AI工作站,价格已经低至1.3万元左右,可以说性价比是相当高了。


相关攻略
IT之家 3 月 31 日消息,联想现已在海外市场推出第十一代 Idea Pad 5i 二合一笔记本,可选英特尔 Panther Lake、AMD Gorgon Point 平台,最高可选配 32G
3月30日消息,2011年3月,AMD正式推出旗舰级双核心显卡Radeon HD 6990,这款代号Antilles的传奇产品,至今已走过15个年头。它虽比原定发布计划晚了数月,却精准抢在NVIDI
一、前言:性能最强的锐龙AI 9 H 465轻薄本2年前的锐龙AI 300系列处理器是一款几乎没有缺点的移动处理器,不论是CPU性能、GPU性能、能效比都远超同时代的低功耗处理器。在今年的CES展会
3月30日消息,AMD的新旗舰锐龙9 9950X3D2还没发布,华硕就整个了花活儿。这颗U最大的特点就是首次在双CCD上都集成了X3D缓存,所以最新称作“Dual Edition”,每一组64MB,
IT之家 3 月 30 日消息,华硕 ASUS 上周五为旗下 ROG CROSSHAIR ROG STRIX TUF GAMING 系列 AMD X870 X870E 主板发布了版本号为
热门专题
热门推荐
金铲铲之战S17中,科加斯为1费卡,羁绊为暗星、斗士。技能是对当前目标造成魔法伤害并永久增加自身生命值,若击杀目标则叠加更多生命值,未完成击杀也可叠层数。金铲铲之战S17大虫子科加
在燕云十六声的滹沱版本中,食物相关成就不仅有趣,还能深度体验游戏的丰富元素。食材收集达人要解锁众多食物成就,首先得成为食材收集达人。在游戏世界里,仔细探索各个角落。村庄的农田是关键
IT之家 3 月 31 日消息,苹果今日向 Mac 电脑用户推送了 macOS 26 5 开发者预览版 Beta 更新(内部版本号:25F5042g),本次更新距离上次发布 Beta RC 间隔
【CNMO科技消息】3月31日,荣耀平板与IOT产品领域总经理“荣耀平板利用哥”发文称,恭喜所有提前半年购买荣耀平板MagicPad 3 Pro的小伙伴,早享受半年,还节省一大笔钱。现在下单还不
3月31日消息,近日,阿里千问上线了一项“引证”新功能,可对新闻时事、政策动态等需要引用外部信源的回答内容,进行二次事实核查,目前该功能处于测试阶段。实际测试中,引证按钮并非始终显示,仅当用户提问涉





