本教程将手把手教你如何在游戏本上成功部署 OpenAI 最新开源的 gpt-oss-120b 大模型。经实测，仅需 64G 显存即可流畅运行，彻底打破官方宣称的 80G 要求。无论是 AMD 还是 NVIDIA 平台，只要显存充足，都能轻松驾驭。
核心要点概览
- 硬件配置与显存分配技巧 - 如何调整统一内存，让游戏本完美适配大模型。
- LM Studio 部署流程与模型下载实测 - 从安装到搜索模型，快速上手。
- 推理效果对比与 Runtime 选择策略 - 低强度 vs 高强度，以及 AMD 平台的最佳 Runtime。
一、硬件配置与显存分配技巧
我的游戏本配置为 AMD 395+ & 8060s（非常 YES），拥有 128G 统一内存。但默认情况下，系统只分配给显卡 4G 显存，显然不满足 120B 模型的运行需求。
关键点：我们不需要官方要求的 80G，只需分配 64G 显存即可稳定运行。
显存分配步骤
- 进入系统 BIOS 或 AMD Adrenalin 软件，找到“显存分配”选项。
- 将显存大小从默认的 4G 修改为 64G（注意：不要超过 96G，否则模型加载会失败）。
- 保存设置并重启电脑。
小提示：如果你的总内存为 128G，分配 64G 给显存后，剩余 64G 作为系统内存。模型加载过程本身还需要约 40G 内存，因此总内存至少需要 104G（64G 显存 + 40G 加载内存）。建议总内存不低于 128G。
二、LM Studio 部署流程与模型下载实测
OpenAI 为 gpt-oss 系列模型提供了完善的私有化部署支持，使用 原生 MXFP4 量化，大幅降低显存占用。我们选择 LM Studio 作为部署工具，方便快捷。
步骤 1：下载安装 LM Studio
前往官网下载最新版 LM Studio，安装后打开。
步骤 2：搜索并下载模型
在 LM Studio 的“搜索”栏中输入 gpt-oss-120b，找到模型后点击下载。模型文件较大（几十个 G），根据网速等待一段时间。
常见问题：
Q：下载速度很慢怎么办？
A：建议使用稳定的网络环境，或尝试更换节点。LM Studio 默认使用 Hugging Face 镜像，若速度慢可手动设置国内镜像源。
三、模型配置：调整显存分配
模型下载完成后，还不能立即运行。我们需要在 LM Studio 中调整显存分配。
进入 LM Studio 的“设置” -> “显存分配”，将值改为 64G（对应我们之前 BIOS 中分配的数值）。
完成后，点击“载入模型”按钮，等待模型加载成功。
小提示：如果载入失败，请检查 BIOS 中的显存分配是否已生效，以及剩余系统内存是否充足。另外，确保 LM Studio 的版本为最新（当前版本已适配 gpt-oss 系列）。
四、推理效果对比与 Runtime 选择策略
推理强度效果
OpenAI 模型支持三种推理强度：低、中、高。我们以单词 “strawberry” 包含几个字母 “r” 为例进行测试：
- 低强度模式：约 10 秒出结果，速度快但推理深度较浅。
- 高强度模式：耗时约 1 分钟，推理更细致，准确性更高。
Runtime 选择策略（针对 AMD 平台）
LM Studio 提供多种 Runtime：CUDA、Vulkan、ROCm llama.cpp、CPU llama.cpp 等。
- CUDA：仅限 NVIDIA 显卡，AMD 无法使用。
- ROCm：理论上更适合 AMD，但目前尚未支持
gpt-oss系列模型。 - Vulkan：跨平台通用加速方案，在最新版 LM Studio 中已对
gpt-oss做了适配，是当前最佳选择。 - CPU llama.cpp：纯 CPU 运行，速度极慢，不推荐。
最终我选择 Vulkan 作为 Runtime，运行流畅无问题。
常见问题：
Q：我的是 NVIDIA 显卡，应该选哪个 Runtime？
A：建议首选 CUDA，如果遇到兼容性问题可尝试 Vulkan 作为备选。
Q：为什么我的 AMD 显卡用 ROCm 报错？
A：目前 ROCm 对gpt-oss的支持还在开发中，请耐心等待更新，或先切换至 Vulkan。
五、额外注意：显存过高导致的问题
最开始我将显存分配设为 96G，结果模型载入失败。排查后发现：模型加载过程本身还需要约 40G 系统内存。如果显存占用过高，剩余内存不足，就会报错。
推荐方案：将显存分配设为 64G，既能满足模型推理，又能保留足够多系统内存供加载使用。如果你的总内存为 128G，这是最稳妥的配置。
小提示：如果加载过程中间出现内存不足提示，可尝试关闭其他占用内存的程序（如浏览器、游戏等），或适当降低显存分配至 56G。
总结
- 其一，OpenAI 的 MXFP4 量化非常贴心，有效降低了显存门槛。
- 其二，AMD，Yes！ 游戏本也能畅跑 120B 大模型。
现在，你已经掌握了在游戏本上部署 gpt-oss-120b 的完整方法。如有其他问题，欢迎留言交流。