最近,OpenAI 正式发布了 GPT-4o-mini。根据官方测试数据,这款模型在多项学术基准中全面超越了 GPT-3.5 Turbo 以及众多小模型,不论是在文本智能理解还是多模态推理方面,都展现出令人瞩目的表现。

更令人惊喜的是,它在性能上直接超越了 Gemini 1.5 Flash,而价格却极具竞争力——每 100 万输入 tokens 仅需 15 美分,每 100 万输出 tokens 仅需 60 美分。这一定价策略不仅比 Gemini Flash 更实惠,甚至直接碾压了 Llama 3 的性价比,同时基准测试成绩依然保持领先。
回到正题:GPT-4o-mini 的发布,意味着在成本敏感的应用场景中,开发者终于拥有一个既能保证高质量、又不会大幅烧钱的选项。过去许多开发者为了节省开支只能退而求其次,而现在这一局面已被打破。
按照惯例,每次新模型推出,我都会用它搭建一个本地 Copilot 来测试实际编程表现。这次也不例外。而且,基于 GPT-4o-mini 的 Copilot 在成本上远低于 GitHub Copilot 每月 10 美元的订阅费——要知道,GitHub Copilot 目前仍在使用基于 GPT-3 的 Codex 模型,说实话,这个价位已经不具备太大竞争力了。
接下来,直接进入主题:如何利用 GPT-4o-mini 创建一个 VS Code Copilot,以及一个类似 GitHub Copilot 终端建议功能的 Shell Copilot。
创建 VS Code Copilot
首选工具是 Continue Dev,安装配置都非常便捷,也是我长期使用的扩展。具体操作步骤如下:
首先,你需要拥有 OpenAI 的 API 密钥。如果还没有,可以前往 OpenAI 官网申请获得。
然后,在 VS Code 扩展市场中搜索并安装 Continue Dev。安装完成后,侧边栏会出现扩展图标,点击进入后,在界面底部可以看到模型下拉菜单。点击旁边的“添加”按钮,选择 OpenAI 选项,填入你的 API 密钥,接着点击“设置”按钮打开配置文件。将模型名称改为 gpt-4o-mini,保存即可。聊天界面会自动切换为新模型,你可以在编辑器中直接使用命令或快捷键生成代码,或者通过聊天面板进行交互,然后一键将结果插入到文件中。
若想优化代码补全(自动完成功能),可以让它使用本地小模型运行,这样既节省流量又完全免费。推荐搭配 Ollama 使用:先前往 Ollama 官网下载并安装,然后在模型页面选择 Qwen 2 1.5b(体积小巧,适合补全任务),复制安装命令并在终端执行。安装完成后,回到 Continue Dev 的配置文件,将提供商改为 ollama,模型名称改为 qwen2:1.5b,保存。现在代码补全就能在本地无网络环境下运行,而聊天和代码生成依然由 GPT-4o-mini 负责。这种大模型与小模型组合的方式,成本远低于 GitHub Copilot 的 10 美元/月。
创建 Shell Copilot
第二个项目是 Shell Copilot,使用的开源工具是 Shell GPT(GitHub 项目地址:https://github.com/TheR1D/shell_gpt)。它支持多种 LLM 提供商,灵活性很高。
安装非常简单:运行 pip install shell-gpt。安装完成后,在终端执行 sgpt,系统会提示你输入 OpenAI API 密钥。输入后即可使用。不过默认模型并非 GPT-4o-mini,需要调整配置:打开 sgpt 的配置文件(安装后会有路径提示),将默认模型改为 gpt-4o-mini,保存。
现在你可以使用 sgpt 命令了。直接给出提示,它会返回文本答案;如果加上 --shell 参数,它会直接输出对应的 Shell 命令建议。由于 GPT-4o-mini 按量计费且价格极低,你可以精确控制成本——相比 GitHub Copilot 基于 GPT-3 的老模型,这无疑是更划算且性能更强的选择。
总体而言,GPT-4o-mini 的超高性价比,让本地搭建 Copilot 变得极具吸引力。如果你想在保持代码质量的同时大幅削减成本,这套方案绝对值得尝试。
