聊到浏览器端运行大模型，市面上已经有不少工具，但能把体验做到像ChatGPT本地版、同时又完全开源的，还真不多见。今天要说的Chatty，就是这样一个项目——它让你直接在浏览器里加载并运行开源模型（比如Gemma、Mistral、LLama3等），借助WebGPU实现高效推理，所有数据都留在本地，无需任何服务器端处理。

什么是Chatty？

Chatty的本质，是一个功能齐全、外观与交互都类似Gemini/ChatGPT的开源界面。它的独特之处在于：所有模型推理都在浏览器本地完成，通过WebGPU调用GPU算力，数据不会离开你的电脑。这意味着隐私安全有天然保障，同时也消除了对后端服务器的依赖——一个纯前端的AI助手。

如何使用 Chatty？

使用方式很直观：先选择一个支持的模型（Gemma、Mistral、LLama3等），然后新建一个对话。在聊天框中输入问题，浏览器会直接给出响应，整个处理过程都在本地完成。没有服务器传输，没有中间环节。

Chatty 的核心功能

- 在本地浏览器中执行开源模型 - 利用WebGPU实现高效处理 - 注重隐私的数据处理（无服务器端处理） - 界面风格接近Gemini/ChatGPT，上手零门槛 整体来看，Chatty把“本地私有化”和“类云端体验”结合得相当到位。如果你既想要大模型的智能，又不想把数据交出去，这个工具值得一试。