游乐游手机版
首页/AI热点日报/热点详情

免费私密本地运行无需GPU的LLM搜索聚合器与答案生成器

类型:热点整理2026-06-12
项目简介 先说说这个项目的核心亮点:完全免费、完全本地、完全私密,而且不需要任何GPU——换句话说,只要是个能跑Docker的电脑,就能把它跑起来。FreeAskInternet 本质上是一个搜索聚合器加答案生成器,用户抛出一个问题,系统自动在多个搜索引擎上搜一遍,然后把结果喂给 ChatGPT 3

项目简介

先说说这个项目的核心亮点:完全免费、完全本地、完全私密,而且不需要任何GPU——换句话说,只要是个能跑Docker的电脑,就能把它跑起来。FreeAskInternet 本质上是一个搜索聚合器加答案生成器,用户抛出一个问题,系统自动在多个搜索引擎上搜一遍,然后把结果喂给 ChatGPT 3.5 的免费接口,最终生成一份整合后的答案。整个过程都在自己的机器上完成,数据不经过第三方服务器,隐私安全这块做得相当到位。

项目特点

  • 完全免费——不需要任何API密钥,OpenAI的接口也是免费的,感谢OpenAI放出了这个福利
  • 完全本地化——没有GPU的电脑也能跑,Docker Compose一键部署
  • 完全私密——所有搜索和推理都在本地完成,不会有数据外泄的担心
  • 无需LLM硬件支持——再次强调,没有GPU也能跑,这对大多数开发者来说非常友好
  • 使用免费的ChatGPT 3.5 API——不需要掏钱买Key,直接就能用
  • 通过Docker Compose快速部署——一条命令搞定,几乎零门槛
  • 界面支持网页和移动端——基于ChatGPT-Next-Web的前端,手机、平板都能流畅访问

工作原理

流程其实是三步走,非常清晰:

  1. 用户在本地运行的ChatGPT-Next-Web界面输入问题,系统会把问题转发给另一个本地服务——searxng,由它去多个搜索引擎(比如Google、Bing等)同时搜索。
  2. 爬取搜索结果页面中的内容,然后把这些内容打包传递给ChatGPT 3.5(通过本地运行的FreeGPT35调用OpenAI的免费接口),要求它基于这些搜索结果来回答问题。
  3. 生成的答案会以流式的方式传回ChatGPT-Next-Web聊天界面,用户能实时看到答案一段段出现。

整个链条里,所有组件都在本地跑,没有数据外流,也没有外部依赖需要付费。

使用方法

部署起来异常简单,只需要三步(或者说两步):

  1. 把项目克隆到本地:
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
  1. 用Docker Compose启动服务:
docker-compose up -d

启动之后,在浏览器里打开 http://localhost:3000 就能看到Web界面了。

更新到最新版本

如果项目有更新,也只需要几步操作:

  1. 进入项目目录:cd ./FreeAskInternet
  2. 拉取最新代码:git pull
  3. 移除旧的后端容器和镜像:docker compose rm backend 然后 docker image rm nashsu/free_ask_internet
  4. 重新启动服务:docker-compose up -d

小结

总的来说,FreeAskInternet 解决了几个很实际的需求:想要一个智能搜索助手,但又不想把数据交给第三方,也不想花钱买GPU或者API Key。它把搜索、爬取、语言模型整合成一个完整的闭环,全是本地跑的。不过要提醒一句,这个项目目前还处于早期阶段,偶尔可能会有小bug。如果你感兴趣,可以去GitHub仓库看看最新的说明再动手。

注:本文内容仅供参考,具体项目特性请参照官方 GitHub 页面的最新说明。

来源:https://www.53ai.com/news/qianyanjishu/1016.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。