从SerpAPI到FreeAskInternet:本地大模型免费联网的另一种解法
之前尝试用SerpAPI给本地大语言模型(LLM)做Web搜索增强(相关思路可以参考之前的文章《使用Ja va拓展本地开源大模型的网络搜索问答能力》),但免费额度每月只有100次,用起来实在捉襟见肘。最近发现了一个名为FreeAskInternet的开源框架,完全免费,而且能无缝聚合大模型与Web搜索——关键是不需要GPU,也不需要任何API密钥。

简介
FreeAskInternet是一个完全免费、私有且本地运行的搜索聚合器与答案生成工具。用户输入一个问题,系统会自动调用多个搜索引擎进行搜索,然后将搜索结果喂给ChatGPT3.5(或其他免费LLM)来生成答案。所有流程都在本地运行,不需要GPU,也不依赖任何外部API密钥——OpenAI、Google都不需要。
特点
- 完全免费——不需要任何API密钥
- 完全本地运行——不需要GPU,任何电脑都能跑
- 完全私有——所有数据都在本地,自定义LLM也支持
- 免费调用ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM)等模型
- 支持自定义LLM(ollama、llama.cpp等)
- 快速部署:Docker Compose一键搞定
- Web和移动端友好界面,专为搜索增强AI聊天设计
项目截图
(原文此处未提供截图,保持原样)
工作原理
- 用户通过本地运行的FreeAskInternet UI输入问题,系统调用本地SearXNG搜索引擎在多个引擎上搜索。
- 抓取搜索结果的链接内容,传递给ChatGPT3.5 / Kimi / Qwen / ZhipuAI / ollama等LLM,让模型根据这些内容回答用户问题。
- 答案以流式方式传输回聊天界面。
- 支持自定义LLM设置,理论上可以接入任意LLM。
项目部署
官方推荐使用Docker,操作非常简单:
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
然后在浏览器中访问:
http://localhost:3000
项目地址
https://github.com/nashsu/FreeAskInternet
写在最后
这个框架的核心在于SearXNG搜索引擎,它负责抓取搜索结果,然后由LLM生成回答。整体思路和SerpAPI如出一辙,但完全免费且本地化,对于资源有限的个人开发者来说,确实是一个很实用的替代方案。
