说到联网搜索,这算是现阶段大模型落地中最实用的功能之一了,毕竟模型训练数据有截止日期,想要获取最新信息,全靠它。
业内之前其实有不少开源方案,比如Searxng,社区很活跃,像Dify、FastGPT这类开源工作流产品也都支持了它的插件。它本质上是一个搜索引擎的集合器,本身不爬数据,而是把Bing、百度、谷歌等结果聚合起来。这个思路本身没毛病,但实际用起来,想调得又快又稳,挺费劲的。尤其是网络环境不太理想的时候,经常搜不出东西,体验会打折扣。
那有没有更适合国内环境、更快、更便宜的选择?最近团队在调研时发现一个挺宝藏的产品,值得拿出来聊聊。
我们的需求
先梳理一下核心诉求,其实很明确:
- 面向国内用户,中文搜索为主,英文不是刚需。
- 响应速度要快,首token时间越短越好。
- 公司场景下,能不走梯子就不走。
- 搜索结果对大模型输入友好,方便直接喂给模型。
- 价格要低,最好能薅点羊毛。
市面上也看过不少SaaS产品,像Ta vily、Perplexity,功能确实不错。但都是国外服务,延迟摆在那里,用起来还是有些别扭。
综合来看,目前我们团队主推的,是下面这个——
阿里云信息查询服务-通用搜索
名字确实起得挺朴实,阿里在命名这件事上始终如一的稳定(就像QwQ、QvQ那样)。不过名字不重要,能力才是关键。
这个服务基于夸克搜索,是阿里云专门推出的通用信息查询接口。官方文档里写得很清楚,它已经做好了针对大模型的适配工作。
更关键的是下面这个指标:平均响应时间不到1秒,P99也在2秒以内。对比Searxng、Ta vily、Perplexity,联网搜索的体验提升是肉眼可见的。
费用
开通后有15天免费试用期。测试期间的默认限额是:5 QPS、每天1000次、有效期15天。正式转为商用后,定价是42元/千次,也不算贵。如果用量不大,换个账号继续白嫖也不是不行(当然,这是玩笑话)。
接入使用
开通账号
按照官方文档的指引注册并开通通用搜索功能就行。进入阿里云控制台,在凭证管理里就能找到测试用的API Key。
Dify集成
集成方式很灵活。一种是通过OpenAPI Specification定义,在Dify里创建自定义工具,配置好鉴权方法,就能直接用了。
另外,如果不想手动配置,可以直接从代码仓库下载我们预先导出的DSL文件(文件名是“2. 通晓.yml”)。导入后,在HTTP请求节点里填上你的API Key,工作流就能跑起来。最后把它发布为工具,其他工作流就能直接调用这个搜索能力了。
测试
简单测试一下,比如输入“成都天气”,返回结果非常规整——Title、URL、Snippet一应俱全,格式很适合直接喂给大模型当上下文知识库。
利用Dify的Agent能力,组装一个支持联网搜索的简易Agent,搜索速度确实很快,回答的准确率也在线。
Dify之外
熟悉我们团队的朋友可能知道,日常用得最多的其实是OpenWebUI。针对这个搜索服务,后续我们会做一点小小的改造,让它适配OpenWebUI的联网搜索功能。如果大家感兴趣,后面可以专门分享一篇出来。
