在AI应用开发领域,低代码化和模块化早已不是新鲜概念,但真正能让非技术用户也能轻松上手的平台并不多见。Dify和BrillAI是两个值得关注的名字——它们分别从不同角度切入,一个主打可视化AI应用构建,一个聚焦多模态模型的无服务器推理。更妙的是,两者可以实现无缝集成,带来1+1大于2的效果。
先来说说Dify。这个名字本身就有深意——它是“Define”和“Modify”的组合,意思很明确:你来定义,你来改进。作为一个开源的大语言模型应用开发平台,Dify将后端即服务和LLMOps的理念整合在一起,提供了一套近乎“开箱即用”的完整解决方案。
它支持数百种模型,拥有直观的提示词编排界面、高质量的RAG引擎,以及灵活可扩展的Agent框架。换句话说,无论是资深程序员还是AI新手,都能在Dify上快速搭建出生产级的生成式AI应用。Dify的应用类型主要有三种:聊天助手、Agent和工作流。聊天助手解决的是对话场景;Agent则可以通过函数调用或ReAct方式集成各种工具,目前内置了50多种,包括Google搜索、Stable Diffusion等;工作流则提供可视化画布,用于构建复杂的AI流程。
Dify能取得今天的市场地位,关键在于它的一些独特设计。比如它的Beehive架构,灵活性和可扩展性都很强。再比如它对模型中立性的坚持——你可以自由切换OpenAI、Hugging Face、LocalAI等模型,不受任何限制。更重要的是,Dify注重可视化构建,拖拽界面让没有技术背景的人也能参与其中。再加上自托管选项,数据安全和隐私控制也有了保障。
再来聊聊BrillAI。这个平台是由Xinference驱动的Serverless推理引擎,目标很明确:让开发者通过无服务器端点访问顶级开源模型。它不仅支持大语言模型,还覆盖了聊天、多模态、图像、嵌入、重新排序、音频和视频等多个领域。用户可以根据不同场景自由切换模型,几行代码就能快速启动,而且系统会随着应用规模的增长自动扩容,确保性能始终在线。
BrillAI的创建动机很清晰:当前最先进的AI结果,越来越多地来自复合系统而不是单一模型。单一部署已经远远无法满足多领域、多模态的需求。所以BrillAI的落地方式,就是通过实验中心集成对话、图像、声音、嵌入等多种模态与模型,为用户提供丰富的互动体验。
现在进入实操环节——如何将Dify和BrillAI集成在一起。
由于BrillAI的推理接口与社区版Xinference兼容,所以集成方式也基本一致。目前有5种类型的模型可以添加到Dify:LLM、Text Embedding、Rerank、Speech2text和TTS。
第一步,在Model Provider处分别添加这5种模型。添加完成后,点击右上角的System Model Settings,把所有系统模型都设置为BrillAI提供的模型。这样,Dify在需要时就会自动调用BrillAI的模型。
要使用Embedding和Rerank模型,还需要在Knowledge页面新建一个知识库。这里可以上传需要让大语言模型了解的上下文信息——比如一个包含画图提示词的prompt.txt文件。上传完成后点击Next,就可以选择Embedding和Rerank模型来处理知识库了。点击Sa ve & Progress,等到状态变成A vailable,这个知识库就能在应用中使用。
图片相关的模型需要单独配置。在Tools页面搜索Xinference,找到对应的工具,点击To Authorize,在弹出窗口里填入BrillAI的配置信息,验证通过后即可使用。
以上准备工作完成后,就可以在Studio页面创建应用了。创建一个空的Agent应用,让它完全使用BrillAI提供的模型能力。应用创建成功后,点击Context旁边的Add按钮,添加刚刚创建的知识库。然后点击Tools旁边的Add,找到Xinference下的Stable Diffusion工具——这就是刚才添加的画图模型。添加后还可以点击工具旁边的感叹号,进一步配置稳定扩散模型的参数。
最后是语音模型的配置。点击页面底部的ADD FEATURE,打开Text to Speech和Speech to Text的开关,这两个功能会自动使用之前配置的系统模型。完成所有步骤后,就可以开始对话了。开启Speech to Text后,输入框右侧会出现麦克风图标,点击即可语音输入,系统会自动将语音转换成文本。
下面的对话演示了通过知识库获取信息,并通过Stable Diffusion工具画图的完整过程。另外,点击消息右上角的播放按钮,还可以通过TTS模型朗读消息内容。整个过程完整地展示了通过Embedding和Rerank模型创建知识库、通过LLM模型进行对话、通过语音模型识别音频和朗读文字、通过Image模型画图——几乎涵盖了BrillAI目前提供的所有模型类型。
