海外KOL筛选太难?试试用大语言模型给视频内容“做笔记”
从事海外市场推广的朋友都清楚,与KOL合作是常见的营销策略,但真正的挑战在于:面对大量海外创作者,如何快速判断他们的视频风格是否与品牌调性相匹配?理想情况下,我们需要逐一浏览每位KOL的历史内容——然而现实是,多语言环境加上动辄数十上百小时的视频素材,人工根本来不及处理。在这种情况下,一种基于大语言模型的视频内容理解方案,恰好能有效解决这一难题。
方案背景
去年以来,大语言模型在文本处理方面的能力有目共睹,尤其是其多语言支持,对全球化营销团队而言简直是天然优势。将这项技术应用于视频内容总结,可以在短时间内跨越语言和时间的障碍,快速摸清一个频道的风格和主题。于是问题就变成了:如何借助大语言模型对视频进行总结和问答,从而高效提取核心信息?
首先需要明确一点:视频信息传递给观众,无非通过视觉和听觉两条路径。在深度学习时代,许多工作依赖视觉——抽帧、分幕、逐帧理解,这项任务至今仍颇具难度。不过,对于KOL生产的UGC视频,大部分内容其实靠语言表达——主播在说话、在点评、在分享。换句话说,抓住听觉信息(语音或字幕),就能抓住视频的大部分精髓。因此,针对这类平台产出内容,用大语言模型做总结和问答,方向是正确的。这套思路不仅适用于KOL,游戏内的UGC内容同样可以借鉴。接下来,我们就动手搭建一个基于大语言模型的视频总结插件来试试看。
方案设计
整体拆分为三大模块:数据提取、内容总结、内容问答。下面分别聊聊每个模块的技术选型和常见方案的对比。
01 数据提取
日常调用API时,我们最常用的是GPT-3.5,所以第一步就是把视频里的信息转成文字喂给它。最直接的办法是获取视频的字幕。实测发现,YouTube大部分视频自带字幕,但语种五花八门——英语、法语、德语、西班牙语……那么问题来了:要不要先翻译成英文?我们挑选了几个视频做对比,让GPT判断英文字幕和非英文字幕的差异,答复是“两个脚本内容基本一致,只在细节上有出入”。从实际使用场景出发,我们并不需要抠到字眼级别,观点一致就够用了。所以多语言对大模型来说不是大问题。
此外,如果YouTube官方不提供字幕,可以用公开的audio2text工具,比如OpenAI的whisper库就能直接进行转写。
02 视频内容总结
拿到字幕文本后,理论上可以直接在prompt里扔进去让GPT进行总结。但实际运行就发现问题:时长较长的视频,字幕文本动不动就超过16k token(GPT-3.5-turbo的上下文限制)。这就是经典的长文本难题。业内一般有几种处理方式:
- 截取前N个token:简单粗暴,但超过的部分信息全丢。而且很多视频的重点或总结性内容往往在后面,截取法很容易错过关键信息。
- 用更先进的模型:比如GPT-4支持32k上下文,或者Kimi支持超长上下文。但有两个现实问题:一是长文本模型大多收费高、接入成本大;二是目前研究表明,即便模型号称支持长上下文,输入过长时开头部分的信息也会出现遗忘。技术还没那么成熟。
- 分割/抽取+迭代总结:介于两者之间的折中方案。我们试了两种:分段组合式——按固定长度切段,每段分别总结再合并;分段迭代式——类似斯坦福虚拟小镇的思路,先总结已知部分,再加入下一段内容继续迭代,最终输出一个连贯的知识。
为了验证效果,我们选了一个YouTube上KOL试玩游戏、分享剧情故事的视频。下面是对比结果:
从结果来看,截断式明显缺失信息(比如没提到建立基地等内容)。分段组合式和分段迭代式在信息完整性上接近,都能覆盖主要情节。但分段迭代式的细节更丰富,内容有连续性——比如上一个观点提到的内容,下一段会自然衔接(像主人公的身份关系)。而分段组合式就像几个人各看一段然后凑在一起,虽然信息没少,但读起来割裂感很强,整体效果差不少。
03 视频内容问答
总结能给出高频观点,但评估KOL时往往需要抠细节。比如在游戏行业,市场同学特别关注KOL对游戏的总结性评价——这个评价有没有偏差?真实吗?这些细节问题很分散,不可能每个问题都跑一遍迭代式总结(成本太高)。这时候RAG(检索增强生成)就能派上用场了。RAG的原理网上已经讲了很多,这里不展开。我们的实现方案是:OpenAI的embedding模型 + Chroma向量数据库。
RAG的核心在于两步:文档分割和内容召回。
文档分割:把整个文本切成若干段落,每段转成embedding存入向量库。这一步非常关键——如果连续语义的句子被硬拆到两个段落,语义就断裂了。常见的分割方式:
- 按文本长度切,尽量取大块,减少切割点,降低语义被切断的风险。
- 按段落/句子切。但是字幕里没有自然的段落标记。一个可行的办法是利用时间戳——人的语气间隔在不同段落之间有长短差异,通过计算语句间的时间间隔,可以推测出是否是新的一段。
不同分割方式的效果没法孤立评价,得结合召回效果来判断。
内容召回:类似于广告系统的召回与排序。如果召回的片段里压根没有想要的答案,后续做得再好也没用。最常见的做法是计算query的embedding与段落embedding的余弦相似度,取top N结果,连同问题一起喂进大模型。来看两个典型问题:“这个游戏的优缺点是什么?” 和 “这个视频关于这个游戏的主要评价是什么?”
可以看出,固定位置/长度的分割会导致语义丢失。比如恰好把“游戏缺点”那段切开了,召回时就拿不到完整信息。更细的划分能减少这种问题,但过细又可能把一句话拆成两半,关键信息同样会受损。一个折中办法是:采用较细粒度分割,同时召回更多top结果,再用rerank等手段做二次清洗。信息检索里还有很多技巧,篇幅所限就不一一列举了。
此外,还可以自定义问题来做评价或内容打标,比如问“这段视频对品牌的态度如何?”。结合召回后,我们能在插入数据时给每个片段带上时间戳,这样不仅能定位到信息的具体位置,还方便验证,提升回答的可信度。最终输出格式如下:
总结
把大语言模型在文本处理上的优势应用到视频内容总结和问答上——尤其是海外多语种环境——有着天然的契合度。KOL发布的视频大多属于“种草”或“拔草”类,核心信息靠语言传递,因此基于听觉转文本的方案能够很好地覆盖主要内容。当然,大模型正在向多模态发展,GPT-4o和Gemini已经能直接基于视频抽帧做总结,弥补了纯文本方案在视觉上的缺失。未来,视觉加文本的结合一定会让这个方向走得更远。
