先说个新鲜事儿。耐瑞唯信有限公司最近搞了个专利,名字挺有意思,叫“生成式AI指纹生成”,公开号是CN122319434A,申请日期是去年11月。这专利一出来,圈内不少人都注意到了,因为它要解决的,其实是生成式AI领域一个挺棘手的麻烦:怎么阻止AI画出不该画的东西。

来,咱们拆开看。专利摘要里是这么说的:生成式AI,比如跑图模型,得靠大量成对儿的描述和图像来训练。这一训练,模型内部就攒了好些个神经元层,一层层往上搭。有意思的点在于,模型跑到中间层时,那些输出的数值已经高度泄露了最终图片的走向——就好比侦探办案,凶手还没露面,从脚印和指纹已经能猜个八九不离十。技术上说,中间层的输出值对最终输出内容,有很强的预测性。
那问题来了:提供生成式AI的厂商,肯定不希望自己辛辛苦苦训练出来的模型,被人拿来生成违规或禁止的内容。怎么办?专利里提出一个方案——建一个“指纹码本”。每个指纹不是生物指纹,而是某个特定禁止内容在生成过程中,模型中间层的那一组输出值。这就像给每张不该出现的图,提前拍下了一张“犯罪现场照”。
实际操作是:在图片生成的过程中,系统实时提取当前生成图像的中间层输出值,然后拿去跟码本里的指纹做比对。如果发现匹配,那就说明模型正在生成禁止内容,系统立刻采取纠正措施——可能是直接中断生成,也可能是替换掉输出。整个过程,听起来像不像一个24小时值守的AI安检门?
其实,从2024年11月提交申请,到现在公开,这个专利在行业里已经引发了不少讨论。因为它提供了一个相对优雅的内部治理思路——不是在外部叠加审查,而是深入到模型本身的运行机制里,找到更早、更准的干预窗口。这比事后补救,显然靠谱得多。
