你是否在 Twitter 上频繁看到“Embedding”、“向量数据库”这些术语?它们正迅速成为人工智能领域最炙手可热的技术之一。Pinecone(一家专注于向量数据库的公司)近期以约 10 亿美元的估值成功融资 1 亿美元,Shopify、Brex、Hubspot 等知名企业也在其 AI 应用中大量采用这些技术。那么,Embedding 究竟是什么?向量数据库为何如此关键?它们又是如何与大型语言模型(LLM)协同工作的?本教程将用最清晰易懂的方式为你逐一解析。
什么是 Embedding?
简而言之,Embedding 就是一个多维向量数组,由一系列数字构成。这些数字能够代表任何事物——文本、音乐、视频等。在本教程中,我们主要聚焦于文本场景。
创建 Embedding 的过程非常直接:你只需将文本发送给一个 Embedding 模型(例如 OpenAI 的 Ada),模型就会为你生成该数据的向量表示。这个结果可以被存储起来,供后续检索与分析使用。

Embedding 的直观理解
想象一下,你有一大箱玩具。现在你想找出一些相似的玩具,比如玩具汽车和玩具巴士——它们都是交通工具,因此“相似”。这就是所谓的 语义相似性:事物在含义或概念上具有某种相近关系。
再进一步:玩具汽车和玩具公路并不完全相同,但因为汽车通常在公路上行驶,所以它们是 相互关联 的。Embedding 就能捕捉这种关联关系。

在上图中,你可以看到“男人”、“国王”、“女人”、“王后”这些词在向量空间中的关系——通过 Embedding,机器能够理解它们之间的语义距离(例如“国王” - “男人” ≈ “王后” - “女人”)。
