在大模型席卷技术领域的当下,图机器学习(Graph Machine Learning)这门兼具经典与前沿特色的学科正迎来全新发展契机。北京邮电大学石川教授日前围绕“大模型时代,图机器学习如何引领技术革新”这一主题,进行了深度分享,系统梳理了图学习的演进历程、与大语言模型的融合路径,以及未来可能面临的挑战。
图机器学习发展历程
图是一种描述复杂系统的通用语言。凡是能用“点”和“边”来建模的交互系统,例如社交网络、金融网络、生物网络,均可被视为一张图。
简单来说,图是一个有序二元组(V, E),其中V是顶点集,E是边集。而图机器学习则是将机器学习技术应用于这类数据结构。围绕图的研究已有悠久历史:1736年欧拉解决哥尼斯堡七桥问题,奠定了图论基础;1956年Dijkstra提出最短路径算法;2002年Barabasi对复杂网络长尾分布的研究推动了网络科学发展;2013年图信号处理概念被提出;2014年DeepWalk算法开启了图嵌入研究;而2017年后的图神经网络(GNN),则真正赋予了图数据强大的学习能力。
必须明确的是,图数据属于非欧几里得数据,与语言、图像这类规则数据有本质区别。图中的节点和边没有固定顺序和维度,这使得传统深度学习架构难以直接套用。此外,不同领域构建的图结构差异显著,因此衍生出同质图、异质图、超图等多样化的数据形态。
基于图的下游任务极为丰富,包括节点级别的分类、回归和聚类,边级别的链接预测、最短路径预测,以及图级别的分类、生成和压缩。
图表示学习是近年来的研究热点,其核心目标是将网络中的每个节点压缩为一个低维稠密向量,通过该向量反映节点的结构特性。方法上大致分为两类:一类是浅层模型,主要基于随机游走(如DeepWalk、node2vec)将拓扑结构转化为序列;另一类是深度模型,即当前常用的图神经网络(如GCN、GraphSAGE)。
图神经网络的标准学习流程大致如下:输入图拓扑结构和节点特征,对特征进行初始化embedding,然后反复迭代,聚合当前节点及其邻居的表示,经过非线性变换后,最终用于预测任务。
尽管GNN发展历史不长,但已衍生出众多研究方向:谱图学习、图结构学习、自监督学习、可信学习、异配图学习、自动统计学习、表达能力研究等。值得一提的是,石川教授团队在异质图神经网络领域提出的经典模型——HAN,是该方向的代表性工作之一。
当图模型遇到大语言模型
了解了图技术的基本脉络,我们再来看大语言模型(LLM)。
基础模型是指在广泛数据上预训练并能迁移到各类下游任务的模型。它在语言、视觉、语音等多个领域已取得实际应用。
基础模型有两个显著特征:涌现与同质化。涌现是指随着模型参数规模增大,模型会自发展现出新的、未显式训练过的能力;同质化则指一个模型可服务于多种场景,具备多面手属性。
大语言模型(LLM)正是基础模型在自然语言处理领域的典型代表。
LLM的核心处理对象是语言数据——一种序列数据,也是欧氏数据。它的主干架构是Transformer,主要训练任务是预测下一个单词。下游任务则涵盖机器翻译、情感分析等成百上千种。
随之而来的问题是:大语言模型能否很好地处理图问题?答案是否定的。原因很直接:从数据形态看,图的结构化语义与线性序列差异巨大;从任务角度看,LLM难以适配多样化的图任务。
另一方面,传统图模型(如GNN)也远未达到大模型的能力水准。它们存在表达能力局限(如过平滑、过压缩问题),缺乏涌现能力,也难以同时支持多个任务。
正是在这种“两边都够不着”的背景下,图基础模型的概念应运而生。其愿景是:在广泛的图数据上预训练,形成一个通用模型,进而迁移到各种不同的下游图任务。
图基础模型与语言基础模型之间有相似之处——比如追求通用和迁移,学习范式也类似。但差异更为关键:数据形态、任务类型以及底层技术栈的差异都非常明显。
图基础模型前沿突破
图基础模型目前尚无成熟方案,但已成为图学习领域最火热的研究方向之一。根据其对GNN和LLM的依赖程度,现有探索大致分为三种路线:纯GNN基础的模型、纯LLM基础的模型,以及GNN+LLM的混合模型。
纯GNN路线的思路是通过对GNN架构、预训练方式和适配策略的创新,来增强现有图学习能力。
纯LLM路线则较为“直接”——将图数据转换为文本或特定标识,然后测试LLM能否直接理解并处理。
而GNN+LLM路线则试图探索两者的协同效应:GNN负责结构感知,LLM负责语义理解和多任务适配。
石川教授团队围绕图数据大模型的关键问题,提出了三个代表性工作。
图转换器 CoBFormer
图转换器的核心思想是借鉴Transformer架构的全连接能力来处理图数据。但这里存在一个关键问题:全连接意味着全局视野,但图上的“全局化”是否总是好事?
通过理论与实验,团队发现图转换器存在“过全局化”问题,即全局注意力并非永远有益。为此,他们提出聚类策略:先将节点按相似性分成不同簇,然后在簇内处理局部信息,簇间处理全局信息,通过解耦缓解过全局化。同时,通过协同训练融合结构信息和特征信息。
在同配图、异配图以及大规模网络等七个数据集上,该方法在节点分类任务中取得了显著性能提升,并大幅降低了显存消耗。
图对齐大语言模型 GraphTranslator
第二个工作旨在实现图模型与LLM的“对接”,目标是一套模型既能完成传统预定义图任务,又能处理开放式图理解任务。
核心设计是一个Translator层:先将图模型的表示向量翻译到LLM的token空间,然后用图模型处理预定义任务,用LLM处理开放式任务。
在淘宝业务数据和公开文献数据集ArXiv上,该方法在零样本分类任务中取得了最佳效果。在多轮对话形式的开放式问答中,模型展现出更好的图结构信息理解能力,回答的深度和细致程度明显提升。
基于图工具的大模型预测器:LLM4Graph
第三个工作另辟蹊径:与其让大模型直接理解图数据,不如让它学会使用工具来解决图问题。具体来说,就是设计一个Agent,使其能够像人类专家一样,针对不同图任务自动调用合适的工具来执行。
研究分为两步走:
第一步,提出了名为 ProGraph 的图任务基准,涵盖图理论、图统计、图表示等复杂问题,用于评估现有模型的图处理能力。
第二步,构造训练数据集——利用检索增强生成(RAG)提升闭源模型能力,通过指令微调提升开源模型能力。
实验结果显示,LLM直接在ProGraph基准上表现不佳,但借助LLM4Graph框架,性能得到显著增强。
从模型突破到生态重构
团队在图机器学习的模型层面做了大量工作,核心目标始终是利用大模型手段,更好地挖掘和处理图数据。此外,团队在开源生态方面也有重要贡献:发布了首个异质图神经网络平台OpenHGNN,以及首个支持多深度学习框架的图神经网络平台GammaGL,大幅降低了开发者使用图技术的门槛。
值得一提的是,团队还联合国内顶尖高校和企业,共同制定了国际上首部图神经网络标准(标准号20230718-T-469),现已通过团标、国标及HVE标准的审查。这在图技术的规模化落地和产业规范化过程中,无疑是里程碑式的一步。
未来挑战
图基础模型虽然势头强劲,但挑战同样清晰:
- 在同质性方面,跨领域的图结构知识迁移机制仍属未知。目前研究多聚焦于数据和任务的统一处理,但图结构的“常识”究竟是什么、如何表达,在理论上几乎空白。
- 在知识涌现方面,相关探索还很初步。图模型是否真的能具备所谓的“大模型”属性(参数规模和算力需求上的涌现能力),目前尚无定论。
- 在多模态融合方向,图数据能否成为大模型不可或缺的组成部分,也尚未形成共识。不过在某些特定场景(如代码逻辑分析、药物分子设计),图结构的不可替代性已非常明显。长远来看,图模型对序列和网格结构具有天然兼容优势,极有可能成为多模态数据处理的基础架构。
