论文略读：ASurvey of Large Language Models for Graphs

2024 KDD

• 归纳了四种主要的graph+大模型
  • GNNs as Prefix
  • LLMs as Prefix
  • LLMs-Graphs Integration
  • LLMs-Only

1 GNNs as Prefix

1.1 节点级 Token 化

• 将图结构中的每个节点单独输入到 LLM 中
• 使 LLM 能够深入理解细粒度的节点级结构信息，并准确辨别不同节点间的关联与差异
• 最大限度地保留每个节点的特有结构特征

1.2 图级 Token 化

、

• 将graph综合成一个统一的图表示，喂给大模型

2 LLMs as Prefix

2.1 LLM作为嵌入器

• 借助大模型在语言总结和建模方面的卓越能力，为 GNNs 生成富有意义和效果的嵌入，从而提升其训练效果

2.2 LLM作为label

• LLM生成的信息不直接作为 GNNs 的输入数据，而是构成了更为精细的优化监督信号