图的基本概念和 pytorch_geometric 库的使用

• 图是表示实体之间的关系的一种数据结构

• 在数学中，图是描述于一组对象的结构，其中某些对象对在某种意义上是“相关的”。这些对象对应于称为顶点的数学抽象（也称为节点或点），并且每个相关的顶点对都称为边（也称为链接或线）。通常，图形以图解形式描绘为顶点的一组点或环，并通过边的线或曲线连接。 图形是离散数学的研究对象之一。

• 图分为有向图和无向图两类，是根据图中的边是否有向来判定(Directed/Undirected edge)

• 生活中的图

  • 图片是一种特殊的图，图片的 shape 是(highth,width,channel)可以看做是一个由 highth,width 组成的图，每个顶点的属性是 RGB 值
  • 文本也是一种特殊的图，例如 I Love Deep Learning 其中每个单词可以视作一个顶点，它们的表示为I → Love → Deep → Learning
  • 分子也是一种图，每个原子视为一个顶点，分子之间的键是边
  • 社交网络是一种图，比如说每个人在社交中认识的人，是一种图
  • 引用图，是一种有向图，我的文章引用别人的文章，也是一张图

• 图 G 是一个有序二元组(V,E)，其中 V 称为顶集(Vertices Set)，E 称为边集(Edges set)，E 与 V 不相交。它们亦可写成 V(G)和 E(G)。其中，顶集的元素被称为顶点(Vertex)，边集的元素被称为边(edge)。

• 在存储上，可以使用数组（邻接矩阵 adjacency matrix）、邻接表、十字链表、邻接多重表等等表示。

• graph level 预测整个图的属性，例如分子，苯环、奈环的环数是不一样的
• node-level 进行语义分割、分类等等
• edge-level 给定顶点，预测边的属性

• 要与深度学习连接起来，我们需要把图变成神经网络能够理解的格式
• 图有四个属性：顶点、边、全局信息和连接性
• 问题在于如何表达连接性，最直接的方法就是:可以使用邻接矩阵来表示，但是这个矩阵会非常大，而且它有很多冗余信息（稀疏矩阵）
• 邻接矩阵将行列的顺序交换之后是一样的意义，如何能够保证神经网络输入上述两个矩阵，结果不变呢
• 有一种方法:可以使用邻接列表来表示：详情见GNNConstruction.ipynb

GNN 是对图的所有属性进行可优化的转换，而且能够保留图的对称性

GNN 的输出和输入都是一个图，但是不会改变图的连接性

Here is the introduction of the Graph

两种动机：一种来自于 CNN，一种来源于图嵌入，所谓嵌⼊，就是对图的节点、边或者⼦图(subgraph)学习得到⼀个低维的向 量表⽰，传统的机器学习⽅法通常基于⼈⼯特征⼯程来构建特征，但是这种⽅法受限于灵活性不⾜、表达能⼒不⾜以及⼯程量过⼤的问题

CNN 和 RNN 不能够适当的处理图结构的输入，GNN 采⽤在每个节点上分别传播(propagate)的⽅式进⾏学习，由此忽略了 节点的顺序，相当于 GNN 的输出会随着输⼊的不同⽽不同。

• 图卷积网络和图注意力网络，因为涉及到传播步骤。
• 图的空域网络，常用于动态图
• 图的自编码，该模型通常使用无监督学习的方式
• 图生成网络，因为是生成式网络

GNN 的目标是学习得到一个状态的嵌入向量 hv∈Rs，这个向量包含每个节点的邻居节点信息，其中 hv 表示节点 v 的状态向量，这个向量可以用于产生节点的输出 ov，可以是节点的标签。

• 对不动点使用迭代的方法来更新节点的隐藏状态，效率不高
• 原始 GNN 使用相同的参数，另外在一些边上可能会存在某些信息特征不能够被有效地考虑进去
• 如果学习的是节点的向量表示而不是图的表示，使用不动点方法是不妥当的

• Spectral Methods
  • ChebNet
  • 1st-order model
  • Sigle Paramet
  • GCN
• Non-Spectral Methods
  • Neural FPs
  • DCNN
  • GraphSAGE
• Graph Attention Networks
  • GAT
• Gated Graph Neural Networks
  • GGNN
• Graph Long short-term memory
  • Tree LSTM (Child Sum)
  • Tree LSTM (N-ary)

• MPNN (结合了 GNN 和 GCN 的方法)
• NLNN (结合几种 Self-attention 方法)
• GN (结合 MPNN 和 NLNN 以及某些 GNN 的变体)

• 物理系统应用：对现实世界中的物理系统进行建模
• 化学和生物应用：计算分子指纹、蛋白质结构等等
• 知识图谱应用：解决跨语言的知识图谱对齐任务
• 图像任务：视觉推理、语义分割、zero-shot and few-hot learning
• 文本任务：文本分类、序列标注、机器翻译、关系抽取、文本生成、关系推理
• 产生式模型：NETGAN、MOLGAN
• 组合优化： 解决在图上的 NP-Hard 问题，TSP、MSP 问题
• 推荐系统

• Shallow Structure
• Dynamic Graphs
• Non-Structure Scenarios
• Scalability

1. torch，严格按照官网来,这个问题应该不大

2. pyg，按照官网来，不然出的错比写的代码还多。。

3. 记得选对 cuda 版本，不然会报错，conda 换清华源好像找不到 torch 1.10.2 的 pyg

4. 下面是个例子

   pip install torch==1.10.2+cu113 torchvision==0.11.3+cu113 torchaudio===0.10.2+cu113 -f https://download.pytorch.org/whl/cu113/torch_stable.html
   
   pip install torch-scatter torch-sparse torch-cluster torch-spline-conv torch-geometric -f https://data.pyg.org/whl/torch-1.10.0+cu113.html

A Gentle Introduction to Graph Neural Networks

知乎GNN综述

• 使用 plt 绘 3D 图的时候死活不行，改了 python -m pip install traitlets==4.3.3 --force-reinstall 也不行。 代码在此 之前使用 traitlets = 5.1.1