导读

2020年即将结束，但这一年在图机器学习（GML）领域的研究进展依然值得关注。以下是我对2020年GML领域的一些重要趋势和相关论文的讨论。

引言

本文旨在介绍2020年在顶级学术会议上展示的图机器学习的前沿研究成果，而非详细介绍图神经网络（GNNs）的基本概念。

在GML领域，共有约150篇论文提交，其中大约三分之一被接受，这意味着GML领域的发展势头强劲。

2020年的重要趋势

1. 对GNN有更扎实的实际理解

今年，我们看到了更多关于GNN理论基础的研究。这些研究不仅加深了对GNN的理解，还揭示了其局限性。例如，一篇论文探讨了节点嵌入维度和层数的关系，发现当前大多数GNN模型在处理某些图问题时存在不足之处。

• 节点嵌入维度与层数：研究表明，节点嵌入的维度（网络的宽度）与层数（网络的深度）之积应与图的大小成比例，否则GNN难以解决一些基本的图问题，如周期检测、直径估计和顶点覆盖等。
• 权值条件下的节点分类：另一篇论文指出，当使用特定权重时，随着层数增加，图卷积网络（GCNs）在节点度和连通分量方面的学习能力有限。
• 逻辑表达能力：还有一篇论文探讨了GNN在节点分类上的逻辑表达能力，发现GNN在处理某些逻辑问题时存在局限性。

2. GNN的新应用

GNN在实际应用中展现出了巨大的潜力。例如，GNN被应用于代码修复、游戏AI、IQ测试推理、计算图优化、分子生成和对话系统等领域。

• 代码修复：一篇论文介绍了如何利用GNN修复JavaScript代码中的错误。该方法通过抽象语法树和指针网络来识别需要修改的部分，并使用LSTM网络执行修复操作。
• 游戏AI：GNN也被应用于游戏AI中，如DeepMind的论文展示了如何通过GNN优化TensorFlow计算图，从而提高计算效率。
• 分子生成：在分子生成方面，GNN同样表现出色，可以生成具有特定性质的分子结构。

3. 知识图谱的兴起

知识图谱作为一种结构化数据表示方法，近年来受到了越来越多的关注。知识图谱上的推理任务变得越来越重要，例如回答复杂的问题，如“史蒂芬·斯皮尔伯格的哪些电影在2000年之前获得了奥斯卡奖？”这类问题可以转化为逻辑查询。

• 知识图谱推理：在知识图谱推理方面，一些论文提出了新的方法，如Query2box和Differentiable Learning of Numerical Rules，这些方法通过新的嵌入技术来改进知识图谱的推理能力。
• 模型的再评估：还有一些论文重新评估了现有模型在知识图谱上的表现，发现通过适当的调整，一些旧的模型仍然能够达到最新的技术水平。

4. 图嵌入的新框架

图嵌入是图机器学习中的一个重要话题，近年来出现了许多新的图嵌入方法。这些方法旨在提高嵌入的准确性和效率。

• GraphZoom：一篇论文提出了GraphZoom框架，通过多尺度谱方法来加速图嵌入的计算，同时保持较高的准确性。该方法通过对图进行简化和粗化，最终实现快速而准确的图嵌入。
• 图分类：还有一些论文针对图分类任务提出了新的方法，如GraphZoom和Understanding Isomorphism Bias等，这些方法通过改进图嵌入技术来提高图分类的性能。

总结

随着GML领域的不断发展，我们期待在未来几年内看到更多有趣的研究成果。从启发式的应用到更合理的理论方法，GNN在处理各种图表示问题上展现出了强大的能力。尽管GML已经取得了一些显著的进展，但我们仍需继续关注这一领域的最新发展，以推动其进一步的发展。