Redes neuronales de grafos
Paso de mensajes sobre relaciones
Moléculas, redes sociales, carreteras y proteínas no son cuadrículas ni secuencias: son grafos. Una GNN aprende dejando que cada nodo converse con sus vecinos.
Intuición
Una red neuronal de grafos actualiza la representación de cada nodo combinando la de sus vecinos: «dime con quién andas y te diré quién eres». Tras rondas de este paso de mensajes, cada nodo resume su vecindario de radio .
Esto hace que las GNN sean invariantes a permutaciones: no importa cómo numeres los nodos, el resultado es el mismo. Es el sesgo inductivo correcto para datos relacionales.
En el laboratorio usamos un dato real y célebre: el club de karate de Zachary (1977), una red de 34 personas que se dividió en dos tras un conflicto. Con solo dos nodos etiquetados —el instructor y el administrador—, una GCN entrenada en vivo predice el bando de los demás.
Mecanismo
Esquema general (MPNN, Gilmer et al., 2017): , . La GCN de Kipf y Welling (2017) usa una agregación normalizada: con .
GAT (Veličković et al., 2018) pondera a los vecinos con atención; GraphSAGE (Hamilton et al., 2017) muestrea vecindarios para escalar. Xu et al. (2019) probaron que el poder discriminativo de las GNN de paso de mensajes está acotado por la prueba de isomorfismo de Weisfeiler-Lehman.
Aplicaciones: predicción de propiedades moleculares, recomendación, física de partículas y pronóstico meteorológico (GraphCast, 2023).
Laboratorio
GCN semisupervisada en el club de karate
Grafo real de Zachary (78 aristas). Solo dos nodos tienen etiqueta; el resto se clasifica por paso de mensajes. Arrastra nodos, añade etiquetas y reentrena.
Historia
- 1968
Weisfeiler y Lehman proponen el refinamiento de colores para el isomorfismo de grafos.
Weisfeiler & Lehman (1968), NTI Series 2(9)
- 1977
Zachary publica la red del club de karate.
Zachary (1977), J. Anthropological Research 33(4)
- 2009
Scarselli, Gori et al. formalizan el modelo de red neuronal de grafos.
Scarselli et al. (2009), IEEE Trans. Neural Networks 20(1)
- 2017
GCN de Kipf y Welling; MPNN de Gilmer et al. para química cuántica.
Kipf & Welling (2017), ICLR; Gilmer et al. (2017), ICML
- 2018
Graph Attention Networks.
Veličković et al. (2018), ICLR
- 2019
«How Powerful are Graph Neural Networks?» conecta GNN con Weisfeiler-Lehman.
Xu, Hu, Leskovec & Jegelka (2019), ICLR
- 2023
GraphCast pronostica el clima a 10 días mejor que el sistema operativo HRES del ECMWF en la mayoría de métricas.
Lam et al. (2023), Science 382
Límites
Sobresuavizado: con muchas capas todos los nodos terminan pareciéndose.
Sobreaplastamiento: la información de vecindarios exponenciales se comprime en vectores fijos.
Poder expresivo limitado por Weisfeiler-Lehman: hay grafos distintos que no distinguen.
¿Somos nuestras relaciones?
Una GNN no conoce a un nodo por sí mismo sino por su posición en la red. Es una ontología relacional, cercana al estructuralismo —el significado de un signo es su diferencia con los demás (Saussure)— y a la metafísica de procesos.
¿Hay algo en una persona, o en un concepto, que no se reduzca a sus relaciones?