Retropropagación (backpropagation)

El algoritmo que calcula $\partial L/\partial W$ y $\partial L/\partial b$ para cada capa de una red: una pasada hacia delante guardando los valores intermedios y otra hacia atrás aplicando la regla de la cadena desde la pérdida hasta las entradas. Coste: unas dos veces la pasada hacia delante, sea cual sea el número de parámetros.

El descenso de gradiente necesita el gradiente respecto de cada peso. Calcular cada derivada parcial por separado (o con diferencias finitas) cuesta una evaluación completa de la red por peso: imposible con $10^9$ pesos. La retropropagación comparte el trabajo: la derivada de la pérdida respecto de la salida de una capa se calcula una vez y se reutiliza para todos los pesos que entran en ella.

Repartir culpas. La pérdida dice «la salida se ha pasado tanto». Cada capa devuelve la culpa a sus entradas en proporción a cuánto influyeron (las derivadas locales), y cada peso recibe (culpa que llega a su neurona) × (la entrada que multiplicó). Ese producto es $\partial L/\partial w$.

¿De dónde sale? Sigue los prerrequisitos: retropropagación ← regla de la cadena ← derivadas; ← derivadas parciales ← gradiente ← funciones de varias variables; ← descenso de gradiente ← optimización; ← redes neuronales.

Para $\hat y = f(z)$, $z = Wx + b$ y pérdida $L(\hat y, y)$, con $\delta = \frac{\partial L}{\partial z} = \frac{\partial L}{\partial\hat y}\odot f'(z)$:

En una red profunda la última fórmula pasa $\delta$ a la capa anterior: $\delta^{(\ell)} = \big(W^{(\ell+1)\mathsf T}\delta^{(\ell+1)}\big)\odot\sigma'(z^{(\ell)})$.

adelante: a0 = x;  para ℓ = 1..L:  zℓ = Wℓ aℓ₋₁ + bℓ;  aℓ = σ(zℓ)    # guardar cada zℓ, aℓ
pérdida:  L = ℓ(aL, y);  δ = ∂ℓ/∂aL ⊙ σ'(zL)
atrás:    para ℓ = L..1:
              ∂L/∂Wℓ = δ aℓ₋₁ᵀ ;  ∂L/∂bℓ = δ
              δ = (Wℓᵀ δ) ⊙ σ'(zℓ₋₁)
actualizar: Wℓ ← Wℓ − η ∂L/∂Wℓ ;  bℓ ← bℓ − η ∂L/∂bℓ

Una neurona, $\hat y = \sigma(wx + b)$, pérdida cuadrática $L = \frac12(\hat y - y)^2$, con $x = 1{,}5$, $y = 1$, $w = 0{,}8$, $b = -0{,}2$. Hacia delante: $z = 1{,}0$, $\hat y = \sigma(1) \approx 0{,}731$, $L \approx 0{,}036$. Hacia atrás: $\partial L/\partial\hat y = -0{,}269$, $\sigma'(z) = 0{,}197$, $\delta \approx -0{,}053$, así que $\partial L/\partial w = \delta x \approx -0{,}080$ y $\partial L/\partial b \approx -0{,}053$. Ambas negativas: hay que aumentar $w$ y $b$. Reprodúcelo paso a paso en la demo.

La popularizaron Rumelhart, Hinton y Williams (1986), con raíces en la diferenciación automática en modo inverso de Linnainmaa (1970) y en la teoría de control. Hizo entrenables las redes multicapa y, escalada en GPU, hizo posible el deep learning. Cada llamada a loss.backward() la ejecuta.