Convergencia de sucesiones

Nivel FundamentalDificultad ★★★★★Concepto⌖ Ver en el mapa

¿Qué es?

an→La_n \to L significa: por pequeña que sea la tolerancia ε\varepsilon que elijas, a partir de cierto índice todos los términos están a menos de ε\varepsilon de LL. Una sucesión que no converge diverge: hacia infinito, o oscilando para siempre.

¿Por qué existe?

«Acercarse cada vez más» no basta (1/n1/n también se acerca cada vez más a −1-1). Hace falta una definición que en principio pudiera comprobar un ordenador: dame cualquier tolerancia y te doy un índice a partir del cual el error se queda por debajo. Esa definición es además exactamente lo que intenta certificar un criterio de parada en el software numérico.

Intuición

Dibuja una banda horizontal de semianchura ε\varepsilon alrededor de LL. Converger significa que, sea cual sea la anchura de la banda, los puntos (n,an)(n, a_n) acaban entrando en ella y no vuelven a salir. Si estrechas la banda puede que haya que esperar más: ese tiempo de espera N(ε)N(\varepsilon) es lo que el análisis numérico llama velocidad de convergencia.

Definición formal

lim⁡n→∞an=L  ⟺  ∀ε>0 ∃N∈ℕ ∀n≥N: ∣an−L∣<ε.\lim_{n\to\infty} a_n = L \iff \forall \varepsilon > 0\ \exists N \in \N\ \forall n \ge N:\ |a_n - L| < \varepsilon.

Una sucesión es de Cauchy si ∀ε>0 ∃N ∀m,n≥N:∣am−an∣<ε\forall \varepsilon > 0\ \exists N\ \forall m, n \ge N: |a_m - a_n| < \varepsilon. En ℝ\R (y solo porque ℝ\R es completo) las sucesiones de Cauchy son exactamente las convergentes.

Fórmulas

1n→0,rn→0 (∣r∣<1),(1+xn)n→ex\frac1n \to 0, \qquad r^n \to 0 \ (|r| < 1), \qquad \left(1 + \tfrac{x}{n}\right)^n \to e^x

Ejemplo

an=nn+1→1a_n = \frac{n}{n+1} \to 1: dado ε\varepsilon, ∣an−1∣=1n+1<ε|a_n - 1| = \frac{1}{n+1} < \varepsilon en cuanto n>1ε−1n > \frac1\varepsilon - 1. Para ε=10−6\varepsilon = 10^{-6} hace falta N=106N = 10^6: convergencia lenta, «sublineal». Compárala con la iteración de Newton para 2\sqrt 2, que llega a 10−1510^{-15} en cinco pasos.

¿Por qué importa?

Todo algoritmo iterativo (entrenar un modelo, resolver un sistema lineal, calcular el PageRank) es una sucesión que esperamos que converja. Demostrar que lo hace, y a qué velocidad, es como sabemos que merece la pena ejecutarlo; y en la práctica el criterio de Cauchy («para cuando dos iterados seguidos apenas cambien») es la regla de parada más común.

Aplicaciones en informática

  • Cálculo científico★★★★★frecuenteComputación científica y algoritmos

    Criterios de parada como ∣xk+1−xk∣<tol|x_{k+1} - x_k| < \text{tol} son una comprobación finita de la condición de Cauchy.

Dónde aparece en IA

  • Descenso de gradiente★★★★★frecuenteIA y machine learning

    Los teoremas de convergencia garantizan f(xk)→f∗f(x_k) \to f^\ast bajo condiciones sobre el tamaño de paso.

¿Dónde se utiliza?

Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:

Qué depende de él

Ejercicios

1Demostración

Demuestra con la definición que 3n+1n→3\frac{3n + 1}{n} \to 3.

Solución

∣3n+1n−3∣=1n<ε|\frac{3n+1}{n} - 3| = \frac1n < \varepsilon siempre que n>1/εn > 1/\varepsilon; toma N=⌊1/ε⌋+1N = \lfloor 1/\varepsilon \rfloor + 1.

2IA

Una pérdida de entrenamiento va 2,0; 1,0; 0,5; 0,25;…2{,}0;\ 1{,}0;\ 0{,}5;\ 0{,}25;\dots (se divide por dos cada época). ¿Tras cuántas épocas baja de 10−310^{-3}? ¿Qué tipo de convergencia es?

Solución

2⋅2−k<10−3  ⟺  k>log⁡22000≈10,972 \cdot 2^{-k} < 10^{-3} \iff k > \log_2 2000 \approx 10{,}97, luego 11 épocas. El error se reduce en un factor constante: convergencia lineal (geométrica).

↑ ↓ para navegar · ↵ · Esc