¿Qué es?
significa: por pequeña que sea la tolerancia que elijas, a partir de cierto índice todos los términos están a menos de de . Una sucesión que no converge diverge: hacia infinito, o oscilando para siempre.
¿Por qué existe?
«Acercarse cada vez más» no basta ( también se acerca cada vez más a ). Hace falta una definición que en principio pudiera comprobar un ordenador: dame cualquier tolerancia y te doy un índice a partir del cual el error se queda por debajo. Esa definición es además exactamente lo que intenta certificar un criterio de parada en el software numérico.
Intuición
Dibuja una banda horizontal de semianchura alrededor de . Converger significa que, sea cual sea la anchura de la banda, los puntos acaban entrando en ella y no vuelven a salir. Si estrechas la banda puede que haya que esperar más: ese tiempo de espera es lo que el análisis numérico llama velocidad de convergencia.
Definición formal
Una sucesión es de Cauchy si . En (y solo porque es completo) las sucesiones de Cauchy son exactamente las convergentes.
Fórmulas
Ejemplo
: dado , en cuanto . Para hace falta : convergencia lenta, «sublineal». Compárala con la iteración de Newton para , que llega a en cinco pasos.
¿Por qué importa?
Todo algoritmo iterativo (entrenar un modelo, resolver un sistema lineal, calcular el PageRank) es una sucesión que esperamos que converja. Demostrar que lo hace, y a qué velocidad, es como sabemos que merece la pena ejecutarlo; y en la práctica el criterio de Cauchy («para cuando dos iterados seguidos apenas cambien») es la regla de parada más común.
Aplicaciones en informática
Criterios de parada como son una comprobación finita de la condición de Cauchy.
Dónde aparece en IA
Los teoremas de convergencia garantizan bajo condiciones sobre el tamaño de paso.
¿Dónde se utiliza?
Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:
λ Computación científica y algoritmos
- Orden y velocidad de convergencia→Cálculo científico★★★★★
- Series numéricas→Serie geométrica→Análisis de algoritmos y complejidad★★★★★
- Sumas de Riemann→Integral definida→Métodos de Monte Carlo★★★★★
- Método de Newton→Coma flotante (IEEE 754)★★★★★
- Sumas de Riemann→Integral definida→Teorema fundamental del cálculo→Computación simbólica (CAS)★★★★★
ℒ IA y machine learning
- Método de Newton→Optimización de segundo orden (con hessiano)★★★★★
- Series numéricas→Serie geométrica→Aprendizaje por refuerzo★★★★★
- Sumas de Riemann→Integral definida→Convolución→Redes convolucionales (CNN)★★★★★
- Sumas de Riemann→Integral definida→Variables aleatorias continuas→Función de densidad de probabilidad→Inferencia bayesiana★★★★★
- Sumas de Riemann→Integral definida→Variables aleatorias continuas→Función de densidad de probabilidad→Modelos generativos★★★★★
- Descenso de gradiente★★★★★
- +8
⚙ Robótica y control
- Sumas de Riemann→Integral definida→Integrales impropias→Transformada de Laplace→Teoría de control★★★★★
- Método de Newton→Cinemática inversa★★★★★
- Sumas de Riemann→Integral definida→Integrales impropias→Transformada de Laplace→Control PID★★★★★
- Sumas de Riemann→Integral definida→Variables aleatorias continuas→Función de densidad de probabilidad→Filtro de Kalman★★★★★
⚛ Física y simulación
- Series numéricas→Series de Fourier→Ecuación del calor y difusión★★★★★
- Sumas de Riemann→Integral definida→Motores físicos★★★★★
- Sumas de Riemann→Integración numérica (cuadratura)→Método de los elementos finitos★★★★★
- Sumas de Riemann→Integral definida→Integrales de línea→Mecánica clásica★★★★★
- Sumas de Riemann→Integral definida→Motores físicos→Simulación gravitatoria de N cuerpos★★★★★
- Sumas de Riemann→Integral definida→Motores físicos→Dinámica de fluidos y CFD★★★★★
- +1
∿ Señales, multimedia y visión
- Series numéricas→Series de Fourier→Procesamiento de señales★★★★★
- Sumas de Riemann→Integral definida→Convolución→Procesamiento de imagen y visión artificial★★★★★
- Series numéricas→Series de Fourier→Transformada de Fourier→Teorema de muestreo (Nyquist–Shannon)★★★★★
- Series numéricas→Series de Fourier→Transformada de Fourier→Transformada rápida de Fourier (FFT)★★★★★
- Sumas de Riemann→Integral definida→Convolución→Filtros digitales★★★★★
- Series numéricas→Series de Fourier→Procesamiento de señales→Compresión multimedia (JPEG, MP3, vídeo)★★★★★
- +1
Qué depende de él
Ejercicios
Demuestra con la definición que .
Solución
siempre que ; toma .
Una pérdida de entrenamiento va (se divide por dos cada época). ¿Tras cuántas épocas baja de ? ¿Qué tipo de convergencia es?
Solución
, luego 11 épocas. El error se reduce en un factor constante: convergencia lineal (geométrica).