¿Qué es?
es continua en si : cambios pequeños en la entrada producen cambios pequeños en la salida. Continua en un intervalo significa que se puede dibujar la gráfica sin levantar el lápiz.
¿Por qué existe?
Las medidas nunca son exactas. Si un modelo es continuo, una entrada un poco equivocada da una salida un poco equivocada, y calcular con aproximaciones tiene sentido. La continuidad es además la hipótesis que desbloquea los teoremas de existencia (Bolzano, Weierstrass) en los que se apoyan la búsqueda de raíces y la optimización.
Intuición
En deben cumplirse tres cosas: está definida, el límite existe y ambos coinciden. Cada fallo es un tipo de discontinuidad: un agujero, un salto o una oscilación salvaje. Geométricamente, al hacer zoom sobre una gráfica continua nunca aparece un hueco.
Definición formal
Las sumas, productos, cocientes (donde el denominador no se anula) y composiciones de funciones continuas son continuas; también lo son los polinomios, , , y en .
Fórmulas
- continua en todo punto, derivable salvo en 0
Ejemplo
La función escalón si y en otro caso es discontinua en 0. El perceptrón la usaba como activación, y esa es justo la razón de que los métodos de gradiente no pudieran entrenar perceptrones multicapa hasta que el escalón se sustituyó por la sigmoide, continua (y derivable).
¿Por qué importa?
La continuidad es la promesa mínima de que un método numérico puede funcionar: redondear la entrada no debería cambiar mucho la respuesta. Donde los modelos son discontinuos (fronteras de decisión, colisiones en un motor físico, bordes en una imagen) el software necesita un tratamiento especial.
Aplicaciones en informática
Unir trozos de spline con continuidad , o decide lo suave que se ve la curva.
La simulación supone que el movimiento es continuo entre fotogramas; las colisiones lo rompen y se tratan aparte.
Dónde aparece en IA
Las activaciones deben ser continuas (y derivables casi en todas partes) para que funcione el entrenamiento por gradiente.
¿Dónde se utiliza?
Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:
λ Computación científica y algoritmos
- Integral definida→Métodos de Monte Carlo★★★★★
- Integral definida→Integración numérica (cuadratura)→Cálculo científico★★★★★
- Integral definida→Teorema fundamental del cálculo→Computación simbólica (CAS)★★★★★
- Integral definida→Integrales impropias→Criterio de la integral→Análisis de algoritmos y complejidad★★★★★
- Derivabilidad y derivadas laterales→Teorema de Rolle→Teorema del valor medio→Teorema de Taylor y resto→Coma flotante (IEEE 754)★★★★★
ℒ IA y machine learning
- Continuidad uniforme→Continuidad de Lipschitz→Descenso de gradiente★★★★★
- Integral definida→Convolución→Redes convolucionales (CNN)★★★★★
- Continuidad uniforme→Continuidad de Lipschitz→Descenso de gradiente→Learning rate (tasa de aprendizaje)★★★★★
- Continuidad uniforme→Continuidad de Lipschitz→Descenso de gradiente→Retropropagación (backpropagation)★★★★★
- Continuidad uniforme→Continuidad de Lipschitz→Descenso de gradiente→Descenso de gradiente estocástico (SGD)★★★★★
- Continuidad uniforme→Continuidad de Lipschitz→Descenso de gradiente→Paisaje de la pérdida (loss landscape)★★★★★
- +10
3D Gráficos por computador
- Integral definida→La ecuación de renderizado★★★★★
- Curvas de Bézier y splines★★★★★
- Interpolación→Iluminación y sombreado★★★★★
- Interpolación→Iluminación y sombreado→Ray tracing (trazado de rayos)★★★★★
- Interpolación→Iluminación y sombreado→Ray tracing (trazado de rayos)→Campos de distancia con signo y ray marching★★★★★
- Integral definida→Integrales de línea→Teorema de Green→Procesado de mallas (geometría diferencial discreta)★★★★★
⚙ Robótica y control
- Integral definida→Integrales impropias→Transformada de Laplace→Teoría de control★★★★★
- Integral definida→Variables aleatorias continuas→Función de densidad de probabilidad→Distribuciones continuas→Filtro de Kalman★★★★★
- Integral definida→Integrales impropias→Transformada de Laplace→Teoría de control→Optimización de trayectorias y MPC★★★★★
- Integral definida→Integrales impropias→Transformada de Laplace→Control PID★★★★★
- Teorema de Bolzano→Teorema del valor intermedio→Cinemática inversa★★★★★
⚛ Física y simulación
- Integral definida→Integrales múltiples y cambio de variables→Integrales de superficie y flujo→Teorema de la divergencia (Gauss)→Electromagnetismo (ecuaciones de Maxwell)★★★★★
- Integral definida→Integrales múltiples y cambio de variables→Integrales de superficie y flujo→Teorema de la divergencia (Gauss)→Dinámica de fluidos y CFD★★★★★
- Integral definida→Motores físicos★★★★★
- Integral definida→Integrales de línea→Mecánica clásica★★★★★
- Integral definida→Motores físicos→Simulación gravitatoria de N cuerpos★★★★★
- Integral definida→Integración numérica (cuadratura)→Método de los elementos finitos★★★★★
∿ Señales, multimedia y visión
- Interpolación→Procesamiento de imagen y visión artificial★★★★★
- Integral definida→Convolución→Procesamiento de señales★★★★★
- Integral definida→Convolución→Filtros digitales★★★★★
- Interpolación→Procesamiento de imagen y visión artificial→Compresión multimedia (JPEG, MP3, vídeo)★★★★★
- Integral definida→Integrales impropias→Transformada de Fourier→Teorema de muestreo (Nyquist–Shannon)★★★★★
- Integral definida→Integrales impropias→Transformada de Fourier→Transformada rápida de Fourier (FFT)★★★★★
- +1
⇄ Optimización y sistemas
- Continuidad uniforme→Continuidad de Lipschitz→Descenso de gradiente→Sistemas de recomendación★★★★★
- Integral definida→Variables aleatorias continuas→Función de densidad de probabilidad→Distribuciones continuas→Teoría de colas y rendimiento★★★★★
- Teorema de Weierstrass (valores extremos)→Investigación operativa y logística★★★★★
Qué depende de él
Ejercicios
¿Para qué es continua si , si ?
Solución
Límite por la izquierda , valor . La continuidad exige , luego .
¿Por qué no se puede entrenar con descenso de gradiente una red cuya activación es el escalón ?
Solución
es constante salvo en 0, así que su derivada es 0 casi en todas partes (y no existe en 0). Todo gradiente que pase por ella es cero: los pesos no se mueven nunca.