Continuidad

Nivel FundamentalDificultad ★★★★★Concepto⌖ Ver en el mapa

¿Qué es?

ff es continua en aa si lim⁡x→af(x)=f(a)\lim_{x\to a} f(x) = f(a): cambios pequeños en la entrada producen cambios pequeños en la salida. Continua en un intervalo significa que se puede dibujar la gráfica sin levantar el lápiz.

¿Por qué existe?

Las medidas nunca son exactas. Si un modelo es continuo, una entrada un poco equivocada da una salida un poco equivocada, y calcular con aproximaciones tiene sentido. La continuidad es además la hipótesis que desbloquea los teoremas de existencia (Bolzano, Weierstrass) en los que se apoyan la búsqueda de raíces y la optimización.

Intuición

En aa deben cumplirse tres cosas: f(a)f(a) está definida, el límite existe y ambos coinciden. Cada fallo es un tipo de discontinuidad: un agujero, un salto o una oscilación salvaje. Geométricamente, al hacer zoom sobre una gráfica continua nunca aparece un hueco.

Definición formal

f continua en a  ⟺  ∀ε>0 ∃δ>0: ∣x−a∣<δ⇒∣f(x)−f(a)∣<ε.f \text{ continua en } a \iff \forall\varepsilon > 0\ \exists\delta > 0:\ |x - a| < \delta \Rightarrow |f(x) - f(a)| < \varepsilon.

Las sumas, productos, cocientes (donde el denominador no se anula) y composiciones de funciones continuas son continuas; también lo son los polinomios, exe^x, sin⁡\sin, cos⁡\cos y ln⁡\ln en (0,∞)(0, \infty).

Fórmulas

lim⁡x→af(x)=f(a)\lim_{x\to a} f(x) = f(a)
ReLU⁡(x)=max⁡(0,x)\operatorname{ReLU}(x) = \max(0, x)
continua en todo punto, derivable salvo en 0

Ejemplo

La función escalón H(x)=1H(x) = 1 si x≥0x \ge 0 y 00 en otro caso es discontinua en 0. El perceptrón la usaba como activación, y esa es justo la razón de que los métodos de gradiente no pudieran entrenar perceptrones multicapa hasta que el escalón se sustituyó por la sigmoide, continua (y derivable).

¿Por qué importa?

La continuidad es la promesa mínima de que un método numérico puede funcionar: redondear la entrada no debería cambiar mucho la respuesta. Donde los modelos son discontinuos (fronteras de decisión, colisiones en un motor físico, bordes en una imagen) el software necesita un tratamiento especial.

Aplicaciones en informática

  • Curvas de Bézier y splines★★★★★frecuenteGráficos por computador

    Unir trozos de spline con continuidad C0C^0, C1C^1 o C2C^2 decide lo suave que se ve la curva.

  • Motores físicos★★★★★frecuenteFísica y simulación

    La simulación supone que el movimiento es continuo entre fotogramas; las colisiones lo rompen y se tratan aparte.

Dónde aparece en IA

  • Funciones de activación★★★★★fundamentalIA y machine learning

    Las activaciones deben ser continuas (y derivables casi en todas partes) para que funcione el entrenamiento por gradiente.

¿Dónde se utiliza?

Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:

Qué depende de él

Ejercicios

1Cálculo directo

¿Para qué kk es continua f(x)=kx+1f(x) = kx + 1 si x<1x < 1, f(x)=x2+3f(x) = x^2 + 3 si x≥1x \ge 1?

Solución

Límite por la izquierda k+1k + 1, valor f(1)=4f(1) = 4. La continuidad exige k+1=4k + 1 = 4, luego k=3k = 3.

2IA

¿Por qué no se puede entrenar con descenso de gradiente una red cuya activación es el escalón HH?

Solución

HH es constante salvo en 0, así que su derivada es 0 casi en todas partes (y no existe en 0). Todo gradiente que pase por ella es cero: los pesos no se mueven nunca.

↑ ↓ para navegar · ↵ · Esc