Continuidad de Lipschitz

¿Qué es?

Fórmulas

$$|f(x) - f(y)| \le L\,|x - y|$$

$$\norm{\nabla f(x) - \nabla f(y)} \le L\norm{x - y} \implies f(y) \le f(x) + \nabla f(x)\cdot(y - x) + \tfrac L2\norm{y - x}^2$$

lema de descenso

Dónde aparece en IA

• Descenso de gradiente★★★★★fundamentalIA y machine learning

  El learning rate seguro lo fija la constante de Lipschitz del gradiente: $\eta < 2/L$.

• Modelos generativos★★★★★avanzadaIA y machine learning

  Las Wasserstein GAN necesitan un crítico 1-lipschitziano, impuesto con recorte de pesos, penalización de gradiente o normalización espectral.

¿Dónde se utiliza?

Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:

Qué depende de él

• Problema de valor inicial: existencia y unicidad