Regresión lineal

Nivel UniversitarioDificultad ★★★★★Aplicación⌖ Ver en el mapa

¿Qué es?

Ajustar y^=w⋅x+b\hat y = w\cdot x + b minimizando el error cuadrático. El problema de aprendizaje más sencillo, resoluble en forma cerrada anulando el gradiente, y la plantilla de todo lo que viene después.

Fórmulas

min⁡w1N∥Xw−y∥2  ⟹  w∗=(X𝖳X)−1X𝖳y\min_w \frac1N\norm{Xw - y}^2 \implies w^\ast = (X^{\mathsf T}X)^{-1}X^{\mathsf T}y

¿Por qué importa?

Sigue siendo el primer modelo que probar, la referencia para todos los demás y el lugar donde el vínculo «derivada = 0 ⇒ óptimo» se ve más claro.

Las matemáticas que hay detrás

  • Extremos en varias variables★★★★★fundamental

    Los mínimos cuadrados ordinarios se resuelven anulando el gradiente: las ecuaciones normales.

¿Dónde se utiliza?

Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:

Qué depende de él

Esta página tiene lo esencial. Un desarrollo más completo (intuición, definición formal, ejemplo resuelto) está en camino.

↑ ↓ para navegar · ↵ · Esc