¿Qué es?
Ajustar minimizando el error cuadrático. El problema de aprendizaje más sencillo, resoluble en forma cerrada anulando el gradiente, y la plantilla de todo lo que viene después.
Fórmulas
¿Por qué importa?
Sigue siendo el primer modelo que probar, la referencia para todos los demás y el lugar donde el vínculo «derivada = 0 ⇒ óptimo» se ve más claro.
Las matemáticas que hay detrás
Los mínimos cuadrados ordinarios se resuelven anulando el gradiente: las ecuaciones normales.
¿Dónde se utiliza?
Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:
ℒ IA y machine learning
- Regresión logística★★★★★
- Regresión logística→Redes neuronales★★★★★
- Regresión logística→Redes neuronales→Retropropagación (backpropagation)★★★★★
- Regresión logística→Redes neuronales→Paisaje de la pérdida (loss landscape)★★★★★
- Regresión logística→Redes neuronales→Retropropagación (backpropagation)→Deep learning (aprendizaje profundo)★★★★★
- Regresión logística→Redes neuronales→Paisaje de la pérdida (loss landscape)→Optimización de segundo orden (con hessiano)★★★★★
- +3
Qué depende de él
Esta página tiene lo esencial. Un desarrollo más completo (intuición, definición formal, ejemplo resuelto) está en camino.