Regresión logística

Nivel UniversitarioDificultad ★★★★★Aplicación⌖ Ver en el mapa

¿Qué es?

Clasificación binaria con p(y=1∣x)=σ(w⋅x+b)p(y = 1\mid x) = \sigma(w\cdot x + b), entrenada por máxima verosimilitud (entropía cruzada). Es convexa, así que el descenso de gradiente encuentra el óptimo global: una sola neurona, y el puente hacia las redes neuronales.

Fórmulas

∇wL=1N∑i(σ(w⋅xi+b)−yi) xi\nabla_w L = \frac1N\sum_i\big(\sigma(w\cdot x_i + b) - y_i\big)\,x_i

¿Por qué importa?

Las puntuaciones de fraude, la predicción de clics y los modelos de riesgo médico siguen siendo regresiones logísticas; su gradiente es el caso más sencillo de retropropagación.

Las matemáticas que hay detrás

¿Dónde se utiliza?

Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:

Qué depende de él

Esta página tiene lo esencial. Un desarrollo más completo (intuición, definición formal, ejemplo resuelto) está en camino.

↑ ↓ para navegar · ↵ · Esc