Calculus×Computing
EN

Varianza

Nivel UniversitarioDificultad ★★★★★Concepto⌖ Ver en el mapa

¿Qué es?

Var⁡(X)=𝔼[(X−𝔼X)2]\Var(X) = \E[(X - \E X)^2]: la distancia cuadrática media a la media. La varianza de una media de NN muestras independientes es σ2/N\sigma^2/N: la ley de 1/N1/\sqrt N que gobierna el error de Monte Carlo, el tamaño de los lotes y los tests A/B.

Fórmulas

Var⁡(X)=𝔼[X2]−(𝔼X)2,Var⁡(1N∑i=1NXi)=σ2N\Var(X) = \E[X^2] - (\E X)^2, \qquad \Var\Big(\frac1N\sum_{i=1}^{N}X_i\Big) = \frac{\sigma^2}{N}

Aplicaciones en informática

  • Métodos de Monte Carlo★★★★★fundamentalComputación científica y algoritmos

    El error de Monte Carlo es σ/N\sigma/\sqrt N; reducir la varianza (muestreo por importancia, variables de control) es la palanca principal.

  • Filtro de Kalman★★★★★fundamentalRobótica y control

    La ganancia de Kalman pondera predicción y medida según sus varianzas.

Dónde aparece en IA

  • Descenso de gradiente estocástico (SGD)★★★★★frecuenteIA y machine learning

    La varianza del ruido del gradiente cae como 1/∣B∣1/|B|; fija el learning rate y el tamaño de lote útiles.

  • Momento y Adam★★★★★frecuenteIA y machine learning

    Adam divide por una estimación móvil del segundo momento del gradiente.

  • Redes neuronales★★★★★frecuenteIA y machine learning

    La inicialización de Xavier/He elige varianzas de los pesos para que las activaciones mantengan una varianza estable entre capas.

¿Dónde se utiliza?

Temas de informática a los que se llega desde aquí, con la cadena de ideas que lleva a ellos:

λ Computación científica y algoritmos

3D Gráficos por computador

⚙ Robótica y control

ℒ IA y machine learning

Esta página tiene lo esencial. Un desarrollo más completo (intuición, definición formal, ejemplo resuelto) está en camino.

↑ ↓ para navegar · ↵ · Esc