Probabilidad: Aprender de los datos

En 1654 el caballero de Méré le planteó a Blaise Pascal un problema de apuestas: si una partida a varias rondas se interrumpe antes de acabar, ¿cómo se reparte el bote de forma justa? Pascal se lo contó por carta a Pierre de Fermat, y en esa correspondencia nació el cálculo de probabilidades. Tres siglos después, la misma matemática que repartía apuestas decide qué palabra escribe ChatGPT.

Un modelo de lenguaje no «sabe» qué palabra viene después: asigna una probabilidad a cada palabra posible. Todo lo que hace se apoya en este lenguaje.

Variables aleatorias y distribuciones

Una variable aleatoria $X$ es una cantidad cuyo valor depende del azar: el resultado de una moneda, la altura de una persona elegida al azar o la próxima palabra de un texto. Su distribución $p (x) = P (X = x)$ asigna a cada resultado un número entre 0 y 1, y la suma de todos es 1:

p (x) \geq 0, \sum_{x} p (x) = 1 .

El valor esperado es la media ponderada por las probabilidades, $𝔼 [X] = \sum_{x} x p (x)$ , y la varianza mide cuánto se dispersa la variable alrededor de esa media, $Var (X) = 𝔼 [(X - 𝔼 [X])^{2}]$ .

La ley de los grandes números

Si una moneda sale cara con una probabilidad $p$ que desconocemos, la intuición dice que, tras muchos lanzamientos, la proporción de caras se acercará a $p$ . Jakob Bernoulli dedicó veinte años a demostrarlo, y el resultado se publicó en 1713, ocho años después de su muerte, en Ars Conjectandi. Lo llamó su «teorema áureo».

Teorema (ley débil de los grandes números)

Sean $X_{1}, X_{2}, \dots$ variables independientes con la misma distribución, media $μ$ y varianza finita $σ^{2}$ , y sea ${\bar{X}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}$ su media muestral. Para todo $ε > 0$ ,

lim_{n \to \infty} P (| {\bar{X}}_{n} - μ | > ε) = 0 .

Demostración (con la desigualdad de Chebyshev)

Por independencia, $Var ({\bar{X}}_{n}) = σ^{2} / n$ . La desigualdad de Chebyshev dice que una variable se aleja de su media más de $ε$ con probabilidad como mucho $Var / ε^{2}$ , así que

P (| {\bar{X}}_{n} - μ | > ε) \leq \frac{σ^{2}}{n ε^{2}} ⟶ 0 cuando n \to \infty .

La demostración da algo más que el límite: el error típico de la media decrece como $σ / \sqrt{n}$ . Para tener el doble de precisión hacen falta cuatro veces más datos. Esta ley de rendimientos decrecientes reaparece, con otros exponentes, en las leyes de escalado de los LLM.

Una moneda trucada con una probabilidad de cara

p

oculta. Izquierda: la frecuencia de caras se acerca a

p

a medida que crece

n

(ley de los grandes números; el eje horizontal es logarítmico). Derecha: lo que creemos sobre

p

después de cada lanzamiento, según el teorema de Bayes. Prueba a empezar con la creencia de que la moneda es justa y observa cuánto cuesta convencerte de lo contrario.

El teorema de Bayes

La ley de los grandes números habla de lo que pasa a la larga, pero casi nunca tenemos infinitos datos. ¿Qué podemos decir de $p$ después de ver solo diez lanzamientos? El reverendo Thomas Bayes trató ese problema inverso en un ensayo que su amigo Richard Price publicó en 1763, después de su muerte. Laplace lo redescubrió y lo generalizó en 1774.

Teorema (Bayes)

Para una hipótesis $H$ y unos datos $D$ con $P (D) > 0$ ,

\underset{posterior}{\underset{⏟}{P (H ∣ D)}} = \frac{\overset{verosimilitud}{\overset{⏞}{P (D ∣ H)}} \overset{prior}{\overset{⏞}{P (H)}}}{P (D)} .

Demostración

Por la definición de probabilidad condicionada, $P (H \cap D) = P (H ∣ D) P (D) = P (D ∣ H) P (H)$ . Basta con despejar $P (H ∣ D)$ .

El teorema cabe en una línea, pero su lectura es profunda: el prior resume lo que creíamos antes de ver los datos, la verosimilitud mide lo bien que cada hipótesis explica lo observado y el posterior es la creencia actualizada. Cada dato nuevo convierte el posterior de hoy en el prior de mañana.

En la moneda, si el prior sobre $p$ es una distribución $Beta (a, b)$ y observamos $k$ caras en $n$ lanzamientos, el posterior vuelve a ser una Beta:

p ∣ datos \sim Beta (a + k, b + n - k) .

Con el prior uniforme ( $a = b = 1$ ), la probabilidad de que el próximo lanzamiento salga cara es $\frac{k + 1}{n + 2}$ . Es la regla de sucesión de Laplace, con la que en 1814 calculó la probabilidad de que el sol salga mañana sabiendo que ha salido todos los días de la historia registrada. Fue el primer «suavizado» de una estimación, y los modelos de lenguaje estadísticos lo usarían doscientos años después para no asignar probabilidad cero a las palabras que no habían visto nunca.

Máxima verosimilitud: la función de pérdida de la IA

Ronald Fisher propuso entre 1912 y 1922 un criterio más directo: de entre todos los valores posibles del parámetro, quedarse con el que hace más probables los datos observados. Si los datos son independientes, la verosimilitud es un producto, y como multiplicar muchos números pequeños da problemas numéricos se maximiza su logaritmo:

\hat{θ} = \underset{θ}{argmax} \prod_{i = 1}^{n} p (x_{i} ∣ θ) = \underset{θ}{argmin} \underset{log-verosimilitud negativa}{\underset{⏟}{(- \sum_{i = 1}^{n} \log p (x_{i} ∣ θ))}} .

Con la moneda sale lo esperado, $\hat{p} = k / n$ . Pero la expresión de la derecha merece una segunda mirada: es exactamente la función que se minimiza al entrenar cualquier modelo de lenguaje. En el siguiente capítulo veremos que también tiene nombre en teoría de la información: entropía cruzada.

La idea clave

Entrenar un modelo es elegir los parámetros que hacen más probables los datos de entrenamiento. Todo lo demás (redes, gradientes, atención) son maneras de expresar y optimizar esa probabilidad.

La regla de la cadena de la probabilidad

Queda una pieza. ¿Cómo se asigna probabilidad a una frase entera, si el número de frases posibles es astronómico? Con una identidad elemental que se sigue de aplicar una y otra vez la definición de probabilidad condicionada:

Regla de la cadena

P (w_{1}, w_{2}, \dots, w_{T}) = \prod_{t = 1}^{T} P (w_{t} ∣ w_{1}, \dots, w_{t - 1}) .

La probabilidad de un texto es el producto de las probabilidades de cada palabra condicionada a todas las anteriores. Esta identidad convierte el problema imposible de modelar textos completos en otro manejable: predecir la palabra siguiente. Un LLM es un aproximador gigantesco de $P (w_{t} ∣ w_{< t})$ , y genera texto muestreando de esa distribución, una palabra cada vez.

Ya sabemos qué queremos estimar. Falta saber cuánta incertidumbre contiene una distribución y cómo medir lo lejos que está un modelo de la realidad. Esas preguntas las respondió Claude Shannon en 1948.

Referencias

J. Bernoulli (1713). Ars Conjectandi. Basilea.
T. Bayes (1763). «An Essay towards Solving a Problem in the Doctrine of Chances». Philosophical Transactions of the Royal Society, 53.
P.-S. Laplace (1814). Essai philosophique sur les probabilités. París.
R. A. Fisher (1922). «On the Mathematical Foundations of Theoretical Statistics». Philosophical Transactions of the Royal Society A, 222.
E. T. Jaynes (2003). Probability Theory: The Logic of Science. Cambridge University Press.

§Variables aleatorias y distribuciones

§La ley de los grandes números

§El teorema de Bayes

§Máxima verosimilitud: la función de pérdida de la IA

§La regla de la cadena de la probabilidad