Distribución de gaussianas conjuntas condicionadas a su suma

Sea A una matriz determinista de tamaño$n\times n$y deja$v$ser un vector de tamaño$n$. El vector aleatorio$(AX, S)$es en conjunto normal. La idea es construir ambos

1. una matriz$A$tal que$AX$es independiente de$S$, y
2. un vector$v$tal que$X = AX + Sv$.

¿Por qué? Entonces por independencia tenemos una descripción clara como el cristal de la distribución de$X$dado$S=s$: La distribución de$X$dado$S=s$es normal

$$N(sv + A\mu, A\Sigma A^T)$$ .

Ahora vamos a encontrar tal$A$y$v$.

• Desde$(AX,S)$son conjuntamente normales,$AX$es independiente de$S$si y solo si su matriz de covarianza es cero, es decir,$E[A(X-\mu)(S - E[S])]=0$. Si$u=(1,...,1)\in R^n$, esto es equivalente a$E[A(X-\mu)(X-\mu)^T u] = A\Sigma u= 0$.
• Para$v$, la relación$X=AX +vS$está satisfecho siempre que$I_n = A + vu^T$, donde de nuevo$u$es el vector$(1,...,1)$. Desde$A\Sigma u =0$, multiplicando esto por$\Sigma u$implica que $$v = \frac{1}{u^T\Sigma u} \Sigma u.$$ Ahora configura $$A = I_n - v u^T.$$ Uno fácilmente verifica que tal elección de$A$de hecho satisface$A\Sigma u = 0$, y hemos construido$A$y$v$que satisfagan los requisitos.

---

De manera más general: la distribución de$X$dado$UX=b$para alguna matriz$U$

Si$U$es un$k\times n$matriz de rango$k$y nos gustaría encontrar la distribución de$X$condicionalmente en$UX$, la misma técnica se puede extender.

(En el ejemplo anterior,$U$es un$1\times n$matriz igual a$u^T$.)

Procedemos de manera similar: buscamos la matriz determinista$A$y un$n\times k$matriz$C$tal que

1. $AX$y$UX$son independientes y
2. $I_n = A + CU$de modo que$X = AX + CUX$siempre aguanta.

¿Por qué? Si podemos encontrar tales matrices$A$y$C$, entonces la distribución de$X$dado$UX=b$es normal

$$N(A\mu + Cb, A^T\Sigma A).$$

Desde$AX$y$UX$son conjuntamente Normales, la primera condición se cumple si y sólo si$E[A(X-\mu)(U(X-\mu))^T] = A\Sigma U^T = 0$. Multiplicando la segunda condición por$\Sigma U^T$, debe ser eso$\Sigma U^T = C U \Sigma U^T$, por eso

$$C = \Sigma U^T (U\Sigma U^T)^{-1} .$$

Finalmente, defina

$$A = I_n - CU,$$ y comprobar que esta elección de$A$y$C$de hecho satisfacer$A\Sigma U^T = 0$y los requisitos anteriores.

(Por cierto, la matriz$U\Sigma U^T$es de hecho invertible siempre que$U$es de rango completo$k<n$y$\Sigma$es invertible La matriz$\Sigma$es invertible si y solo si$X$una distribución continua en$R^n$en el sentido de que tiene una densidad con respecto a la medida de Lebesgue en$R^n$.)

La distribución de$(\boldsymbol X | S = s)$sigue siendo en conjunto normal pero degenerado. Dejar$\boldsymbol T = (1, 1, \dots, 1)^t$y deja$\boldsymbol X$y$\boldsymbol \mu$también ser vectores columna. Entonces$(X_1, \dots, X_n, \boldsymbol T^t \boldsymbol X)$es juntamente normal como una transformada afín de una distribución juntamente normal, y podemos usar la fórmula general para una distribución condicional de componentes de una distribución juntamente normal:

$$(\boldsymbol X | \boldsymbol T^t \boldsymbol X = s) \sim \mathcal N \!\left( \boldsymbol \mu + \frac {s - \boldsymbol \mu^t \boldsymbol T} {\boldsymbol T^t \Sigma \boldsymbol T} \Sigma \boldsymbol T, \Sigma - \frac 1 {\boldsymbol T^t \Sigma \boldsymbol T} \Sigma \boldsymbol T (\Sigma \boldsymbol T)^t \right).$$ $\boldsymbol T$es un vector propio de la matriz de covarianza con el valor propio$0$.