Acotar la varianza de una suma de variables aleatorias independientes

Question

Acotar la varianza de una suma de variables aleatorias independientes

desigualdad
Matemáticas
probabilidad
variables aleatorias
teoría de probabilidad

David

Suponer $\{X_i\}_{i=1}^n$ es una secuencia de variables aleatorias distribuidas independientemente que toman valores en $[0,1]$ . Dejar $\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i$ denote el promedio de la secuencia. Me gustaría encontrar un límite superior para $\text{Var}(\bar{X})$ .

Mi estrategia fue usar la desigualdad de Hoeffding, que establece que

PR (| {\bar{X}}_{norte} - mi {\bar{X}}_{norte} | \geq t) \leq {mi}^{- 2 norte t^{2}}

$\Pr(|\bar X_n - E\bar X_n| \geq t) \leq e^{-2nt^2}$

Por lo tanto, tenemos

\begin{aligned} mi (| {\bar{X}}_{norte} - mi {\bar{X}}_{norte} |^{2}) & = \int_{X \in [0, 1] : {(X - mi {\bar{X}}_{norte})}^{2} \geq t} | {\bar{X}}_{norte} - mi {\bar{X}}_{norte} |^{2} d PAG + \int_{X \in [0, 1] : {(X - mi {\bar{X}}_{norte})}^{2} < t} | {\bar{X}}_{norte} - mi {\bar{X}}_{norte} |^{2} d PAG \\ \leq {mi}^{- 2 norte t^{2}} + t (1 - {mi}^{- 2 norte t^{2}}) \end{aligned}

$\begin{align} E\left(|\bar X_n - E\bar X_n|^2\right) &= \int_{x \in [0,1]:\, \left(x - E\bar X_n\right)^2 \geq t}|\bar X_n - E\bar X_n|^2dP + \int_{x \in [0,1]:\, \left(x - E\bar X_n\right)^2 < t}|\bar X_n - E\bar X_n|^2dP \\ &\leq e^{-2nt^2} + t(1-e^{-2nt^2}) \end{align}$ para todos

t

$t$ . Minimizando el lado derecho con respecto a

t

$t$ da un límite para cualquier

n

$n$ .

¿Es posible proporcionar un límite más estricto que este?

¡Gracias!

Hizo

No estoy seguro de estar siguiendo... En primer lugar, se conoce la varianza , ya que

Var (\bar{X_{norte}}) = \frac{1}{{norte}^{2}} \sum_{k = 1}^{norte} Var (X_{k}) .

$\text{Var}\left(\bar{X_n}\right)=\frac1{n^2}\sum_{k=1}^n\text{Var}(X_k).$ En segundo lugar, la optimización del límite superior en su publicación no produce un límite superior que vaya a cero, ¿sí?

Respuestas (2)

Acotar la varianza de una suma de variables aleatorias independientes

No estoy seguro de estar siguiendo... En primer lugar, se conoce la varianza , ya que $Var (\bar{X_{norte}}) = \frac{1}{{norte}^{2}} \sum_{k = 1}^{norte} Var (X_{k}) .$ $\text{Var}\left(\bar{X_n}\right)=\frac1{n^2}\sum_{k=1}^n\text{Var}(X_k).$ En segundo lugar, la optimización del límite superior en su publicación no produce un límite superior que vaya a cero, ¿sí?

Chill2Macht · Answer 1

¿Prueba la desigualdad de Bernstein? http://www.cs.cornell.edu/~sridharan/concentration.pdf

Eso o la desigualdad de Efron Stein (que es el límite más estrecho que conozco), aunque puede ser difícil entender cómo implementarlo correctamente (imo).

jlewk · Answer 2

Tienes la expresión exacta, $Var[\bar X_n] = (1/n)^2 \sum_{i=1}^n Var[X_i]$ .

Así que cada uno $X_i\in[0,1]$ , el límite $Var[X_i]\le 1$ tiene (fácil), y en realidad el límite más agudo $Var[X_i]\le E[X_i](1-E[X_i])\le 1/4$ sostiene también.

Entonces el límite superior $Var[X_n]\le 1/(4n)$ sostiene Si $X_1,...,X_n$ son iid bernoulli( $1/2$ ) entonces $Var[X_n] = 1/(4n)$ por lo que el límite es inmejorable.

Acotar la varianza de una suma de variables aleatorias independientes

David

Hizo

Respuestas (2)

Chill2Macht

jlewk

Encuentra VarVar\operatorname{Var} del número de vértices aislados

¿Por qué necesitamos una secuencia de variables aleatorias? ¿No es suficiente una función?

¿Algún límite en la desigualdad de Jensen con valor absoluto?

Teorema del límite central y Slutsky

desigualdad de momentos de las martingalas

¿Las funciones de masa de probabilidad no tienen que sumar 1?

¿Cuál es la probabilidad de que una caminata aleatoria que comienza en 0 llegue a +2 en 2 pasos, 3 pasos, 4 pasos, etc.? [duplicar]

¿Por qué cambia la probabilidad de un evento en un experimento binomial con el cambio proporcional de éxitos y fracasos?

¿Cómo puedo usar la desigualdad de Cauchy-Schwarz en esta función de variables aleatorias?

Demuestra que 1n−1∑ni=1(XiYi−X¯¯¯¯Y¯¯¯¯)1n−1∑i=1n(XiYi−X¯Y¯)\frac{1}{n-1}\sum_ {i=1}^n(X_iY_i-\overline{X}\overline{Y}) es un estimador imparcial de Cov[X,Y].Cov[X,Y].\text{Cov}[X,Y] .