Ley débil de los números grandes para variables aleatorias dependientes con covarianza acotada

Arreglar$\epsilon > 0$y$n \in \mathbb{N}$, entonces podemos usar la desigualdad de Chebyshev para ver que

$$\mathbb{P}\bigg[\Big|\frac{S_n}{n} - \mathbb{E}[X_1]\Big| > \epsilon\bigg] \leq \frac{\text{Var}\Big(\frac{S_n}{n}\Big)}{\epsilon^2}$$

dónde

$$\displaystyle \text{Var}\Big(\frac{S_n}{n}\Big)= \frac{\text{Var}(S_n)}{n^2} \leq \frac{\sum_{i=1}^n\sum_{j=1}^n \text{Cov}{(X_i,X_j)}}{n^2} \leq \frac{\sum_{i=1}^n\sum_{j=1}^n c^{|i-j|}}{n^2}$$

Entonces podemos calcular explícitamente la doble suma$\sum_{i=1}^n\sum_{j=1}^n c^{|i-j|}$como sigue:

$$\begin{align} \sum_{i=1}^n\sum_{j=1}^n c^{|i-j|} &= \sum_{i=1}^n c^{|i-i|} + 2\sum_{i=1}^n\sum_{j=1}^{i-1} c^{|i-j|} \\ &= n + 2\sum_{i=1}^n\sum_{j=1}^{i-1} c^{|i-j|} \\ &= n + 2\sum_{i=1}^n\sum_{j=1}^{i-1} c^{i-j} \\ &= n + 2\sum_{i=1}^n c^i \frac{1 - c^{-i}}{1-c^{-1}} \\ &= n + 2\sum_{i=1}^n \frac{c^i + 1}{1-c^{-1}} \\ &= n + \frac{2c}{c-1} \sum_{i=1}^n c^{i}-1 \\ &= n + \frac{2c}{c-1} \big(\frac{1-c^{n+1}}{1-c} -n \big)\\ &= n + \frac{2c}{(c-1)^2}(c^{n+1}+1) + \frac{2c}{c-1}n\\ \ \end{align}$$

De este modo,

$$\lim_{n\rightarrow\infty} \mathbb{P}\bigg[\Big|\frac{S_n}{n} - \mathbb{E}[X_1]\Big| > \epsilon\bigg] = \lim_{n\rightarrow\infty} \frac{\text{Var}\Big(\frac{S_n}{n}\Big)}{\epsilon^2} \leq \lim_{n\rightarrow\infty} \frac{n + \frac{2c}{(c-1)^2}(c^{n+1}+1) + \frac{2c}{c-1}n}{n^2 \epsilon^2} = 0$$

Viendo cómo nuestra elección de$\epsilon$fue arbitraria, la declaración anterior es válida para cualquier$\epsilon > 0$y muestra que$\frac{S_n}{n} \rightarrow E[X_1]$en probabilidad, como se desee.

Esto demuestra la validez del teorema para$c<1$, pero no para$c=1$. Podemos extender fácilmente la demostración a todos los casos en los que$|\mbox{Cov}(X_i,X_j)|\le f_{|i-j|}$dónde$\lim_{i\to\infty}f_i=0$. De hecho, en este caso es simple demostrar que

$$\lim_{n\to\infty}{1\over n^2}\sum_{i=1}^n\sum_{j=1}^n \text{Cov}{(X_i,X_j)}\le \lim_{n\to\infty}{1\over n^2}\sum_{i=1}^n\sum_{j=1}^n |\text{Cov}{(X_i,X_j)}|\le \lim_{n\to\infty}{1\over n^2}\sum_{i=1}^n\sum_{j=1}^nf_{|i-j|}=0$$

Lamento desenterrar el tema, pero tengo algo aquí que podría interesar a la gente, vinculado con este hilo.

Me encontré con la siguiente variante de su problema en T. Cacoullos Exercices in probabilidad (Springer, 1989), ejercicio 254: lo llama "teorema de Barnstein" (sic), pero no pude encontrar ninguna pista sobre quién es este Barnstein. ; si es un error tipográfico, entonces no conozco ninguna variante de WLLN de Bernstein. Aquí está la declaración:

Dejar$X_1, ..., X_n, ...$ser variables aleatorias centradas. Si existe una constante$c>0$tal que para cada,$i$,$\mathbf{V}[X_i] \leq c$y si se cumple la siguiente condición:

$$\lim_{|i-j| \to +\infty} \mathrm{Cov}(X_i, X_j) = 0$$ Entonces, se cumple la ley débil de los grandes números.

Esta es una pequeña generalización de su problema. La demostración es muy similar y consiste en acotar la varianza de$S_n /n$para concluir con Chebyshev. Para acotar la varianza, aquí está el argumento (todo es muy similar a lo que escribiste).

Primero, tenga en cuenta que por Cauchy-Schwarz,$|\mathrm{Cov}(X_i, X_j)| \leq c$. Por lo tanto, notando$S_n = X_1 + ... + X_n$,

$$\mathbf{V}[S_n] \leq \sum_{i=1}^{n} c + 2\sum_{i=1}^n \sum_{j=i+1}^{n}\mathrm{Cov}(X_i, X_j)$$

Elegir$\epsilon >0$, llevar$N$tal que$\forall |i-j|>N$, tenemos$\mathrm{Cov}(X_i, X_j) < \epsilon$. Ahora si$n$es mayor que$N$(para que no tengamos problemas con los índices) divida la suma entre$j$antes y después de$N$, entonces tenemos

$$\sum_{i=1}^n \sum_{j=1}^{i-1}\mathrm{Cov}(X_i, X_j) = \sum_{i=1}^n \sum_{j=i+1}^{i+N}\mathrm{Cov}(X_i, X_j) + \sum_{i=1}^n \sum_{j=i+N+1}^{n}\mathrm{Cov}(X_i, X_j)$$ Invocando la desigualdad triangular, tenemos

$$\left|\sum_{i=1}^n \sum_{j=1}^{i-1}\mathrm{Cov}(X_i, X_j) \right| \leq \sum_{i=1}^n Nc + \sum_{i=1}^n \sum_{j=i+N+1}^{n}\epsilon \leq nNc + n^2 \epsilon$$

Por lo tanto,

$$\mathbf{V}[S_n /n] \leq \frac{c}{n} + \frac{2Nc}{n} + \epsilon$$

Esto prueba claramente que$\mathbf{V}[S_n /n] \to 0$como$n \to + \infty$, finalizando la prueba del misteriosamente llamado "teorema de Barnstein". Espero que esto ayude a alguien !

Solo quería agregar una referencia para un resultado similar. Esto aparece en Algunas aplicaciones nuevas de los productos Riesz de Gavin Brown. He adaptado la notación para que se ajuste a su pregunta.

Proposición 1 : Supongamos que$(X_n)$es una secuencia de variables aleatorias de módulo acotado,$E(X_n) = \mu$para todos$n$y eso

$$\sum_{N=1}^\infty \frac{1}{N} E(|Y_N|^2) < \infty$$ dónde $Y_N = \frac{1}{N} \sum_{n=1}^N (X_n - \mu)$. Entonces $Y_N \to 0$casi seguro.

Supongamos que existe algo finito$M$tal que$|X_n -\mu| \leq M$para todos$n \in \mathbb Z^+$. Desde

$$E(|Y_N|^2) = \frac{1}{N^2}\sum_{i=1}^N\sum_{j=1}^N \text{Cov}(X_i,X_j) = \text{Var}\left(\frac{S_N}{N}\right)$$ Entonces $$\sum_{N=1}^\infty \frac{1}{N} E(|Y_N|^2) = \sum_{N=1}^\infty \frac{1}{N^3} \text{Var}(S_N)$$ Como se muestra en la respuesta anterior, una consecuencia del supuesto de dependencia débil es que el lado derecho es finito. Por la proposición anterior, $Y_N \to 0$casi seguro. Entonces $$Y_n = \frac{1}{N} \sum_{n=1}^N (X_n - \mu) = S_N - \mu \to 0$$ entonces $S_N \to \mu$casi seguro.

Lo siento de nuevo por desenterrar el tema, pero simplemente no puedo dejar un comentario.

Afaik, el resultado original fue publicado en S. Bernshtein, “Sur la loi des grands nombres”, Communications de la Société mathématique de Kharkow. 2-ée série, 16:1-2 (1918), 82–87. En formato difícil de leer, como corresponde a un clásico.

La prueba breve (similar a la propuesta) de la declaración inicial y las generalizaciones para Riesz Means se encuentran en el artículo de VV Kozlov, T. Madsen, AA Sorokin, "Sobre los valores medios ponderados de las variables aleatorias débilmente dependientes", Universidad de Moscú. Matemáticas. Bol., 59:5 (2004), 36–39. Además, la nota que condiciona:

(1).$V[X_i]≤c$

(2)$\lim\limits_{|i-j| \to +\infty} \mathrm{Cov}(X_i, X_j) = 0$

puede ser debilitado a:

(1').$\sum\limits_{i=1}^n\mathbf{V}[X_i] = o(n^2)$

(2').$|\mathrm{Cov}(X_i, X_j)| \le \varphi(|i-j|)$, dónde$\frac1n\sum\limits_{i=1}^n\varphi(i) \to 0$.

Desafortunadamente, ambos enlaces están en ruso.