Luật Số Lớn

Luật số lớn chỉ ra rằng, khi ta chọn ngẫu nhiên các giá trị (mẫu thử) trong một dãy các giá trị (quần thể), kích thước dãy mẫu thử càng lớn thì các đặc trưng thống kê (trung bình, phương sai,...) của mẫu thử càng "gần" với các đặc trưng thống kê của quần thể

Các nhà toán học phân biệt 2 phát biểu khác nhau của luật số lớn, là luật số lớn yếu và luật số lớn mạnh.

Luật số lớn yếu còn được gọi là định lý Khintchine.

Xét một dãy các biến ngẫu nhiên ${\displaystyle X_{1},X_{2},...}$  độc lập, cùng phân phối với kỳ vọng E(X), luật số lớn yếu phát biểu rằng, với mọi số thực ${\displaystyle \epsilon }$  dương, xác suất để khoảng cách giữa trung bình tích lũy ${\displaystyle Y_{n}={\frac {X_{1}+X_{2}+...+X_{n}}{n}}}$  và kỳ vọng E(X) lớn hơn ${\displaystyle \epsilon }$  là tiến về 0 khi n tiến về vô cực, nghĩa là:

${\displaystyle \lim _{n\to +\infty }P\left(\left|{\frac {X_{1}+X_{2}+...+X_{n}}{n}}-E(X)\right|\geq \epsilon \right)=0,\forall \epsilon >0}$ 

Phát biểu được chứng minh bằng cách sử dụng bất đẳng thức Bienaymé-Tchebychev sau đây của Tchebychev:

${\displaystyle P(|Y-E(Y)|\geq \epsilon )\leq {\frac {V(Y)}{\epsilon ^{2}}}}$ 

Ta có biến ngẫu nhiên ${\displaystyle Y_{n}={\frac {X_{1}+X_{2}+...+X_{n}}{n}}}$  có kỳ vọng

${\displaystyle E(Y_{n})={\frac {nE(X)}{n}}=E(X)}$ 

và phương sai

${\displaystyle V(Y_{n})={\frac {nV(X)}{n^{2}}}={\frac {V(X)}{n}}}$ 

từ bất đẳng thức Bienaymé-Tchebychev, ta có:

${\displaystyle P\left(\left|{\frac {X_{1}+X_{2}+...+X_{n}}{n}}-E(X)\right|\geq \epsilon \right)\leq {\frac {V(X)}{n\epsilon ^{2}}}}$ 

Vế phải tiến về 0 khi n tiến về vô cực, định lý được chứng minh.

Theo định nghĩa hội tụ của biến ngẫu nhiên thì ${\displaystyle Y_{n}}$  hội tụ theo xác suất về E(X).

Xét n biến ngẫu nhiên độc lập cùng phân phối xác suất, khả tích (nghĩa là ${\displaystyle E(|X|)<\infty }$ ). Luật số lớn mạnh phát biểu rằng trung bình tích lũy ${\displaystyle Y_{n}\,}$  hội tụ hầu như chắc chắn về E(X).

Nghĩa là:

${\displaystyle P\left(\lim _{n\to +\infty }Y_{n}(\omega )=E(X)\right)=1}$ .