Ước Lượng

Người ta luôn tìm một ước lượng sao cho đó là ước lượng "không chệch" (unbiased), hội tụ (converge), hiệu quả (efficient) và vững (robust).

Muốn xác định độ cao trung bình của trẻ ở độ tuổi 10, ta thực hiện một điều tra trên một mẫu được lấy trên tập thể các trẻ em ở độ tuổi 10 (ví dụ mẫu điều tra là các em học sinh được lấy ngẫu nhiên từ nhiều trường ở nhiều vùng khác nhau). Chiều cao trung bình tính được từ mẫu điều tra này, thường là trung bình tích lũy, sẽ là một ước lượng cho chiều cao trung bình của trẻ em ở độ tuổi 10.

Nếu ta muốn xác định tỷ lệ bầu cử cho ứng cử viên A, ta có thể thực hiện một điều tra trên một mẫu dân số tiêu biểu. Tỷ lệ bầu cho A trong mẫu điều tra là một ước lượng của tỷ lệ bầu cho A của toàn thể dân số.

Giả sử ta muốn xác định tổng số cá có trong hồ, ta bắt đầu bằng cách bắt lên n con cá (ví dụ n=50), đánh dấu chúng, sau đó lại thả xuống hồ cho chúng lẫn với những con khác. Sau đó lấy một mẫu cá bất kỳ trong hồ, tính tỷ lệ p cá bị đánh dấu trong mẫu đó (ví dụ mẫu có 20 con trong đó có hai con có dấu, p=1/10). Khi đó giá trị n/p (=500) là một ước lượng cho tổng số cá có trong hồ. Nếu trong mẫu không có con cá nào bị đánh dấu, ta thực hiện lại trên một mẫu khác.

Thông thường ta tìm ước lượng cho một trung bình, cho tổng dân số, cho một tỷ lệ hoặc cho một phương sai.

Một ước lượng là một giá trị x (x nhỏ) được tính toán trên một mẫu được lấy một cách ngẫu nhiên, do đó giá trị của x là một biến ngẫu nhiên với kì vọng E(x) và phương sai V(x). Nghĩa là giá trị x có thể dao động tùy theo mẫu thử, nó có ít cơ hội để có thể bằng đúng chính xác giá trị X (X lớn) mà nó đang ước lượng. Mục đích ở đây là ta muốn có thể kiểm soát sự sai lệch giá trị x và giá trị X.

• Một biến ngẫu nhiên luôn dao động xung quanh giá trị kì vọng của nó. Ta muốn là kì vọng của x phải bằng X. Khi đó ta nói ước lượng là không chệch (unbiased). Trung bình tích lũy trong ví dụ về chiều cao trung bình của trẻ 10 tuổi một ước lượng đúng, trong khi ước lượng về tổng số cá trong hồ được tính như trong ví dụ là một ước lượng không đúng, đó là ước lượng thừa: trung bình tổng số cá ước lượng được luôn lớn hơn tổng số cá có thực trong hồ.
• Ta cũng muốn là khi mẫu thử càng rộng, thì sai lệch giữa x và X càng nhỏ. Khi đó ta nói ước lượng là hội tụ. Định nghĩa theo ngôn ngữ toán học là như sau:

${\displaystyle (x_{n})}$  hội tụ nếu ${\displaystyle \lim _{n\to \infty }p(|x_{n}-X|>\epsilon )=0}$  với mọi số thực ${\displaystyle \epsilon }$  dương.

(xác suất để sai lệch với giá trị thực cần ước lượng lớn hơn ${\displaystyle \epsilon }$  tiến về 0 khi kích cỡ của mẫu thử càng lớn)

• Biến ngẫu nhiên dao động quanh giá trị kì vọng của nó. Nếu phương sai V(x) càng bé, thì sự dao động càng yếu. Vì vậy ta muốn phương sai của ước lượng là nhỏ nhất có thể. Khi đó ta nói ước lượng là hiệu quả (eficient).
• Cuối cùng, trong quá trình điều tra, có thể xuất hiện một giá trị "bất thường" (ví dụ có trẻ 10 tuổi nhưng cao 1,80 m). Ta muốn giá trị bất thường này không ảnh hưởng quá nhiều đến giá trị ước lượng. Khi đó ta nói ước lượng là vững (robust). Có thể thấy trung bình tích lũy trong ví dụ về chiều cao trung bình trẻ 10 tuổi không phải là một ước lượng vững.

Ta chọn ngẫu nhiên n cá thể trong một dân số gồm N cá thể. Ta quan tâm đến đặc trưng định lượng Y của dân số với trung bình ${\displaystyle {\overline {Y}}}$  và phương sai V(Y). Trong mẫu đó, đặc trưng Y có trung bình và phương sai đo được lần lượt là ${\displaystyle {\overline {y}}}$  và ${\displaystyle \sigma ^{2}={\frac {1}{n}}\sum _{i=1}^{n}(y_{i}-{\overline {y}})^{2}}$ . Lưu ý là các giá trị ${\displaystyle {\overline {y}}}$  và ${\displaystyle \sigma ^{2}}$  thay đổi tùy theo mẫu thử, do đó chúng là các biến ngẫu nhiên với trung bình và phương sai riêng khác nhau.

Ước lượng trung bình của Y

Thông thường trung bình của Y, tức là ${\displaystyle {\overline {Y}}}$  được ước lượng bởi: ${\displaystyle {\overline {y}}={\frac {1}{n}}\sum _{i=1}^{n}y_{i}}$ . còn được gọi là trung bình tích lũy (hay trung bình cộng). Ta chứng minh được đây là ước lượng đúng(unbiased), nghĩa là ${\displaystyle E({\overline {y}})=Y}$ 

Ước lượng phương sai của Y

${\displaystyle \sigma ^{2}}$  là một ước lượng của V(Y), nhưng là ước lượng không đúng, ta chứng minh được kì vọng của ${\displaystyle \sigma ^{2}}$  luôn nhỏ hơn V(Y), tức ước lượng là thiếu.

Các ước lượng đúng của V(Y) là:

• ${\displaystyle {\frac {n}{n-1}}\sigma ^{2}}$  trong trường hợp lấy mẫu có hoàn lại
• ${\displaystyle {\frac {N}{N-1}}{\frac {n}{n-1}}\sigma ^{2}}$  trong trường hợp lấy mẫu không hoàn lại.

Trong trường hợp mẫu lớn, phép tính có hoàn lại và phép tính không hoàn lại là như nhau, vì ${\displaystyle {\frac {N}{N-1}}}$  xấp xỉ bằng 1. Vì vậy trong trường hợp tổng quát ước lượng đúng của V(Y) là: ${\displaystyle s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(y_{i}-{\overline {y}})^{2}}$  được gọi là phương sai tích lũy của Y.

Xem thêm chứng minh trong bài Phương sai

Tính hiệu quả và tính hội tụ

Mức độ dao động của ${\displaystyle {\overline {y}}}$  quanh kì vọng của nó phụ thuộc vào phương sai của nó, ký hiệu bởi ${\displaystyle V({\overline {y}})}$ . Phương sai này được tính theo V(Y).

• ${\displaystyle V({\overline {y}})={\frac {V(Y)}{n}}}$  trong trường hợp lấy mẫu có hoàn lại
• ${\displaystyle V({\overline {y}})={\frac {N-n}{N-1}}{\frac {V(Y)}{n}}}$  trong trường hợp lấy mẫu không hoàn lại.

Ta nhận thấy với N rất lớn hai giá trị trên gần như bằng nhau. Phần sau đây ta chỉ xét trường hợp lấy mẫu có hoàn lại, với giả thuyết N là rất lớn.

Rõ ràng n càng lớn, ${\displaystyle V({\overline {y}})}$  càng nhỏ. Do đó, mẫu càng lớn, ước lượng ${\displaystyle {\overline {y}}}$  càng hiệu quả.

Bất đẳng thức Bienaymé-Tchebychev chỉ ra rằng, với mọi số thực dương ${\displaystyle \epsilon }$ ,

${\displaystyle p(|{\overline {y}}-{\overline {Y}}|>\epsilon )<{\frac {V({\overline {y}})}{\epsilon ^{2}}}}$ 

nên

${\displaystyle p(|{\overline {y}}-{\overline {Y}}|>\epsilon )<{\frac {V(Y)}{n\epsilon ^{2}}}}$ 

Vì ${\displaystyle {\frac {V(Y)}{n\epsilon ^{2}}}}$  hội tụ về 0 khi n tiến về vô cực, nên ta cũng có điều tương tự với ${\displaystyle p(|{\overline {y}}-{\overline {Y}}|>\epsilon )}$ . Ước lượng ${\displaystyle {\overline {y}}}$  là hội tụ.

Phân chia dân số thành các lớp đồng nhất để làm mẫu điều tra có thể làm giảm đáng kể giá trị phương sai của ước lượng, do đó ước lượng sẽ càng hiệu quả.

Lấy mẫu một cách ngẫu nhiên với xác suất không đồng đều, dẫn đến điều tra nhiều lần hoặc co cụm, sẽ làm thay đổi các công thức được tính trên.

Cuối cùng, việc dùng thêm các thông tin phụ hợp lý cho phép chỉnh sửa các ước lượng để có được các kết quả gần với giá trị thật cần ước lượng hơn.

Khả năng ước lượng kì vọng và phương sai cho phép ước lượng các tham số của một phân phối xác suất (phân phối bình thường, phân phối Poisson vv...).

Trong xác suất, ta thường xác định một phân phối xác suất lý thuyết dựa vào các thực nghiệm thống kê. Trong trường hợp biến ngẫu nhiên rời rạc hữu hạn, ta dùng ước lượng cho mỗi xác suất ${\displaystyle p_{k}}$ , tần suất ${\displaystyle f_{k}}$  tính từ mẫu thử. Các giá trị của ${\displaystyle f_{k}}$  là các biến ngẫu nhiên, dĩ nhiên các ước lượng này không thể bằng chính xác các giá trị ${\displaystyle p_{k}}$ . Để làm rõ sự sai khác giữa chúng có đáng kể hay không, ta thực hiện các kiểm định giả thuyết thống kê, trong đó phổ biến nhất là kiểm định χ² (Chi bình phương).

• Lehmann, E. L. (1998). Theory of Point Estimation. Casella, G. (ấn bản 2). Springer. ISBN 0-387-98502-6.
• Shao, Jun (1998), Mathematical Statistics, New York: Springer, ISBN 0-387-98674-X
• Bol'shev, L.N. (2001), “Statistical Estimator”, trong Hazewinkel, Michiel (biên tập), Bách khoa toàn thư Toán học, Springer, ISBN 978-1-55608-010-4

• Fundamentals of Estimation Theory Lưu trữ 2006-06-28 tại Wayback Machine
• India-Institute of Quantity Surveyors (IQSS)