Dân số là tập hợp các thực thể đang nghiên cứu. Ví dụ, chiều cao trung bình của nam giới. Đây là một dân số giả thuyết bởi vì nó bao gồm tất cả những người đàn ông đã sống, đang sống và sẽ sống trong tương lai. Tôi thích ví dụ này bởi vì nó lái xe về nhà mà chúng tôi, với tư cách là nhà phân tích, chọn dân số mà chúng tôi muốn nghiên cứu. Thông thường, không thể khảo sát / đo lường toàn bộ dân số vì không phải tất cả các thành viên đều có thể quan sát được (ví dụ như những người đàn ông sẽ tồn tại trong tương lai). Nếu có thể liệt kê toàn bộ dân số, việc này thường rất tốn kém và sẽ mất rất nhiều thời gian. Trong ví dụ trên, chúng ta có một dân số "đàn ông" và một thông số quan tâm, chiều cao của họ.
Thay vào đó, chúng ta có thể lấy một tập hợp con của dân số này được gọi là mẫu và sử dụng mẫu này để rút ra những suy luận về dân số đang nghiên cứu, với một số điều kiện. Do đó, chúng ta có thể đo chiều cao trung bình của nam giới trong một mẫu dân số mà chúng ta gọi là thống kê và sử dụng số liệu này để rút ra những suy luận về thông số quan tâm trong dân số. Đó là một suy luận bởi vì sẽ có một số sự không chắc chắn và không chính xác liên quan đến việc đưa ra kết luận về dân số dựa trên một mẫu. Điều này là hiển nhiên - chúng tôi có ít thành viên trong mẫu hơn dân số của chúng tôi do đó chúng tôi đã mất một số thông tin.
Có nhiều cách để chọn một mẫu và nghiên cứu về điều này được gọi là lý thuyết lấy mẫu. Một phương pháp thường được sử dụng được gọi là Lấy mẫu ngẫu nhiên đơn giản (SRS). Trong SRS, mỗi thành viên của dân số có xác suất được đưa vào mẫu bằng nhau, do đó thuật ngữ "ngẫu nhiên". Có nhiều phương pháp lấy mẫu khác, ví dụ lấy mẫu phân tầng, lấy mẫu cụm, v.v ... tất cả đều có ưu điểm và nhược điểm.
Điều quan trọng cần nhớ là mẫu chúng ta rút ra từ dân số chỉ là một trong số lượng lớn các mẫu tiềm năng. Nếu mười nhà nghiên cứu đều nghiên cứu về cùng một quần thể, tự vẽ mẫu thì họ có thể có được câu trả lời khác nhau. Trở lại ví dụ trước đây của chúng tôi, mỗi trong số mười nhà nghiên cứu có thể đưa ra chiều cao trung bình khác nhau của nam giới, nghĩa là thống kê trong câu hỏi (chiều cao trung bình) khác nhau của mẫu - mẫu có phân phối gọi là phân phối mẫu. Chúng ta có thể sử dụng phân phối này để hiểu sự không chắc chắn trong ước tính của chúng tôi về tham số dân số.
Phân phối mẫu của giá trị trung bình mẫu được biết là phân phối chuẩn với độ lệch chuẩn bằng độ lệch chuẩn mẫu chia cho kích thước mẫu. Bởi vì điều này có thể dễ dàng bị nhầm lẫn với độ lệch chuẩn của mẫu, nên phổ biến hơn để gọi độ lệch chuẩn của phân phối mẫu là lỗi tiêu chuẩn .