Liệu việc xác định giá trị trung bình và SD có nghĩa là mất một hoặc hai bậc tự do?

Tôi đang đối mặt với một số nghi ngờ trong việc hiểu mức độ tự do được xem xét trong phân phối.

Cụ thể, hãy tham khảo Biến sinh viên, nghĩa là$t$

Trong đó là biến gaussian, là giá trị trung bình, là độ lệch chuẩn lấy từ dữ liệu.$x$$\bar{x}$$\hat{s}=\sqrt{\frac{\sum(x_i-\bar{x})^2}{N-1}}$

Hàm mật độ xác suất sinh viên là

Và trên sách giáo khoa của tôi, tôi thấy "vì trong xuất hiện giá trị trung bình , được tính từ dữ liệu, hàm ý mất một mức độ tự do".$\nu=N-1$$(1)$$\bar{x}$

Câu hỏi: Không phải là sao? Trong tôi có cả và nên có hai tham số được xác định từ dữ liệu.$\nu=N-2$$(1)$$\hat{s}$$\bar{x}$

Mặt khác, ở dạng thứ hai tôi đã viết trong , không xuất hiện, vì vậy có lẽ chỉ nên coi là một ràng buộc đối với dữ liệu. Nhưng điều này không có nhiều ý nghĩa.$(1)$$\hat{s}$$\bar{x}$

Vì vậy, trong những trường hợp mà cả giá trị trung bình và độ lệch chuẩn được xác định từ dữ liệu, mức độ tự do bị mất 2 hay chỉ 1?

Đây là một nghi ngờ chung hơn: khi có nhiều hơn một tham số được xác định từ dữ liệu, nhưng theo một số cách, các tham số này có liên quan (vì nó dành cho và ), có bao nhiêu bậc tự do bị mất nếu tất cả các tham số này được xem xét?$\bar{x}$$\hat{s}$

Ví dụ: tôi xác định tham số từ cùng một bộ dữ liệu. Tất cả các tham số có thể được biểu thị dưới dạng các hàm của dữ liệu và . Bây giờ tôi xem xét tất cả các tham số cùng nhau: tôi đã mất bao nhiêu bậc tự do? hay chỉ ?$q$$p_1,p_2,...,p_q$$p_2,...,p_q$$p_1$$q$$1$

Phân phối T được định nghĩa là phân phối tỷ lệ của một biến ngẫu nhiên tiêu chuẩn thông thường và một biến ngẫu nhiên quy mô độc lập. Thông số độ tự do của nó bằng với tham số độ tự do cho biến ngẫu nhiên chi trong mẫu số của nó . Vì vậy, tham số DF là vấn đề xác định mức độ tự do của công cụ ước tính phương sai mà bạn đang sử dụng.

Hãy nhớ rằng: Phân phối T chỉ phát sinh khi bạn lấy tỷ lệ của biến ngẫu nhiên bình thường và mẫu số là một loại công cụ ước tính độ lệch chuẩn (căn bậc hai của công cụ ước lượng phương sai). Điều này giả định rằng đã có một công cụ ước tính phương sai trong hình. Mất tự do độ sau đó xảy ra từ ước tính trung bình (hoặc trong bối cảnh hồi quy, từ ước tính nhiều hệ số).

Có thể hình thành số lượng tương tự như số lượng bạn đã hiển thị và tìm phân phối của chúng. Giả sử chúng ta có và chúng ta tạo thành một số giá trị được tiêu chuẩn hóa. Nếu chúng tôi giả sử rằng được biết nhưng không xác định, chúng tôi sẽ chuẩn hóa bằng cách xác định thống kê T:$X_1, ..., X_n \sim \text{IID N}(\mu, \sigma^2)$$\mu$$\sigma$

Trong đó là công cụ ước tính phương sai mẫu với . Đại lượng là biến ngẫu nhiên có tỷ lệ với bậc tự do, do đó, thống kê có phân phối T với bậc tự do. Đây là một trường hợp cơ bản khi mà không có bất kỳ sự mất tự do nào, mặc dù chúng tôi đã ước tính phương sai.$S_\mu^2 \equiv \frac{1}{n} \sum_{i=1}^n (X_i - \mu)^2$$\mu$$S_\mu / \sigma$$n$$T_\mu$$n$

Bây giờ, trong trường hợp cũng không xác định, chúng ta sẽ thay thế trung bình đã biết trong công cụ ước tính phương sai bằng trung bình mẫu mà chúng ta có:$\mu$$\mu$$\bar{x}$

Trong đó là công cụ ước tính phương sai mẫu không xác định . Đại lượng là biến ngẫu nhiên có tỷ lệ chi tiết với độ tự do, do đó, thống kê có phân phối T với độ tự do. Chúng tôi đã mất một bậc tự do do ước tính giá trị trung bình bên trong công cụ ước tính phương sai .$S^2 \equiv \frac{1}{n-1} \sum_{i=1}^n (X_i - \bar{x})^2$$\mu$$S / \sigma$$n-1$$T$$n-1$

Hy vọng điều này sẽ giúp bạn hiểu vấn đề này. Khái niệm mức độ tự do, trong bối cảnh nói về phân phối T, giả định rằng đã có một số ước lượng phương sai được sử dụng cho sinh viên. Ước tính tham số trung bình (hoặc tham số hệ số trong hồi quy) làm thay đổi công cụ ước tính phương sai này bằng cách làm cho nó ít biến hơn và điều này dẫn đến việc mất độ tự do.

Hãy xem xét một ví dụ để hiểu mức độ tự do:

Giả sử chúng ta có 5 quan sát, . Nếu tôi cho bạn biết giá trị trung bình của tập dữ liệu này ( ) nhưng không phải là giá trị của các quan sát, bạn có thể tạo thành bốn giá trị mà không thay đổi giá trị trung bình. Nếu bạn chọn làm bốn quan sát đầu tiên của bạn, thì số cuối cùng để chọn phải là nếu giá trị trung bình được cố định ở . Nếu chúng ta chỉ quan tâm đến giá trị trung bình, thì chúng ta có một phương trình và một ẩn số.$(1, 2, 1, 3, 5)$$2.4$$(3, 4, 3, 5)$$-3$$2.4$

Nếu bạn có quan sát với một giá trị trung bình cố định, bạn có quyền tự do chọn bất kỳ số nào bạn muốn mà không thay đổi giá trị trung bình - nhưng quan sát được xác định. Tuy nhiên, lưu ý rằng tôi đã chọn giá trị trong đoạn văn trên một cách tùy ý, vì vậy tôi có thể đã chọn một giá trị khác. Do đó, tôi có độ tự do khỏi dữ liệu và độ tự do vì tôi đã chọn giá trị trung bình, vì vậy tôi có bậc tự do nếu tôi ước tính 1 tham số.$n$$n - 1$$n^{th}$$2.4$$n - 1$$1$$n$

Bây giờ, giả sử tôi nói cho bạn biết giá trị trung bình và độ lệch chuẩn: cho cùng một mẫu của , giá trị trung bình là và độ lệch chuẩn là . Bây giờ tôi có thể chọn ba trong số năm số và hai số cuối sẽ được xác định (hai phương trình, hai ẩn số). Tuy nhiên, các tham số hơi khác nhau một chút, vì độ lệch chuẩn của mẫu là một hàm của giá trị trung bình mẫu - chúng không độc lập với nhau. Điều này có nghĩa là tôi có độ tự do khỏi dữ liệu, nhưng vẫn chỉ có độ tự do khỏi các tham số, với tổng số độ tự do.$(1, 2, 1, 3, 5)$$2.4$$1.673$$n - 2$$1$$n - 1$

Xem câu hỏi Stack Exchange này để biết thêm thông tin.