Logic cơ bản của việc xây dựng khoảng tin cậy

Hãy xem xét một mô hình với một tham số quan tâm, $\theta$và công cụ ước tính điểm của nó, $\hat\theta$. Để đơn giản, giả sử $\hat\theta\sim N(\theta,\sigma^2/n)$(trong nhiều trường hợp, điều này có thể được chứng minh là không có triệu chứng). Có hai cách để xây dựng một khoảng thời gian ngắn nhất có thể$(1-\alpha)$ mức độ tin cậy.

1. Đối với bất kỳ giá trị thực $\theta$, Tôi muốn khoảng thời gian ngắn nhất có thể $(\hat\theta_{lower},\hat\theta_{upper})$ cái đó có $(1-\alpha)$ xác suất bắt $\theta$. Tôi chọn khu vực mật độ cao nhất trong phân phối của$\hat\theta$ được $\theta$, $f(\hat\theta;\theta)$, do đó xác suất tích lũy cho khu vực đó là $(1-\alpha)$. Tôi xác định công cụ ước tính khoảng sao cho mỗi ước tính điểm$\hat\theta$ trong khu vực, ước tính khoảng thời gian tương ứng sẽ bao gồm $\theta$.
   Kể từ khi phân phối$\hat\theta$ là giống nhau cho bất kỳ giá trị thực $\theta$ ngoại trừ thay đổi vị trí, cơ chế (quy tắc) để xây dựng khoảng thời gian không phụ thuộc vào thực tế $\theta$Là. Do đó, nó sẽ bao gồm bất kỳ sự thật$\theta$ với $(1-\alpha)$ xác suất.

2. Ước tính điểm $\hat\theta$, Tôi đang xem xét dưới giá trị thực sự $\theta$nó có khả năng đã được tạo ra. Biết phân phối$\hat\theta$ cho bất kỳ sự thật nào $\theta$, $f(\hat\theta;\theta)$, Tôi chọn những $\theta$s mang lại giá trị mật độ cao nhất. Tôi giới hạn lựa chọn chỉ bao gồm giá trị $\theta$ có xác suất tích lũy $\geq\alpha$ cho các giá trị ít nhất là cực trị như $\theta$; nói cách khác, giá trị $\theta$ mà tương ứng $p$-giá trị liên quan đến $\hat\theta$ là ít nhất $\alpha$.

Cách tiếp cận đầu tiên tập trung trực tiếp vào việc đảm bảo rằng bất cứ điều gì là sự thật $\theta$, nó được bao gồm trong $(1-\alpha)$chia sẻ các trường hợp lấy mẫu. Cách tiếp cận thứ hai tìm kiếm ứng cử viên tốt nhất$\theta$s làm cho nhận ra $\hat\theta$ có khả năng, trong khi loại bỏ $\theta$s theo đó $\hat\theta$không chắc. Đường giữa hai (có thể so với không có khả năng) được rút ra một cách tùy tiện theo quan điểm của mục tiêu ban đầu, nhưng nó xảy ra là đúng dòng.

Hai quy tắc để xây dựng một khoảng cho cùng một câu trả lời trong ví dụ đơn giản này.
Mà (nếu bất kỳ một trong hai) là động lực chính xác cho, hoặc cách suy nghĩ chính xác về việc xây dựng một khoảng tin cậy?
(Có lẽ loại bỏ giả định phân phối cho$\hat\theta$ ở trên sẽ làm mất hiệu lực một trong những cách tiếp cận, làm rõ rằng nó thường không phù hợp và chỉ đưa ra câu trả lời đúng trong ví dụ này bởi sự trùng hợp?)

Ví dụ với 100 thử nghiệm Bernoulli

Việc xây dựng các khoảng tin cậy có thể được đặt trong một âm mưu của $\theta$ đấu với $\hat{\theta}$ như ở đây:

Chúng ta có thể từ chối một giả thuyết null với các khoảng tin cậy được tạo ra thông qua lấy mẫu chứ không phải là giả thuyết null?

Trong câu trả lời của tôi cho câu hỏi đó, tôi sử dụng biểu đồ sau:

Lưu ý rằng hình ảnh này là một tác phẩm kinh điển và được chuyển thể từ The Use of Confidence hoặc Fiducial Limits Illustrated in the Case of the Binomial CJ Clopper và ES Pearson Biometrika Vol. 26, số 4 (tháng 12 năm 1934), trang 404-413

Bạn có thể định nghĩa một $\alpha$-% độ tin cậy theo hai cách:

• theo hướng dọc $L(\theta) < X < U(\theta)$ xác suất cho dữ liệu $X$, có điều kiện về tham số thực sự $\theta$, để rơi vào trong giới hạn này là $\alpha$ .

• theo hướng ngang $L(X) < \theta < U(X)$ xác suất mà một thử nghiệm sẽ có tham số thực trong khoảng tin cậy là $\alpha$%.

Sự tương ứng giữa hai hướng

Vì vậy, điểm chính là có sự tương ứng giữa các khoảng$L(X),U(X)$ và các khoảng $L(\theta),U(\theta)$. Đây là nơi mà hai phương pháp đến từ.

Khi bạn muốn $L(X)$ và $U(X)$càng gần càng tốt ( "ngắn nhất có thể ($1−\alpha$) khoảng tin cậy cấp độ " ) sau đó bạn đang cố gắng làm cho diện tích của toàn bộ khu vực càng nhỏ càng tốt và điều này tương tự như nhận được$L(\theta)$ và $U(\theta)$càng gần càng tốt. (nhiều hơn hoặc ít hơn, không có cách duy nhất để có được khoảng thời gian ngắn nhất có thể, ví dụ: bạn có thể rút ngắn khoảng cách cho một loại quan sát$\hat\theta$ với chi phí của một loại quan sát khác $\hat\theta$)

Ví dụ với$\boldsymbol{\hat\theta \sim \mathcal{N}(\mu=\theta, \sigma^2=1+\theta^2/3)}$

Để minh họa sự khác biệt giữa phương pháp đầu tiên và thứ hai chúng tôi điều chỉnh ví dụ một chút như vậy mà chúng ta có một trường hợp hai phương pháp làm khác nhau.

Để không phải là hằng số mà thay vào đó có một số mối quan hệ với$\sigma$$\mu= \theta$

thì hàm mật độ xác suất cho , có điều kiện trên là$\hat \theta$$\theta$

Hãy tưởng tượng hàm mật độ xác suất này vẽ như là hàm của và .$f(\hat \theta , \theta)$$\theta$$\hat \theta$

Chú thích: Đường màu đỏ là ranh giới trên cho khoảng tin cậy và đường màu xanh là ranh giới dưới cho khoảng tin cậy. Khoảng tin cậy được rút ra cho (khoảng 68,3%). Các đường màu đen dày là pdf (2 lần) và hàm khả năng giao nhau trong các điểm và .$\pm 1 \sigma$$(\theta,\hat\theta)=(-3,-1)$$(\theta,\hat\theta)=(0,-1)$

PDF Theo hướng từ trái sang phải (không đổi ), chúng ta có pdf để quan sát đưa ra . Bạn thấy hai trong số này được chiếu (trong mặt phẳng ). Lưu ý rằng ranh giới -values ( chọn để trở thành khu vực mật độ cao nhất) đang ở trên cùng một chiều cao cho một pdf duy nhất, nhưng không phải cho không ở cùng độ cao cho khác nhau pdf của (bằng chiều cao đó có nghĩa giá trị của )$\theta$$\hat \theta$$\theta$$\theta = 7$$p$$p<1-\alpha$$f(\hat\theta,\theta)$

Hàm khả năng Theo hướng từ trên xuống dưới (hằng ), chúng ta có hàm khả năng cho khi quan sát . Bạn thấy một trong những dự án bên phải.$\hat \theta$$\theta$$\hat\theta$

Trong trường hợp cụ thể này, khi bạn chọn khối lượng 68% với mật độ cao nhất cho hằng số thì bạn không nhận được giống như chọn khối lượng 68% với khả năng cao nhất cho hằng số .$\theta$$\hat \theta$

Đối với các tỷ lệ phần trăm khác của khoảng tin cậy, bạn sẽ có một hoặc cả hai ranh giới tại và khoảng thời gian có thể bao gồm hai phần rời rạc. Vì vậy, đó rõ ràng không phải là nơi có mật độ cao nhất của hàm khả năng (phương pháp 2). Đây là một ví dụ khá giả tạo (mặc dù nó đơn giản và tốt đẹp như thế nào dẫn đến nhiều chi tiết này) nhưng đối với các trường hợp phổ biến hơn, bạn có thể dễ dàng nhận ra rằng hai phương pháp không trùng nhau (xem ví dụ ở đây có khoảng tin cậy và khoảng tin cậy với một căn hộ trước được so sánh cho tham số tỷ lệ của phân bố mũ).$\pm \infty$

Khi nào hai phương thức giống nhau?

Đường ngang và dọc này cho kết quả tương tự, khi ranh giới và , ràng buộc các khoảng trong ô vs là các đường đẳng trị cho . Nếu các ranh giới ở mọi nơi có cùng độ cao so với cả hai hướng, bạn có thể cải thiện.$U$$L$$\theta$$\hat \theta$$f(\hat \theta ; \theta)$

(tương phản với điều này: trong ví dụ với các ranh giới khoảng tin cậy sẽ không ở cùng giá trị cho khác nhau , vì khối lượng xác suất sẽ lan rộng hơn, do đó mật độ thấp hơn, cho lớn hơn . Điều này làm cho và sẽ không ở cùng giá trị , ít nhất là đối với một số , Điều này mâu thuẫn với phương pháp 2 tìm cách chọn mật độ cao nhất cho một$\hat \theta \sim \mathcal{N}(\theta,1+\theta^2/3)$$f(\hat \theta, \theta)$$\theta$$\vert \theta \vert$$\theta_{low}$$\theta_{high}$$f(\hat \theta ; \theta)$$\hat \theta$$f(\hat \theta ; \theta)$$\hat \theta$. Trong hình trên, tôi đã cố gắng nhấn mạnh điều này bằng cách vẽ hai hàm pdf liên quan đến ranh giới khoảng tin cậy ở giá trị ; bạn có thể thấy rằng chúng có các giá trị khác nhau của pdf tại các ranh giới này.) $\hat \theta= -1$

Trên thực tế, phương pháp thứ hai có vẻ không hoàn toàn đúng (nó là một biến thể của khoảng khả năng hoặc khoảng tin cậy hơn khoảng tin cậy) và khi bạn chọn mật độ % theo hướng ngang (giới hạn % của khối lượng của hàm khả năng) sau đó bạn có thể phụ thuộc vào xác suất trước đó .$\alpha$$\alpha$

Trong ví dụ với phân phối bình thường, nó không phải là một vấn đề và hai phương thức căn chỉnh. Đối với một minh họa cũng xem câu trả lời này của Christoph Hanck . Có các ranh giới là đường đẳng. Khi bạn thay đổi , chức năng chỉ thực hiện thay đổi và không thay đổi 'hình dạng'.$\theta$$f(\hat\theta,\theta)$

Xác suất tin tưởng

Khoảng tin cậy, khi các giới hạn được tạo ra theo hướng thẳng đứng, là độc lập của các xác suất trước. Đây không phải là trường hợp với phương pháp thứ 2.

Sự khác biệt này giữa phương pháp thứ nhất và phương pháp thứ hai có thể là một ví dụ điển hình cho sự khác biệt tinh tế giữa xác suất fiducial và khoảng tin cậy.