Giá trị trung bình của mẫu bootstrap so với thống kê của mẫu

Giả sử tôi có một mẫu và mẫu bootstrap từ mẫu này cho stastitic (ví dụ: giá trị trung bình). Như chúng ta đều biết, mẫu bootstrap này ước tính các phân phối mẫu của ước lượng số liệu thống kê. $\chi$

Bây giờ, giá trị trung bình của mẫu bootstrap này có phải là ước tính tốt hơn về thống kê dân số so với thống kê của mẫu ban đầu không? Trong những điều kiện đó sẽ là trường hợp?

estimation bootstrap

— Amelio Vazquez-Reina
nguồn

Giá trị trung bình của mẫu bootstrap là giá trị trung bình của mẫu và bạn không cần mẫu bootstrap trong trường hợp này.

— Tây An

Cảm ơn @ Xi'an Tôi không chắc chắn tôi làm theo. Giá trị trung bình của mẫu bootstrap có thể khác với số lượng trung bình của mẫu. Bạn đang cố gắng nói rằng hai vẫn còn tương đương về mặt lý thuyết? Bạn có thể xác nhận trên cả hai đầu?

— Amelio Vazquez-Reina

Chúng ta hãy làm rõ thuật ngữ của chúng tôi: "mẫu bootstrap" có thể đề cập đến một mẫu thay thế cụ thể từ dữ liệu hoặc nó có thể đề cập đến một biến ngẫu nhiên (đa biến) trong đó một mẫu như vậy sẽ được coi là một nhận thức. Bạn đúng rằng giá trị trung bình của một nhận thức có thể khác với giá trị trung bình của dữ liệu, nhưng @ Xi'an cung cấp quan sát phù hợp hơn rằng giá trị trung bình của biến ngẫu nhiên (theo định nghĩa là ước tính bootstrap của trung bình dân số ) phải trùng với với giá trị trung bình của dữ liệu.

— whuber

Sau đó, câu hỏi của bạn là gần như giống hệt nhau để stats.stackexchange.com/questions/126633/... ; sự khác biệt duy nhất là việc thực hiện mẫu bootstrap có thể trùng lặp, nhưng phân tích được đưa ra trong câu trả lời có thể dễ dàng chuyển sang tình huống bootstrap, với kết quả tương tự.

— whuber

Tôi thấy kết nối @whuber, mặc dù trong bootstrap, người ta có "tập hợp con thay thế" và việc thực hiện có thể trùng lặp, như bạn đã nói. Tôi sẽ tưởng tượng rằng phân phối (ví dụ như giả ngẫu nhiên) được sử dụng để lấy lại các mẫu trong bootstrap cũng có thể ảnh hưởng đến độ lệch của ước tính từ mẫu bootstrap. Có lẽ câu trả lời là đối với tất cả các vấn đề thực tế, sự khác biệt là không đáng kể. Đây là những gì câu hỏi là sau: điều kiện, sự tinh tế và sự khác biệt trong thực tế.

— Amelio Vazquez-Reina

Câu trả lời:

Hãy khái quát hóa, để tập trung vào mấu chốt của vấn đề. Tôi sẽ đánh vần những chi tiết nhỏ nhất để không còn nghi ngờ gì nữa. Việc phân tích chỉ yêu cầu như sau:

Giá trị trung bình số học của một tập hợp các số $z_1, \ldots, z_m$ được xác định là

$\frac{1}{m} (z_{1} + \dots + z_{m}) .$ $\frac{1}{m}\left(z_1 + \cdots + z_m\right).$
Kỳ vọng là một toán tử tuyến tính. Nghĩa là, khi là các biến ngẫu nhiên và là các số, thì kỳ vọng của một tổ hợp tuyến tính là sự kết hợp tuyến tính của các kỳ vọng, $Z_i, i=1,\ldots,m$ $\alpha_i$

$E (α_{1} Z_{1} + \dots + α_{m} Z_{m}) = α_{1} E (Z_{1}) + \dots + α_{m} E (Z_{m}) .$ $\mathbb{E}\left(\alpha_1 Z_1 + \cdots + \alpha_m Z_m\right) = \alpha_1 \mathbb{E}(Z_1) + \cdots + \alpha_m\mathbb{E}(Z_m).$

Hãy là một mẫu thu được từ một tập dữ liệu bằng cách lấy yếu tố thống nhất từ với thay thế. Hãy là trung bình cộng của . Đây là một biến ngẫu nhiên. Sau đó $B$ $(B_1, \ldots, B_k)$ $x = (x_1, \ldots, x_n)$ $k$ $x$ $m(B)$ $B$

E (m (B)) = E (\frac{1}{k} (B_{1} + \dots + B_{k})) = \frac{1}{k} (E (B_{1}) + \dots + E (B_{k}))

$\mathbb{E}(m(B)) = \mathbb{E}\left(\frac{1}{k}\left(B_1+\cdots+B_k\right)\right) = \frac{1}{k}\left(\mathbb{E}(B_1) + \cdots + \mathbb{E}(B_k)\right)$

tiếp theo là tuyến tính của kỳ vọng. Vì các yếu tố của đều thu được theo cùng một kiểu, nên tất cả chúng đều có cùng kỳ vọng, nói: $B$ $b$

E (B_{1}) = \dots = E (B_{k}) = b .

$\mathbb{E}(B_1) = \cdots = \mathbb{E}(B_k) = b.$

Điều này đơn giản hóa những điều đã nói ở trên

E (m (B)) = \frac{1}{k} (b + b + \dots + b) = \frac{1}{k} (k b) = b .

$\mathbb{E}(m(B)) = \frac{1}{k}\left(b + b + \cdots + b\right) = \frac{1}{k}\left(k b\right) = b.$

Theo định nghĩa, kỳ vọng là tổng giá trị có trọng số xác suất. Vì mỗi giá trị của được giả sử có cơ hội bằng được chọn, $X$ $1/n$

E (m (B)) = = b = = E (B_{1}) = = \frac{1}{n} x_{1} + \dots + \frac{1}{n} x_{n} = = \frac{1}{n} (x_{1} + \dots + x_{n}) = = \bar{x},

$\mathbb{E}(m(B)) = b = \mathbb{E}(B_1) = \frac{1}{n}x_1 + \cdots + \frac{1}{n}x_n = \frac{1}{n}\left(x_1 + \cdots + x_n\right) = \bar x,$

trung bình số học của dữ liệu.

Để trả lời câu hỏi, nếu người ta sử dụng trung bình dữ liệu để ước tính trung bình dân số, thì trung bình bootstrap (là trường hợp ) cũng bằng , và do đó giống hệt như một công cụ ước tính của trung bình dân số. $\bar x$ $k=n$ $\bar x$

Đối với thống kê không phải là hàm tuyến tính của dữ liệu, kết quả tương tự không nhất thiết phải giữ. Tuy nhiên, sẽ là sai lầm nếu chỉ thay thế bootstrap có nghĩa là giá trị của thống kê trên dữ liệu: đó không phải là cách bootstrapping hoạt động. Thay vào đó, bằng cách so sánh bootstrap có nghĩa với thống kê dữ liệu, chúng tôi có được thông tin về sự sai lệch của thống kê. Điều này có thể được sử dụng để điều chỉnh thống kê ban đầu để loại bỏ sự thiên vị. Do đó, ước tính điều chỉnh sai lệch do đó trở thành một sự kết hợp đại số của thống kê ban đầu và ý nghĩa bootstrap. Để biết thêm thông tin, hãy tra cứu "BCa" (bootstrap được điều chỉnh và tăng tốc) và "ABC". Wikipedia cung cấp một số tài liệu tham khảo.

— whuber
nguồn

Bạn có nghĩa là kỳ vọng của trung bình bootstrap bằng với dữ liệu trung bình, không? Bản thân bootstrap không được xác định bởi mẫu dữ liệu (bản gốc).

— capybaralet

@ user2429920 Giá trị trung bình của bootstrap là một thống kê được xác định bởi mẫu. Theo nghĩa này, nó giống hệt với ý nghĩa mẫu. Kỳ vọng của nó được thực hiện trong ý nghĩa của phân phối mẫu. Tôi nghi ngờ bạn có thể đang sử dụng "kỳ vọng" theo một nghĩa khác liên quan đến quá trình tính toán bootstrap có nghĩa là thông qua việc lấy mẫu lặp lại với sự thay thế.

— whuber

Tôi nghĩ đoạn cuối là câu trả lời thực sự cho câu hỏi này vì nó chung chung và không chỉ tập trung vào thống kê trung bình. Tôi đã có cùng nghi ngờ với OP, và tôi không biết về sự tồn tại của BCa. Mặc dù phần trình diễn trong câu trả lời này không giúp tôi nhiều (tôi không sử dụng ý nghĩa như thống kê của mình), đoạn cuối rất rõ ràng về mấu chốt của vấn đề. Tôi tin rằng câu trả lời của Xi'an cũng giải quyết trường hợp sử dụng thống kê trung bình, vì vậy vấn đề tương tự. Cảm ơn bạn!

— Gabriel

@Gabriel điểm tốt. Tôi đã kiểm tra hồ sơ: trước khi chỉnh sửa, câu hỏi này ban đầu chỉ hỏi về giá trị trung bình. Đó là lý do tại sao các câu trả lời dường như rất tập trung vào thống kê đó.

— whuber

Kể từ khi phân phối bootstrap được định nghĩa là

{\hat{F}}_{n} (x) = = \frac{1}{n} Σ_{Tôi = = 1}^{n} {tôi}_{X_{Tôi} \leq x} X_{Tôi} \overset{iid}{~} F (x),

$\hat{F}_n(x) = \frac{1}{n}\sum_{i=1}^n\mathbb{I}_{X_i\le x}\qquad X_i\stackrel{\text{iid}}{\sim}F(x)\,,$

E_{{\hat{F}}_{n}} [X] = = \frac{1}{n} Σ_{Tôi = = 1}^{n} X_{Tôi} = = {\bar{X}}_{n}

$\mathbb{E}_{\hat{F}_n}[X]=\frac{1}{n}\sum_{i=1}^n X_i=\bar{X}_ n$

E_{{\hat{F}}_{n}} [X]

$\mathbb{E}_{\hat{F}_n}[X]$

{\bar{X}}_{n}

$\bar{X}_ n$

— Tây An
nguồn

+1 Đây là câu trả lời ban đầu tôi muốn viết, nhưng sợ nó có thể quá mờ đối với một số độc giả. Tuy nhiên tôi rất vui khi thấy nó được trình bày thanh lịch như vậy. Tuy nhiên, tôi không chắc ý của bạn trong câu cuối cùng của bạn là gì, nơi bạn dường như phân biệt "kỳ vọng" của xấp xỉ mô phỏng với giá trị trung bình so với "giới hạn" của nó: vì kỳ vọng là không đổi (nó không thay đổi theo kích thước mô phỏng ), thực sự không có bất kỳ giới hạn nào để thực hiện.

— whuber

@whuber: Cảm ơn bạn đã nhận xét và xin lỗi vì đã viết chính xác câu trả lời ngắn gọn của tôi cùng lúc với bạn! Giải thích của bạn chắc chắn dễ đọc hơn bởi những người mới trong bootstrap. Tôi đã sửa câu cuối cùng, phần giới hạn của nó là luật số lượng lớn.

— Tây An

Việc bạn sử dụng "nghĩa" trong câu cuối cùng đó là khá mơ hồ! Tôi đã tìm ra nó từ đầu mối LLN của bạn. Đối với bất kỳ mô phỏng hữu hạn nào của phân phối bootstrap, mỗi mẫu trong mô phỏng tạo ra giá trị trung bình của riêng nó (có một ý nghĩa của "trung bình"). Trung bình của tất cả các mẫu trong một mô phỏng nhất định tạo ra một ý nghĩa mô phỏng (có một ý nghĩa khác). Giá trị trung bình mô phỏng hội tụ đến một hằng số khi kích thước mô phỏng tăng lên, đó là trung bình bootstrap (nghĩa thứ ba) và điều này bằng với trung bình mẫu (nghĩa thứ tư). (Và điều này ước tính dân số có nghĩa là - nghĩa thứ năm!)

— whuber