Làm thế nào để bạn tính hàm mật độ xác suất tối đa của một mẫu các biến ngẫu nhiên thống nhất IID?

45

Cho biến ngẫu nhiên

Y = max (X_{1}, X_{2}, \dots, X_{n})

$Y = \max(X_1, X_2, \ldots, X_n)$

nơi $X_i$ là IID biến thống nhất, làm thế nào để tính toán PDF của $Y$ ?

pdf maximum

— Mascarpone
nguồn

4

Nếu đây là bài tập về nhà, vui lòng đọc FAQ và cập nhật câu hỏi của bạn cho phù hợp.

— hồng y

Người ta có thể sử dụng danh tính của Vandermonde để hiển thị chức năng chung của 2 đơn hàng Thống kê có thể nói là F_y (r) * G_y (r) không?

— larry mintz

Không quan tâm, khóa học nào bao gồm loại vấn đề này? Đó không phải là điều mà tôi gặp phải trong khóa học xác suất kỹ thuật của mình.

— Alex

@Alex Điều gì về một khóa học thống kê bao gồm việc lấy mẫu lại?

— SOFe

65

Có thể câu hỏi này là bài tập về nhà nhưng tôi cảm thấy câu hỏi xác suất cơ bản cổ điển này vẫn chưa có câu trả lời hoàn chỉnh sau vài tháng, vì vậy tôi sẽ đưa ra một câu hỏi ở đây.

Từ báo cáo vấn đề, chúng tôi muốn phân phối

Y = max {X_{1}, . . ., X_{n}}

$Y = \max \{ X_1, ..., X_n \}$

trong đó là iid . Chúng ta biết rằng khi và chỉ khi mọi phần tử của mẫu nhỏ hơn . Sau đó, điều này, như được chỉ ra trong gợi ý của @ varty, kết hợp với thực tế là là độc lập, cho phép chúng tôi suy luận $X_1, ..., X_n$ ${\rm Uniform}(a,b)$ $Y < x$ $x$ $X_i$

P (Y \leq x) = P (X_{1} \leq x, . . ., X_{n} \leq x) = \prod_{i = 1}^{n} P (X_{i} \leq x) = F_{X} (x)^{n}

$P(Y \leq x) = P(X_1 \leq x, ..., X_n \leq x) = \prod_{i=1}^{n} P(X_i \leq x) = F_{X}(x)^n$

trong đó là CDF của phân phối đồng đều . Do đó, CDF của là $F_{X}(x)$ $Y$

F_{Y} (y) = P (Y \leq y) = {\begin{cases} 0 & y \leq a \\ {[(y - a) / (b - a)]}^{n} & y \in (a, b) \\ 1 & y \geq b \end{cases}

$F_{Y}(y) = P(Y \leq y) = \begin{cases} 0 & y \leq a \\ \phantom{} \left[ (y-a)/(b-a) \right]^n & y\in(a,b) \\ 1 & y \geq b \\ \end{cases}$

Vì có phân phối hoàn toàn liên tục, chúng ta có thể lấy được mật độ của nó bằng cách phân biệt CDF . Do đó mật độ của là $Y$ $Y$

p_{Y} (y) = \frac{n (y - a)^{n - 1}}{(b - a)^{n}}

$p_{Y}(y) = \frac{n(y-a)^{n-1}}{(b-a)^{n}}$

Trong trường hợp đặc biệt khi , chúng ta có , đó là mật độ phân phối Beta với và , vì . $a=0,b=1$ $p_{Y}(y)=ny^{n-1}$ $\alpha=n$ $\beta=1$ ${\rm Beta}(n,1) = \frac{\Gamma(n+1)}{\Gamma(n)\Gamma(1)}=\frac{n!}{(n-1)!} = n$

Lưu ý, trình tự bạn nhận được nếu bạn sắp xếp mẫu của mình theo thứ tự tăng dần - - được gọi là thống kê đơn hàng . Một khái quát của câu trả lời này là tất cả các thống kê đơn hàng của mẫu phân phối có phân phối Beta , như đã lưu ý trong câu trả lời của @ bnaul. $X_{(1)}, ..., X_{(n)}$ ${\rm Uniform}(0,1)$

— Vĩ mô
nguồn

Đây thực sự là một câu hỏi bài tập về nhà cho tôi. Cảm ơn đã giải thích.

— Paul PM

tôi cảm thấy như tôi có thể đưa những hiểu biết của bạn ở đây và trả lời câu hỏi này , nhưng tôi không thấy làm thế nào để làm điều đó. Bạn có thể giúp tôi không? bạn có thể giới thiệu một cuốn sách giáo khoa hoặc chương nói về vấn đề chung này không?

@PaulPM Không quan tâm, khóa học nào bao gồm loại vấn đề này? Đó không phải là điều mà tôi gặp phải trong khóa học xác suất kỹ thuật của mình.

— Alex

6

Tối đa của một mẫu là một trong các thống kê đơn hàng , đặc biệt là thống kê thứ tự thứ của mẫu . Nói chung, tính toán phân phối số liệu thống kê đơn hàng là khó khăn, như được mô tả bởi bài viết Wikipedia; đối với một số phân phối đặc biệt, số liệu thống kê đơn hàng được biết đến (ví dụ: phân phối thống nhất, có thống kê đơn hàng phân phối Beta). $n$ $X_1,\dots,X_n$

EDIT: Bài viết Wikipedia về mẫu tối đa và tối thiểu cũng hữu ích và cụ thể hơn cho vấn đề của bạn.

— bnaul
nguồn

5

Đối với các phân phối có mật độ, tính toán phân phối biên của một thống kê đơn hàng cụ thể là khá đơn giản. Nó thậm chí còn dễ dàng hơn cho thống kê đơn hàng "đặc biệt" như tối thiểu và tối đa.

— Đức hồng y

Tôi đoán nó phụ thuộc vào ý nghĩa của "tính toán" trong câu hỏi ban đầu. Chắc chắn làm như vậy số lượng là đơn giản; Tôi giải thích câu hỏi là hỏi làm thế nào để tìm một giải pháp dạng đóng, nói chung là không dễ dàng.

— bnaul

8

@bnaul: Hãy là một tùy ý chức năng phân phối và để là một mẫu iid từ . Đặt là thống kê thứ tự thứ . Sau đóQED .

F (x) = P (X \leq x)

$F(x) = \mathbb P(X \leq x)$

X_{1}, \dots, X_{n}

$X_1,\ldots,X_n$

F

$F$

X_{(k)}

$\newcommand{Xk}{X_{(k)}}\Xk$

k

$k$

P (X_{(k)} \leq x) = \sum_{m = k}^{n} P (| {i : X_{i} \leq x} | = m) = \sum_{m = k}^{n} (\binom{n}{m}) F (x)^{m} (1 - F (x))^{n - m} .

$\mathbb P(\Xk \leq x) = \sum_{m=k}^n \mathbb P( |\{i: X_i \leq x\}| = m) = \sum_{m=k}^n {n \choose m} F(x)^m (1-F(x))^{n-m} \>.$

— Đức hồng y

1

Có lẽ một cách để hiểu câu trả lời của hồng y (cho rằng bạn hiểu thống kê đơn hàng cho đồng phục) là bởi vì cdf là các phép biến đổi 1-1 đơn điệu của một cdf đồng phục, chúng ta luôn có thể diễn đạt sự kiện {X <a} về mặt đồng phục biến ngẫu nhiên (đây là lý do tại sao monte carlo hoạt động). Vì vậy, bất kỳ kết quả nào dựa trên phân phối đồng đều sẽ dễ dàng khái quát hóa cho các biến ngẫu nhiên khác - chỉ cần áp dụng phép biến đổi .

U = F_{X} (X)

$U=F_{X}(X)$

— xác suất

2

@probabilityislogic: Trực giác là tốt, mặc dù có vẻ như bạn có các biến ngẫu nhiên liên tục trong tâm trí trong nhận xét của bạn. (Kết quả trong nhận xét thứ hai của tôi ở trên, ví dụ: hoạt động cho chức năng phân phối tùy ý.)

— hồng y

1

Nếu là CDF của , thì Sau đó, bạn có thể sử dụng thuộc tính iid và cdf của một phương sai đồng nhất để tính toán . $F_{Y}(y)$ $Y$

F_{Y} (y) = Prob (y > X_{1}, y > X_{2}, . . ., y > X_{n})

$F_Y(y)=\text{Prob}(y>X_1,y>X_2,...,y>X_n)$

F_{Y} (y)

$F_Y(y)$

— varty
nguồn

-3

Tối đa của một tập hợp các biến ngẫu nhiên IID khi được chuẩn hóa một cách thích hợp thường sẽ hội tụ đến một trong ba loại giá trị cực trị. Đây là định lý của Gnedenko, sự tương đương của định lý giới hạn trung tâm cho các cực trị. Loại cụ thể phụ thuộc vào hành vi đuôi của phân bố dân cư. Biết điều này, bạn có thể sử dụng phân phối giới hạn để xấp xỉ phân phối tối đa.

Vì phân phối đồng đều trên [a, b] là chủ đề của câu hỏi này, Macro đã đưa ra phân phối chính xác cho bất kỳ n và một câu trả lời rất hay. Kết quả khá tầm thường. Đối với phân phối bình thường, một dạng đóng đẹp là không thể nhưng bình thường hóa tối đa một cách hợp lý tối đa cho các phân phối bình thường cho phân phối Gumbel F (x) = exp (- e ). $^-$ $^x$

Đối với đồng phục, chuẩn hóa là (ba) -x / n và F (bax / n) = (1-x / [n (ba)]) $^n$ $^n$

hội tụ đến e . Lưu ý ở đây rằng y = bax / n. và F (y) hội tụ đến 1 khi y đi đến ba. Điều này giữ cho tất cả 0 $^-$ $^x$ $^/$ $^($ $^b$ $^-$ $^a$ $^)$ $^n$

Trong trường hợp này, thật dễ dàng để so sánh giá trị chính xác với giới hạn tiệm cận của nó.

Cuốn sách của Gumbel

Cuốn sách của Galambos

Cuốn sách của Leadbetter

Cuốn sách của Novak

Cuốn sách Coles

— Michael Chernick
nguồn

4

Để câu trả lời này có thể thực hiện được, bạn cần quy định cụ thể, làm thế nào một "bình thường hóa phù hợp" các giá trị và bạn cũng cần cung cấp một số cách để ước tính phải lớn như thế nào trước khi công thức tiệm cận trở thành một xấp xỉ đáng tin cậy.

n

$n$

— whuber

@whuber Bất cứ ai cũng có thể nhìn vào định lý của Gnedenko để thấy sự chuẩn hóa. Quan trọng không kém là các đặc điểm đuôi xác định loại nào trong ba loại áp dụng. Định lý tổng quát hóa các quá trình ngẫu nhiên đứng yên. Vì vậy, bất cứ ai muốn biết các chi tiết nghiệt ngã của nitty đều có thể xem cuốn sách của Leadbetter hoặc luận án tiến sĩ của tôi. Khi n đủ lớn là một câu hỏi khó trả lời cho bất kỳ hình thức tiệm cận nào. Tôi đoán định lý Berry-Esseen giúp cho định lý giới hạn trung tâm. Tôi không biết những gì có thể so sánh cho cực đoan.

— Michael Chernick