Hàm khả năng của dữ liệu bị cắt

Tôi gặp một chút khó khăn trong việc hiểu khái niệm và dẫn xuất về khả năng dữ liệu bị cắt ngắn.

Ví dụ: nếu tôi muốn tìm hàm khả năng dựa trên mẫu từ phân phối, nhưng khi lấy mẫu từ phân phối, tôi quan sát các giá trị bị cắt bớt (trong đó có một điểm cắt của , tức là bất kỳ được ghi là ): $M$ $x_{i}>M$ $M$

$x_{1}, x_{2}, M, x_{3}, M, x_{4}, x_{5}, ..., x_{10}$

trong đó số lượng giá trị là . Sau đó, khả năng được cho là của: $M$ $m$

$L(x;\theta) = \prod_{i=1}^{10}f(x_{i};\theta)*[P(X>M)]^{m}$

Tôi rất đánh giá cao một lời giải thích / bằng chứng về lý do tại sao điều này là như vậy, quan trọng là tại sao yếu tố thứ hai là như vậy. Trực giác và toán học nếu có thể. Cảm ơn rất nhiều trước.

dataset likelihood

— Delvesy
nguồn

Chữ thường " " là gì?

m

$m$

— Alecos Papadopoulos

Đó là số lần xuất hiện của .. tức là tôi đã quan sát điểm dữ liệu, trong đó không được cắt ngắn, và trong số đó là (tôi quan sát những chọn, tất cả với giá trị )

M

$M$

10 + m

$10 + m$

10

$10$

m

$m$

m

$m$

M

$M$

— Delvesy

Như @Alecos chỉ ra, bạn đang sử dụng "cắt ngắn" một cách ngẫu nhiên. "Kiểm duyệt" là thuật ngữ thông thường.

— Scortchi - Tái lập Monica

Một số thuật ngữ khác bạn có thể muốn tìm kiếm trên: "hiệu ứng trần / sàn", "hồi quy beta" và "mô hình không lạm phát".

— DWin

Câu trả lời:

Những gì bạn mô tả cần được đối xử đặc biệt, đó không phải là những gì chúng ta thường có nghĩa là "các biến ngẫu nhiên bị cắt cụt" - và điều chúng ta thường nói là biến ngẫu nhiên không nằm ngoài hỗ trợ bị cắt cụt, có nghĩa là không có sự tập trung của khối lượng xác suất tại điểm cắt ngắn. Để tương phản trường hợp:

A) Ý nghĩa "thông thường" của một rv bị cắt bớt
Đối với bất kỳ phân phối nào mà chúng tôi cắt bớt hỗ trợ của nó, chúng tôi phải "sửa" mật độ của nó để nó tích hợp với sự thống nhất khi được tích hợp trên hỗ trợ bị cắt bớt. Nếu biến có hỗ trợ trong , , thì (pdf , cdf ) $[a,b]$ $-\infty < a < b < \infty$ $f$ $F$

\int_{a}^{b} f_{X} (x) d x = \int_{a}^{M} f_{X} (x) d x + \int_{M}^{b} f_{X} (x) d x = \int_{a}^{M} f_{X} (x) d x + [1 - F_{X} (M)] = 1

$\int_a^bf_X(x)dx = \int_a^Mf_X(x)dx+\int_M^bf_X(x)dx = \int_a^Mf_X(x)dx + \left[1-F_X(M)\right]=1$

\Rightarrow \int_{a}^{M} f_{X} (x) d x = F_{X} (M)

$\Rightarrow \int_a^Mf_X(x)dx = F_X(M)$

Vì LHS là tích phân trên hỗ trợ bị cắt cụt, chúng tôi thấy rằng mật độ của rv bị cắt ngắn, gọi nó là , phải là $\tilde X$

f_{\tilde{X}} (\tilde{x}) = f_{X} (x ∣ X \leq M) = f_{X} (x) d x \cdot {[F_{X} (M)]}^{- 1}

$f_{\tilde X}(\tilde x) = f_{X}(x\mid X\le M)=f_X(x)dx\cdot \left[F_X(M)\right]^{-1}$ sao cho nó tích hợp để thống nhất trên . Thuật ngữ giữa trong biểu thức trên làm cho chúng ta nghĩ về tình huống này (một cách chính xác) như một dạng điều hòa - nhưng không phải trên một biến ngẫu nhiên khác, nhưng về các giá trị có thể mà chính rv có thể thực hiện. Ở đây, hàm mật độ / khả năng chung của một tập hợp ix rv bị cắt ngắn sẽ gấp lần mật độ trên, như thường lệ.

[a, M]

$[a, M]$

n

$n$

n

$n$

B) Nồng độ khối lượng xác suất
Ở đây, đó là những gì bạn mô tả trong câu hỏi, mọi thứ đều khác nhau. Điểm tập trung tất cả các khối lượng xác suất mà tương ứng với sự hỗ trợ của các biến cao hơn . Điều này tạo ra một điểm gián đoạn trong mật độ và làm cho nó có hai nhánh $M$ $M$

\begin{aligned} f_{X^{*}} (x^{*}) & = f_{X} (x^{*}) x^{*} < M \\ f_{X^{*}} (x^{*}) & = P (X^{*} \geq M) x^{*} \geq M \end{aligned}

$\begin{align} f_{X^*}(x^*) &= f_X(x^*) \qquad x^*<M\\ f_{X^*}(x^*) &= P(X^* \ge M) \qquad x^*\ge M\\ \end{align}$

Một cách không chính thức, điểm thứ hai là "giống như một rv rời rạc" trong đó mỗi điểm trong hàm khối xác suất đại diện cho xác suất thực tế. Bây giờ giả sử rằng chúng ta có biến ngẫu nhiên iid như vậy và chúng ta muốn hình thành hàm mật độ / khả năng chung của chúng. Trước khi nhìn vào mẫu thực tế, chúng ta nên chọn ngành nào? Chúng tôi không thể đưa ra quyết định đó vì vậy chúng tôi phải bao gồm cả hai. Để làm điều này, chúng ta cần sử dụng các hàm chỉ báo: biểu thị hàm chỉ thị nhận giá trị khi và khác. Mật độ của một rv như vậy có thể được viết $n$ $I\{x^*\ge M\}\equiv I_{\ge M}(x^*)$ $1$ $x^*\ge M$ $0$

f_{X^{*}} (x^{*}) = f_{X} (x^{*}) \cdot [1 - I_{\geq M} (x^{*})] + P (X^{*} \geq M) \cdot I_{\geq M} (x^{*})

$f_{X^*}(x^*) = f_X(x^*)\cdot \left[1-I_{\ge M}(x^*)\right]+P(X^* \ge M)\cdot I_{\ge M}(x^*)$ và do đó hàm mật độ khớp của biến iid đó là

n

$n$

f_{X^{*}} (X^{*} ∣ θ) = \prod_{i = 1}^{n} [f_{X} (x_{i}^{*}) \cdot [1 - I_{\geq M} (x_{i}^{*})] + P (X_{i}^{*} \geq M) \cdot I_{\geq M} (x_{i}^{*})]

$f_{X^*}(\mathbf X^*\mid \theta) = \prod_{i=1}^n\Big[f_X(x^*_i)\cdot \left[1-I_{\ge M}(x^*_i)\right]+P(X^*_i \ge M)\cdot I_{\ge M}(x^*_i)\Big]$

Bây giờ, xem ở trên là một hàm khả năng, mẫu thực tế bao gồm ngộ của những ngẫu nhiên biến đi vào chơi. Và trong mẫu này, một số nhận thức được quan sát sẽ thấp hơn ngưỡng , một số bằng nhau. Suy ra số lượng thực hiện trong mẫu bằng và tất cả phần còn lại, . Ngay lập tức, đối với việc thực hiện , phần mật độ tương ứng sẽ vẫn có khả năng sẽ là phần , trong khi đối với phần thực hiện , phần khác. Sau đó $n$ $M$ $m$ $M$ $v$ $m+v=n$ $m$ $P(X^*_i \ge M)$ $v$

\begin{aligned} L (θ ∣ {x_{i}^{*}; i = 1, . . . n}) & = \prod_{i = 1}^{v} [f_{X} (x_{i}^{*})] \cdot \prod_{j = 1}^{m} [P (X_{j}^{*} \geq M)] \\ = \prod_{i = 1}^{v} [f_{X} (x_{i}^{*})] \cdot [P (X^{*} \geq M)]^{m} \end{aligned}

$\begin{align} L(\theta\mid \{x_i^*;\,i=1,...n\})&= \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \prod_{j=1}^m\Big[P(X^*_j \ge M)\Big] \\& = \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \Big[P(X^* \ge M)\Big]^m\\ \end{align}$

— Alecos Papadopoulos
nguồn

Cảm ơn bạn. Tôi rất đánh giá cao trả lời. Tôi đoán vấn đề chính của tôi là điểm đầu tiên trong phần b) ... tức là, "nhánh thứ hai" của pdf được định nghĩa như thế nào. Nó là một pmf rời rạc và không thực sự định nghĩa pdf từ định nghĩa của pdf. Phần này có thể được giải thích thêm? Cảm ơn rất nhiều.

— Delvesy

Các biến ngẫu nhiên này được gọi là "kiểu hỗn hợp", nghĩa là chúng liên tục một phần và rời rạc. Theo trực giác nó có ý nghĩa rõ ràng, như câu hỏi của bạn cho thấy. Để xử lý nghiêm ngặt, hãy tra cứu "biến ngẫu nhiên loại hỗn hợp" hoặc "phân phối loại hỗn hợp". Đừng nhầm lẫn chúng với "hỗn hợp".

— Alecos Papadopoulos

Lý thuyết khả năng là một khuôn khổ khá chung chung. Hầu hết các sách giáo khoa đều đưa ra kết quả cho các trường hợp riêng biệt của r.vs liên tục và cho các trường hợp r.vs rời rạc. Tuy nhiên trường hợp hỗn hợp xảy ra trong thực tế, như trường hợp ở đây.

Đối với rv rời rạc , khả năng quan sát được xác định là xác suất nhận được giá trị quan sát , giả sử . Đối với một rv liên tục, khả năng thường được xác định là mật độ tại , giả sử . Tuy nhiên, trong thực tế, người ta chỉ biết rằng - vì độ chính xác đo lường hạn chế và nên được sử dụng như khả năng. Lấy , với $A$ $a$ $a$ $p_A(a)$ $L$ $x$ $f_X(x)$ $x_{\textrm{L}} < X < x_{\textrm{U}}$ $\Pr\left\{x_{\textrm{L}} < X < x_{\textrm{U}}\right\}$ $x_{\textrm{L}}:= x - \textrm{d}x/2$ $x_{\textrm{U}}:= x + \textrm{d}x/2$ $\mathrm{d}x$ nhỏ, chúng tôi nhận được lên tới bội số không quan trọng. Vì vậy, định nghĩa thông thường có thể được xem là ngầm định giả định độ chính xác vô hạn trên quan sát. $f_X(x)$ $\mathrm{d}x$

Đối với một vài r.vs và với loại hỗn hợp rời rạc / liên tục, khả năng sẽ là phân phối chung, thường được biểu thị bằng các phân phối có điều kiện, ví dụ: Do đó, trong một khoảng với độ dài nhỏ , là lần mật độ của điều kiện trên , giả sử $A$ $X$

L := Pr {A = a, x_{L} < X < x_{U}} = Pr {A = a} \times Pr {x_{L} < X < x_{U} | A = a} .

$L := \textrm{Pr}\left\{ A = a, \, x_{\textrm{L}} < X < x_{\textrm{U}} \right\} = \textrm{Pr}\left\{ A = a \right\} \times \textrm{Pr} \left\{x_{\textrm{L}} < X < x_{\textrm{U}} \, \vert\, A = a\right\}.$

(x_{L}, x_{U})

$(x_{\textrm{L}},\, x_{\textrm{U}})$

d x

$\textrm{d}x$

L

$L$

p_{A} (a)

$p_A(a)$

X

$X$

{A = a}

$\{A=a\}$

f_{X | A} (x | a)

$f_{X \vert A}(x \,\vert \,a)$ . Một lần nữa, chúng tôi bỏ qua thuật ngữ .

d x

$\mathrm{d}x$

Bây giờ chúng ta hãy quay lại ví dụ của bạn và chỉ xem xét một quan sát. Khi đó là một Bernoulli rv với xác suất thành công . Tùy thuộc vào hay không, hoặc là bạn quan sát chỉ hoặc bạn quan sát cả hai và giá trị của . Trong cả hai trường hợp, bạn sử dụng công thức trên, nhưng được lấy là hoặc là một khoảng có độ dài nhỏ chứa . Quả thực điều này mang lại $A = 1_{\{X > M\}}$ $\Pr\{X > M\}$ $X > M$ $A = 1$ $A = 0$ $x$ $X$ $(x_{\textrm{L}},\, x_{\textrm{U}})$ $(M,\,\infty)$ $\textrm{d}x$ $x$

L = {\begin{cases} Pr {X > M} \times 1 & if X > M i.e. A = 1, \\ Pr {X \leq M} \times f_{X | A} (x | a) d x & if X \leq M i.e. A = 0. \end{cases}

$L = \begin{cases} \textrm{Pr} \left\{X > M \right\} \times 1 & \textrm{if } X > M \textrm{ i.e. } A =1,\\ \textrm{Pr} \left\{X \leq M\right\} \times f_{X \vert A}(x \,\vert \,a)\,\textrm{d}x & \textrm{if } X \leq M \textrm{ i.e. } A = 0. \end{cases}$ Vì , khả năng chỉ đơn giản là trong trường hợp thứ hai và chúng ta có được khả năng được yêu cầu, lên đến thuật ngữ cho một quan sát với độ chính xác vô hạn. Khi các quan sát độc lập và được thực hiện, khả năng thu được là sản phẩm của khả năng cận biên dẫn đến biểu thức trong câu hỏi.

f_{X | A} (x | 0) = f_{X} (x) / Pr {X \leq M}

$f_{X \vert A}(x \,\vert \,0) = f_X(x) / \textrm{Pr} \left\{ X \leq M \right\}$

f_{X} (x) d x

$f_X(x)\,\textrm{d}x$

d x

$\mathrm{d}x$

A_{i}

$A_i$

X_{i}

$X_i$

— Yves
nguồn