Cần thuật toán để tính toán khả năng tương đối rằng dữ liệu được lấy mẫu từ phân phối chuẩn so với bình thường

Giả sử bạn có một tập hợp các giá trị và bạn muốn biết liệu có nhiều khả năng chúng được lấy mẫu từ phân phối Gaussian (bình thường) hoặc được lấy mẫu từ phân phối logic không?

Tất nhiên, lý tưởng nhất là bạn biết điều gì đó về dân số hoặc về nguồn gốc của lỗi thử nghiệm, vì vậy sẽ có thêm thông tin hữu ích để trả lời câu hỏi. Nhưng ở đây, giả sử chúng ta chỉ có một bộ số và không có thông tin nào khác. Cái nào có khả năng hơn: lấy mẫu từ Gaussian hoặc lấy mẫu từ phân phối logic? Nhiều khả năng hơn? Điều tôi hy vọng là một thuật toán để chọn giữa hai mô hình và hy vọng định lượng khả năng tương đối của từng mô hình.

Bạn có thể dự đoán tốt nhất về loại phân phối bằng cách khớp từng phân phối (bình thường hoặc bất thường) với dữ liệu theo khả năng tối đa, sau đó so sánh khả năng đăng nhập theo từng mô hình - mô hình có khả năng đăng nhập cao nhất là phù hợp nhất. Ví dụ: trong R:

# log likelihood of the data given the parameters (par) for 
# a normal or lognormal distribution
logl <- function(par, x, lognorm=F) {
    if(par[2]<0) { return(-Inf) }
    ifelse(lognorm,
    sum(dlnorm(x,par[1],par[2],log=T)),
    sum(dnorm(x,par[1],par[2],log=T))
    )
}

# estimate parameters of distribution of x by ML 
ml <- function(par, x, ...) {
    optim(par, logl, control=list(fnscale=-1), x=x, ...)
}

# best guess for distribution-type
# use mean,sd of x for starting parameters in ML fit of normal
# use mean,sd of log(x) for starting parameters in ML fit of lognormal
# return name of distribution type with highest log ML
best <- function(x) {
    logl_norm <- ml(c(mean(x), sd(x)), x)$value
        logl_lognorm <- ml(c(mean(log(x)), sd(log(x))), x, lognorm=T)$value
    c("Normal","Lognormal")[which.max(c(logl_norm, logl_lognorm))]
}

Bây giờ tạo số từ phân phối bình thường và phù hợp với phân phối bình thường theo ML:

set.seed(1)
x = rnorm(100, 10, 2)
ml(c(10,2), x)

Sản xuất:

$par
[1] 10.218083  1.787379

$value
[1] -199.9697
...

So sánh khả năng đăng nhập cho ML phù hợp với phân phối bình thường và lognatural:

ml(c(10,2), x)$value # -199.9697
    ml(c(2,0.2), x, lognorm=T)$value # -203.1891
best(x) # Normal

Hãy thử với một bản phân phối hợp lý:

best(rlnorm(100, 2.6, 0.2)) # lognormal

Bài tập sẽ không hoàn hảo, tùy thuộc vào n, trung bình và sd:

> table(replicate(1000, best(rnorm(500, 10, 2))))

Lognormal    Normal 
        6       994 
> table(replicate(1000, best(rlnorm(500, 2.6, 0.2))))

Lognormal    Normal 
      999         1 

$M \in \{ \text{Normal}, \text{Log-normal} \}$$X = \{ x_1, ..., x_N \}$

$$P(M \mid X) \propto P(X \mid M) P(M).$$

Phần khó khăn là có được khả năng cận biên ,

$$P(X \mid M) = \int P(X \mid \theta, M) P(\theta \mid M) \, d\theta.$$

$p(\theta \mid M)$$X$$Y = \{ \log x_1, ..., \log x_N$$Y$$X$,

$$P(X \mid M = \text{Log-Normal}) = P(Y \mid M=\text{Normal}) \cdot \prod_i \left| \frac{1}{x_i} \right|.$$

$P(\theta \mid M)$$P(\sigma^2, \mu \mid M=\text{Normal})$$P(M)$

Thí dụ:

$P(\mu, \sigma^2 \mid M = \text{Normal})$$m_0 = 0, v_0 = 20, a_0 = 1, b_0 = 100$

Theo Murphy (2007) (Công thức 203), khả năng cận biên của phân phối bình thường sau đó được đưa ra bởi

$$P(X \mid M = \text{Normal}) = \frac{|v_N|^\frac{1}{2}}{|v_0|^\frac{1}{2}} \frac{b_0^{a_0}}{b_n^{a_N}} \frac{\Gamma(a_N)}{\Gamma(a_0)} \frac{1}{\pi^{N/2}2^N}$$

$a_N, b_N,$$v_N$$P(\mu, \sigma^2 \mid X, M = \text{Normal})$

$$\begin{align} v_N &= 1 / (v_0^{-1} + N), \\ m_N &= \left( v_0^{-1}m_0 + \sum_i x_i \right) / v_N, \\ a_N &= a_0 + \frac{N}{2}, \\ b_N &= b_0 + \frac{1}{2} \left( v_0^{-1}m_0^2 - v_N^{-1}m_N^2 + \sum_i x_i^2 \right). \end{align}$$

Tôi sử dụng cùng một siêu âm cho phân phối log-normal,

$$P(X \mid M = \text{Log-normal}) = P(\{\log x_1, ..., \log x_N \} \mid M = \text{Normal}) \cdot \prod_i \left|\frac{1}{x_i}\right|.$$

$0.1$$P(M = \text{Log-normal}) = 0.1$

hậu thế cư xử như thế này:

$N$

Khi thực hiện các phương trình, sẽ là một ý tưởng tốt để làm việc với mật độ log thay vì mật độ. Nhưng nếu không thì nó sẽ khá thẳng về phía trước. Đây là mã mà tôi đã sử dụng để tạo các ô:

https://gist.github.com/lucastheis/6094631

Có vẻ như bạn đang tìm kiếm một cái gì đó khá thực dụng để giúp các nhà phân tích có thể không phải là nhà thống kê chuyên nghiệp và cần một cái gì đó để thúc đẩy họ làm những gì nên là các kỹ thuật khám phá tiêu chuẩn như nhìn vào các ô qq, các ô mật độ, v.v.

Trong trường hợp đó, tại sao không chỉ đơn giản là thực hiện kiểm tra tính quy tắc (Shapiro-Wilk hoặc bất cứ điều gì) trên dữ liệu gốc và một trên dữ liệu chuyển đổi nhật ký và nếu giá trị p thứ hai cao hơn sẽ đưa cờ cho nhà phân tích xem xét sử dụng biến đổi nhật ký ? Như một phần thưởng, hãy đưa ra một đồ họa 2 x 2 của biểu đồ đường mật độ và biểu đồ qqnorm của dữ liệu thô và dữ liệu được chuyển đổi.

Điều này sẽ không trả lời về mặt kỹ thuật câu hỏi của bạn về khả năng tương đối nhưng tôi tự hỏi liệu đó có phải là tất cả những gì bạn cần không.