Ước tính khả năng tối đa của tham số vị trí của phân phối Cauchy

Tôi đã đạt đến

$$\frac{d\ln L}{d\mu}=\sum_{i=1}^n \frac{2(x_i-u)}{1+(x_i-u)^2}$$

Trong đó là tham số vị trí. Và là chức năng khả năng. Tôi không biết cách tiến hành. Xin vui lòng giúp đỡ.$u$$L$

Ok, hãy để chúng tôi nói pdf cho cauchy là:

$f(x;\theta)=\frac{1}{\pi}\frac{1}{1+(x-\theta)^2}$ ở đây là trung vị, không có nghĩa là vì nghĩa của Cauchy là không xác định.$\theta$

$$L(\theta;x)=\frac{1}{\pi}\frac{1}{1+(x_1-\theta)^2}\frac{1}{\pi}\frac{1}{1+(x_2-\theta)^2}\cdots\frac{1}{\pi}\frac{1}{1+(x_n-\theta)^2}\\=\frac{1}{\pi^n} \frac{1}{\prod[1+(x_i-\theta)^2]}$$

$$\ell(\theta;x)=-n\log\pi-\sum_{i=1}^n\log[1+(x_i-\theta)^2]$$

$$\frac{d\ell(\theta;x)}{d\theta}=\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2}$$

Đây chính xác là những gì bạn có, ngoại trừ ở đây là trung bình, không có nghĩa. Tôi cho rằng là trung bình trong công thức của bạn.$\theta$$u$

Bước tiếp theo, để tìm mle, chúng ta cần đặt$\frac{d\ell(\theta;x)}{d\theta} = \sum_{i=1}^n \frac{2(x_i-\theta)}{1+(x_i-\theta)^2}=0$

Bây giờ là biến của bạn và là các giá trị đã biết, bạn cần giải phương trìnhx i s ∑ n i = 1 2 ( x i - θ $\theta$$x_is$$\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2}=0$

tức là để giải quyết . Có vẻ như để giải phương trình này sẽ rất khó khăn. Do đó, chúng ta cần phương pháp Newton-Raphson.$\frac{2(x_1-\theta)}{1+(x_1-\theta)^2}+\frac{2(x_2-\theta)}{1+(x_2-\theta)^2}+\cdots+\frac{2(x_n-\theta)}{1+(x_n-\theta)^2}=0$

Tôi nghĩ rằng rất nhiều sách tính toán nói về phương pháp

Công thức cho phương pháp Newton-Raphson có thể được viết là

$$\hat{\theta^1}=\hat{\theta^0}-\frac{\ell'(\hat{\theta^0})}{\ell''(\hat{\theta^0})} \tag 1$$

$\hat{\theta^0}$ là dự đoán ban đầu của bạn về$\theta$

$\ell'$ là đạo hàm đầu tiên của hàm khả năng đăng nhập.

$\ell''$ là đạo hàm thứ hai của hàm khả năng đăng nhập.

Từ bạn có thể nhận sau đó bạn đặt đến sau đó bạn nhận được và đặt nó vào để nhận ... tiếp tục các lần lặp này cho đến khi không có thay đổi lớn giữa và$\hat{\theta^0}$$\hat{\theta^1}$$\hat{\theta^1}$$(1)$$\hat{\theta^2}$$(1)$$\hat{\theta^3}$$\hat{\theta^n}$$\hat{\theta^{n-1}}$

Sau đây là hàm R tôi đã viết để lấy mle cho bản phân phối Cauchy.

mlecauchy=function(x,toler=.001){      #x is a vector here
startvalue=median(x)
n=length(x);
thetahatcurr=startvalue;
# Compute first deriviative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
# Continue Newton’s method until the first derivative
# of the likelihood is within toler of 0.001
while(abs(firstderivll)>toler){
# Compute second derivative of log likelihood
 secondderivll=2*sum(((x-thetahatcurr)^2-1)/(1+(x-thetahatcurr)^2)^2);
# Newton’s method update of estimate of theta
thetahatnew=thetahatcurr-firstderivll/secondderivll;
thetahatcurr=thetahatnew;
# Compute first derivative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
}
list(thetahat=thetahatcurr);
}

Bây giờ, giả sử dữ liệu của bạn là$x_1=1.94,x_2=0.59,x_3=-5.98,x_4=-0.08,x_5-0.77$

x<-c(-1.94,0.59,-5.98,-0.08,-0.77)
mlecauchy(x,0.0001)

Kết quả:

#$thetahat
#[1] -0.5343968

Chúng ta cũng có thể sử dụng R build trong hàm để lấy mle.

optimize(function(theta) -sum(dcauchy(x, location=theta, log=TRUE)),  c(-100,100)) 

#we use negative sign here

Các kết quả:

#$minimum
#[1] -0.5343902

Kết quả gần giống như các mã sản xuất tại nhà.

---

Ok, như bạn yêu cầu, hãy để chúng tôi làm điều này bằng tay.

Đầu tiên, chúng tôi nhận được dự đoán ban đầu sẽ là trung bình của dữ liệu$-5.98, -1.94, -0.77, -0.08, 0.59$

Trung vị là$-0.77$

Tiếp theo, chúng ta đã biết rằng$l'(\theta)=\frac{dl(\theta;x)}{d\theta}=\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2}$

và

$$l''(\theta)=\frac{dl^2(\theta;x)}{d(\theta}=\frac{d(\sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2})}{d\theta}=2\sum_{i=1}^n\frac{(x_i-\theta)^2-1}{[1+(x_i-\theta)^2]^2}$$

Bây giờ chúng tôi cắm tức là trung vị cho và$\hat{\theta^0}$$l'(\theta)$$l''(\theta)$

tức là thay thế bằng tức là trung bình tức là$\theta$$\hat{\theta^0}$$-0.77$

$$\begin{align} \ell'(\theta) = {} & \sum_{i=1}^n\frac{2(x_i-\theta)}{1+(x_i-\theta)^2} \\[10pt] = {} &\frac{2[-5.98-(-0.77)]}{1+[(-5.98-(-0.77)^2]} + \frac{2[-1.94-(-0.77)]}{1+[(-1.94-(-0.77)^2]} + \frac{2[-0.77-(-0.77)]}{1+[(-0.77-(-0.77)^2]} \\[6pt] & {} +\frac{2[-0.08-(-0.77)]}{1+[(-0.08-(-0.77)^2]} +\frac{2[0.59-(-0.77)]}{1+[(0.59-(-0.77)^2]}\\[10pt] = {} & \text{??} \end{align}$$

Tiếp theo cắm vào và để nhận sau đó bạn có thể nhận được$x_1$$x_5$$-0.77$$\ell''(\theta)$$\hat{\theta^1}$

Ok, tôi phải dừng lại ở đây, thật rắc rối khi tính toán các giá trị này bằng tay.