Câu hỏi được gắn thẻ «least-squares»

Đề cập đến một kỹ thuật ước lượng chung chọn giá trị tham số để giảm thiểu chênh lệch bình phương giữa hai đại lượng, chẳng hạn như giá trị quan sát của một biến và giá trị dự kiến ​​của quan sát đó dựa trên giá trị tham số. Các mô hình tuyến tính Gaussian phù hợp với các bình phương tối thiểu và bình phương nhỏ nhất là ý tưởng làm cơ sở cho việc sử dụng lỗi bình phương trung bình (MSE) như một cách đánh giá một công cụ ước tính.


1
Bằng chứng về công thức LOOCV
Từ Giới thiệu về Học thống kê của James và cộng sự, ước tính xác thực chéo một lần (LOOCV) được xác định bởi CV(n)=1n∑i=1nMSEiCV(n)=1n∑i=1nMSEi\text{CV}_{(n)} = \dfrac{1}{n}\sum\limits_{i=1}^{n}\text{MSE}_i nơiMSEi=(yi−y^i)2MSEi=(yi−y^i)2\text{MSE}_i = (y_i-\hat{y}_i)^2. Không có bằng chứng, phương trình (5.2) nói rằng đối với hồi quy bình phương nhỏ nhất hoặc đa thức …


3
Tại sao không sử dụng các phương trình bình thường của người Viking để tìm các hệ số bình phương nhỏ nhất đơn giản?
Tôi thấy danh sách này ở đây và không thể tin rằng có rất nhiều cách để giải các hình vuông nhỏ nhất. "Phương trình bình thường" trên Wikipedia dường như là một cách khá đơn giản: α^β^= y¯- β^x¯,= ∑ni = 1( xTôi- x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯-β^x¯,β^= =ΣTôi= =1n(xTôi-x¯)(yTôi-y¯)ΣTôi= =1n(xTôi-x¯)2 {\displaystyle {\begin{aligned}{\hat …

1
Sai lệch biến bị bỏ qua trong hồi quy logistic so với sai lệch biến bị bỏ qua trong hồi quy bình phương nhỏ nhất bình thường
Tôi có một câu hỏi về sự thiên vị biến bị bỏ qua trong hồi quy logistic và tuyến tính. Nói rằng tôi bỏ qua một số biến từ mô hình hồi quy tuyến tính. Giả sử rằng các biến bị bỏ qua không tương thích với các biến tôi …

4
Mối quan hệ giữa
Tôi đã tự hỏi nếu có một mối quan hệ giữa và F-Test.R2R2R^2 Thông thường và nó đo cường độ của mối quan hệ tuyến tính trong hồi quy.R2= ∑ ( Y^t- Y¯)2/ T- 1∑ ( Yt- Y¯)2/ T- 1R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R^2=\frac {\sum (\hat Y_t - \bar Y)^2 / T-1} {\sum( Y_t …

1
Đảo ngược hồi quy sườn núi: ma trận phản hồi và hệ số hồi quy đã cho, tìm các yếu tố dự đoán phù hợp
Hãy xem xét một vấn đề tiêu chuẩn OLS hồi quy \newcommand{\Y}{\mathbf Y}\newcommand{\X}{\mathbf X}\newcommand{\B}{\boldsymbol\beta}\DeclareMathOperator*{argmin}{argmin} : Tôi có ma trận YY\Y và XX\X và tôi muốn tìm ββ\B để thu nhỏ L=∥Y−Xβ∥2.L=‖Y−Xβ‖2.L=\|\Y-\X\B\|^2. Giải pháp được đưa ra bởi β^=argminβ{L}=(X⊤X)+X⊤Y.β^=argminβ⁡{L}=(X⊤X)+X⊤Y.\hat\B=\argmin_\B\{L\} = (\X^\top\X)^+\X^\top \Y. Tôi cũng có thể đặt ra vấn đề "đảo …






1
Tại sao hồi quy này KHÔNG thất bại do tính đa hình hoàn hảo, mặc dù một biến là sự kết hợp tuyến tính của các biến khác?
Hôm nay, tôi đã chơi xung quanh với một tập dữ liệu nhỏ và thực hiện một hồi quy OLS đơn giản mà tôi dự kiến ​​sẽ thất bại do tính đa hình hoàn hảo. Tuy nhiên, nó đã không. Điều này ngụ ý rằng sự hiểu biết của tôi …



Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.