Ẩn mô hình hồi quy từ giáo sư (Regression Battleship) [đã đóng]

Tôi đang làm bài tập về nhà, nơi giáo sư của tôi muốn chúng tôi tạo ra một mô hình hồi quy thực, mô phỏng một mẫu dữ liệu và anh ấy sẽ cố gắng tìm mô hình hồi quy thực sự của chúng tôi bằng cách sử dụng một số kỹ thuật chúng tôi đã học trong lớp. Chúng tôi cũng sẽ phải làm như vậy với một bộ dữ liệu anh ấy đưa cho chúng tôi.

Anh ấy nói rằng anh ấy đã có thể tạo ra một mô hình khá chính xác cho tất cả những nỗ lực trong quá khứ để thử và lừa anh ấy. Đã có một số sinh viên tạo ra một số mô hình điên rồ nhưng anh ta cho rằng có thể tạo ra một mô hình đơn giản hơn, vừa đủ.

Làm thế nào tôi có thể đi về việc phát triển một mô hình khó khăn cho anh ta để tìm? Tôi không muốn trở nên siêu rẻ bằng cách thực hiện 4 thuật ngữ bậc hai, 3 quan sát và phương sai lớn? Làm thế nào tôi có thể tạo ra một bộ dữ liệu dường như vô hại có một mô hình nhỏ khó khăn bên dưới nó?

Anh ta chỉ cần có 3 Quy tắc để tuân theo:

1. Tập dữ liệu của bạn phải có một biến "Y" và 20 biến "X" được gắn nhãn là "Y", "X1", ..., "X20".

2. Biến phản hồi của bạn phải đến từ mô hình hồi quy tuyến tính thỏa mãn: trong đó và .Y ' i = β 0 + β 1 X ' i 1 + ... + β p - 1 X ' i , p - 1 + ε i ε i ~ N ( 0 , σ 2 ) p ≤ $Y$
   

   $$Y_i^\prime = \beta_0 + \beta_1 X_{i1}^\prime + \ldots + \beta_{p-1}X_{i,p-1}^\prime + \epsilon_i$$ $\epsilon_i \sim N(0,\sigma^2)$$p \leq 21$

3. Tất cả các biến được sử dụng để tạo đều có trong tập dữ liệu của bạn.$X$$Y$

Cần lưu ý, không phải tất cả 20 biến X cần có trong mô hình thực của bạn

Tôi đã nghĩ đến việc sử dụng một cái gì đó giống như Mô hình 3 yếu tố Fama-French và để anh ấy bắt đầu với dữ liệu chứng khoán (SPX và AAPL) và phải chuyển đổi các biến đó thành lợi nhuận gộp liên tục để quan sát thêm một chút. Nhưng điều đó để lại cho tôi những giá trị còn thiếu trong lần quan sát đầu tiên và đó là chuỗi thời gian (mà chúng ta chưa thảo luận trong lớp).

Không chắc chắn nếu đây là nơi thích hợp để đăng một cái gì đó như thế này. Tôi cảm thấy như nó có thể tạo ra một số cuộc thảo luận tốt.

Chỉnh sửa: Tôi cũng không yêu cầu các mô hình "dựng sẵn" nói riêng. Tôi tò mò hơn về các chủ đề / công cụ trong Thống kê sẽ cho phép ai đó thực hiện điều này.

$y_i=X_{i1}+\epsilon_i$$X_{ij}=\sin(i+j)$$i=1..1000$$\sigma=1000000$

Chúc may mắn xác định pha với tỷ lệ nhiễu / tín hiệu này.

$Y$$\epsilon_i\sim N(0,1)$

$Y$$X_1$$X_1$$Y$$X_1$$X_2$

$X_1$$X_2$$X_1$$X_2$ $Y$

$E[Y|X_1]$$E[Y|X_2]$$E[Y|X_1, X_2]$ $E[Y|X_1]$$Y$$Y$ v.v. Bạn có thể tranh luận lại rằng đó không phải là những gì anh ấy nói, vì anh ấy nói:

biến Y phải đến từ mô hình hồi quy tuyến tính thỏa mãn (...) biến được sử dụng để tạo Y (...) mô hình thực của bạn (...)

Và bạn có thể châm ngòi cho một cuộc thảo luận tốt trong lớp về quan hệ nhân quả, DGP thực sự có nghĩa là gì và nhận dạng nói chung.

Sử dụng các biến có độ đa hình và độ không đồng nhất như thu nhập so với tuổi: thực hiện một số kỹ thuật tính năng đau đớn cung cấp các vấn đề mở rộng: cung cấp NA cho một số rắc rối. Các mảnh tuyến tính thực sự làm cho nó khó khăn hơn nhưng nó có thể được thực hiện đau đớn. Ngoài ra, các ngoại lệ sẽ tăng vấn đề cho anh ta trả trước.

$X_5X_8X_{12}X_{13}$

Chọn bất kỳ mô hình tuyến tính. Đưa cho anh ta một bộ dữ liệu trong đó hầu hết các mẫu nằm trong khoảng x = 0. Đưa cho anh ta vài mẫu khoảng x = 1.000.000.

Điều tuyệt vời ở đây là các mẫu xung quanh x = 1.000.000 không phải là ngoại lệ. Chúng được tạo ra từ cùng một nguồn. Tuy nhiên, vì các tỷ lệ rất khác nhau, các lỗi trong khoảng 1M sẽ không phù hợp với các lỗi xung quanh 0.

Chúng tôi có một bộ dữ liệu gồm n mẫu, gần x = 0. Chúng tôi sẽ chọn thêm 2 điểm trong các giá trị "đủ xa". Chúng tôi giả định rằng hai điểm này có một số lỗi.

Giá trị "đủ xa" là một giá trị sao cho sai số cho ước tính không vượt qua trực tiếp ở hai điểm này lớn hơn nhiều so với lỗi của phần còn lại của tập dữ liệu.

Do đó, hồi quy tuyến tính sẽ chọn các hệ số sẽ vượt qua trong hai điểm này và sẽ bỏ lỡ phần còn lại của bộ dữ liệu và khác với mô hình gạch chân.

Xem ví dụ sau. {{1, 782}, {2, 3099}, {3, 110}, {4, 1266}, {5, 1381}, {1000000, 1002169}, {1000001, 999688}}

Đây là định dạng loạt WolfarmAlpha. Trong mỗi cặp, mục đầu tiên là x và mục thứ hai được tạo trong Excel bằng công thức = A2 + NORMINV (RAND (), 0,2000).

$\beta_0=1, \beta_1=1$

$y= 178433. x - 426805$$y=x$