Sự khác biệt giữa tương quan và hồi quy tuyến tính đơn giản là gì?

Cụ thể, tôi đang đề cập đến hệ số tương quan thời điểm sản phẩm Pearson.

Sự khác biệt giữa tương quan giữa và và hồi quy tuyến tính dự đoán từ gì?Y Y $X$$Y$$Y$$X$

Đầu tiên, một số điểm tương đồng :

• hệ số hồi quy chuẩn hóa giống như hệ số tương quan của Pearson
• Bình phương hệ số tương quan của Pearson giống như trong hồi quy tuyến tính đơn giản$R^2$
• Không hồi quy tuyến tính đơn giản cũng không tương quan trả lời các câu hỏi về quan hệ nhân quả trực tiếp. Điểm này rất quan trọng, bởi vì tôi đã gặp những người mà nghĩ rằng hồi quy đơn giản một cách kỳ diệu có thể cho phép một suy luận rằng gây .$X$$Y$

Thứ hai, một số khác biệt :

• Phương trình hồi quy (nghĩa là ) có thể được sử dụng để đưa ra dự đoán về dựa trên các giá trị củaY $a + bX$$Y$$X$
• Trong khi mối tương quan thường đề cập đến mối quan hệ tuyến tính, nó có thể đề cập đến các hình thức phụ thuộc khác, chẳng hạn như mối quan hệ đa thức hoặc thực sự phi tuyến tính
• Mặc dù mối tương quan thường đề cập đến hệ số tương quan của Pearson, có những loại tương quan khác, chẳng hạn như Spearman.

Đây là câu trả lời tôi đã đăng trên trang web graphpad.com :

Tương quan và hồi quy tuyến tính không giống nhau. Hãy xem xét những khác biệt sau:

• Tương quan định lượng mức độ mà hai biến có liên quan. Tương quan không phù hợp với một dòng thông qua dữ liệu.
• Với mối tương quan, bạn không phải suy nghĩ về nguyên nhân và kết quả. Bạn chỉ cần định lượng mức độ hai biến liên quan với nhau. Với hồi quy, bạn phải suy nghĩ về nguyên nhân và kết quả vì đường hồi quy được xác định là cách tốt nhất để dự đoán Y từ X.
• Với mối tương quan, không có vấn đề nào trong hai biến bạn gọi là "X" và bạn gọi là "Y". Bạn sẽ có được hệ số tương quan tương tự nếu bạn trao đổi hai. Với hồi quy tuyến tính, quyết định của biến bạn gọi là "X" và quyết định của bạn gọi là "Y" là gì, vì bạn sẽ nhận được một dòng phù hợp nhất khác nếu bạn trao đổi hai biến. Dòng dự đoán tốt nhất Y từ X không giống với dòng dự đoán X từ Y (trừ khi bạn có dữ liệu hoàn hảo không có phân tán.)
• Tương quan hầu như luôn được sử dụng khi bạn đo cả hai biến. Nó hiếm khi thích hợp khi một biến là thứ bạn thao tác thử nghiệm. Với hồi quy tuyến tính, biến X thường là thứ bạn thao tác thực nghiệm (thời gian, nồng độ ...) và biến Y là thứ bạn đo được.

Trong trường hợp dự báo duy nhất của hồi quy tuyến tính, độ dốc chuẩn hóa có cùng giá trị với hệ số tương quan. Ưu điểm của hồi quy tuyến tính là mối quan hệ có thể được mô tả theo cách mà bạn có thể dự đoán (dựa trên mối quan hệ giữa hai biến) điểm số trên biến dự đoán với bất kỳ giá trị cụ thể nào của biến dự đoán. Cụ thể, một phần thông tin, hồi quy tuyến tính cung cấp cho bạn rằng một mối tương quan không phải là đánh chặn, giá trị trên biến dự đoán khi dự đoán là 0.

Nói tóm lại - chúng tạo ra kết quả giống hệt nhau về mặt tính toán, nhưng có nhiều yếu tố có khả năng diễn giải trong hồi quy tuyến tính đơn giản. Nếu bạn quan tâm đến việc mô tả đơn giản mức độ quan hệ giữa hai biến, hãy sử dụng mối tương quan - nếu bạn quan tâm đến việc dự đoán hoặc giải thích kết quả của mình theo các giá trị cụ thể mà bạn có thể muốn hồi quy.

Phân tích tương quan chỉ định lượng mối quan hệ giữa hai biến bỏ qua đó là biến phụ thuộc và biến độc lập. Nhưng trước khi hồi quy appliyng, bạn phải bình tĩnh tác động của biến nào bạn muốn kiểm tra biến khác.

Tất cả các câu trả lời cho đến nay đều cung cấp những hiểu biết quan trọng nhưng không nên quên rằng bạn có thể chuyển đổi các tham số của cái này sang cái khác:

Hồi quy:$y = mx + b$

Kết nối giữa các tham số hồi quy và tương quan, hiệp phương sai, phương sai, độ lệch chuẩn và phương tiện: b= ˉ y -m ˉ

Vì vậy, bạn có thể chuyển đổi cả hai thành nhau bằng cách chia tỷ lệ và thay đổi các tham số của chúng.

Một ví dụ trong R:

y <- c(4.17, 5.58, 5.18, 6.11, 4.50, 4.61, 5.17, 4.53, 5.33, 5.14)
x <- c(4.81, 4.17, 4.41, 3.59, 5.87, 3.83, 6.03, 4.89, 4.32, 4.69)
lm(y ~ x)
## 
## Call:
## lm(formula = y ~ x)
## 
## Coefficients:
## (Intercept)            x  
##      6.5992      -0.3362
(m <- cov(y, x) / var(x)) # slope of regression
## [1] -0.3362361
cor(y, x) * sd(y) / sd(x) # the same with correlation
## [1] -0.3362361
mean(y) - m*mean(x)       # intercept
## [1] 6.599196

Từ mối tương quan, chúng ta chỉ có thể có được một chỉ số mô tả mối quan hệ tuyến tính giữa hai biến; trong hồi quy chúng ta có thể dự đoán mối quan hệ giữa hơn hai biến và có thể sử dụng nó để xác định biến x nào có thể dự đoán biến kết quả y .

Trích dẫn Altman DG, "Số liệu thống kê thực tế cho nghiên cứu y học" Chapman & Hall, 1991, trang 321: "Tương quan làm giảm một tập hợp dữ liệu thành một số duy nhất không liên quan trực tiếp đến dữ liệu thực tế. Hồi quy là phương pháp hữu ích hơn nhiều, với kết quả có liên quan rõ ràng với phép đo thu được. Độ mạnh của mối quan hệ là rõ ràng và độ không đảm bảo có thể được nhìn thấy rõ ràng từ khoảng tin cậy hoặc khoảng dự đoán "

Phân tích hồi quy là một kỹ thuật để nghiên cứu nguyên nhân ảnh hưởng của mối quan hệ giữa hai biến. trong khi đó, phân tích tương quan là một kỹ thuật để nghiên cứu định lượng mối quan hệ giữa hai biến.

Tương quan là một chỉ số (chỉ một số) về sức mạnh của mối quan hệ. Hồi quy là một phân tích (ước tính các tham số của một mô hình và kiểm tra thống kê về tầm quan trọng của chúng) về tính đầy đủ của một mối quan hệ chức năng cụ thể. Kích thước của mối tương quan có liên quan đến mức độ chính xác của các dự đoán của hồi quy.

Tương quan là một thuật ngữ trong một thống kê xác định xem liệu có mối quan hệ giữa hai và sau đó mức độ của mối quan hệ. Phạm vi của nó là từ -1 đến +1. Trong khi hồi quy có nghĩa là quay trở lại mức trung bình. Từ hồi quy, chúng tôi dự đoán giá trị bằng cách giữ một biến phụ thuộc và độc lập khác nhưng cần làm rõ giá trị của biến nào chúng tôi muốn dự đoán.