So sánh các hệ số logistic trên các mô hình với các biến phụ thuộc khác nhau?

Đây là một câu hỏi tiếp theo từ câu hỏi tôi đã hỏi vài ngày trước . Tôi cảm thấy nó đặt một vấn đề khác về vấn đề này, vì vậy liệt kê một câu hỏi mới.

Câu hỏi là: tôi có thể so sánh độ lớn của các hệ số giữa các mô hình với các biến phụ thuộc khác nhau không? Ví dụ, trên một mẫu duy nhất nói rằng tôi muốn biết liệu nền kinh tế là một công cụ dự đoán mạnh mẽ hơn về số phiếu trong Hạ viện hay cho Tổng thống. Trong trường hợp này, hai biến phụ thuộc của tôi sẽ là phiếu bầu trong Hạ viện (mã hóa 1 cho Dân chủ và 0 cho Đảng Cộng hòa) và bỏ phiếu cho Tổng thống (1 cho Dân chủ và 0 cho Đảng Cộng hòa) và biến độc lập của tôi là nền kinh tế. Tôi mong đợi một kết quả có ý nghĩa thống kê ở cả hai văn phòng, nhưng làm cách nào để đánh giá liệu nó có ảnh hưởng 'lớn hơn' so với cái kia không? Đây có thể không phải là một ví dụ đặc biệt thú vị, nhưng tôi tò mò về việc liệu có cách nào để so sánh hay không. Tôi biết người ta không thể chỉ nhìn vào 'kích thước' của hệ số. Vì thế, việc so sánh các hệ số trên các mô hình với các biến phụ thuộc khác nhau có thể không? Và, nếu vậy, làm thế nào nó có thể được thực hiện?

Nếu bất kỳ điều này không có ý nghĩa, hãy cho tôi biết. Tất cả các lời khuyên và ý kiến ​​được đánh giá cao.

Câu trả lời ngắn gọn là "có, bạn có thể" - nhưng bạn nên so sánh Ước tính khả năng tối đa (MLE) của "mô hình lớn" với tất cả các biến thể trong cả hai mô hình được trang bị cho cả hai.

Đây là một cách "gần như chính thức" để có được lý thuyết xác suất để trả lời câu hỏi của bạn

Trong ví dụ, và Y 2 là cùng một loại biến (phân số / tỷ lệ phần trăm) để chúng có thể so sánh được. Tôi sẽ giả định rằng bạn phù hợp với cùng một mô hình cho cả hai. Vì vậy, chúng tôi có hai mô hình:$Y_{1}$$Y_{2}$

l o g ( p 1

$$M_{1}:Y_{1i}\sim Bin(n_{1i},p_{1i})$$ M2:Y2i∼Bin(n2i,p2i)log(p 2 $$log\left(\frac{p_{1i}}{1-p_{1i}}\right)=\alpha_{1}+\beta_{1}X_{i}$$ $$M_{2}:Y_{2i}\sim Bin(n_{2i},p_{2i})$$ $$log\left(\frac{p_{2i}}{1-p_{2i}}\right)=\alpha_{2}+\beta_{2}X_{i}$$

Vì vậy, bạn có giả thuyết bạn muốn đánh giá:

$$H_{0}:\beta_{1}>\beta_{2}$$

$\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n}$

$$P=Pr(H_0|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I)$$

$H_0$

$$P=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(H_0,\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$$

The hypothesis simply restricts the range of integration, so we have:

$$P=\int_{-\infty}^{\infty} \int_{\beta_{2}}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$$

Because the probability is conditional on the data, it will factor into the two separate posteriors for each model

$$Pr(\alpha_{1},\beta_{1}|\{Y_{1i},X_{i},Y_{2i}\}_{i=1}^{n},I)Pr(\alpha_{2},\beta_{2}|\{Y_{2i},X_{i},Y_{1i}\}_{i=1}^{n},I)$$

Now because there is no direct links between $Y_{1i}$ and $\alpha_{2},\beta_{2}$, only indirect links through $X_{i}$, which is known, it will drop out of the conditioning in the second posterior. same for $Y_{2i}$ in the first posterior.

From standard logistic regression theory, and assuming uniform prior probabilities, the posterior for the parameters is approximately bi-variate normal with mean equal to the MLEs, and variance equal to the information matrix, denoted by $V_{1}$ and $V_{2}$ - which do not depend on the parameters, only the MLEs. so you have straight-forward normal integrals with known variance matrix. $\alpha_{j}$ marginalises out with no contribution (as would any other "common variable") and we are left with the usual result (I can post the details of the derivation if you want, but its pretty "standard" stuff):

$$P=\Phi\left(\frac{\hat{\beta}_{2,MLE}-\hat{\beta}_{1,MLE}}{\sqrt{V_{1:\beta,\beta}+V_{2:\beta,\beta}}}\right)$$

Where $\Phi()$ is just the standard normal CDF. This is the usual comparison of normal means test. But note that this approach requires the use of the same set of regression variables in each. In the multivariate case with many predictors, if you have different regression variables, the integrals will become effectively equal to the above test, but from the MLEs of the two betas from the "big model" which includes all covariates from both models.

Why not? The models are estimating how much 1 unit of change in any model predictor will influence the probability of "1" for the outcome variable. I'll assume the models are the same-- that they have the same predictors in them. The most informative way to compare the relative magnitudes of any given predictor in the 2 models is to use the models to calculate (either deterministically or better by simulation) how much some meaningful increment of change (e.g., +/- 1 SD) in the predictor affects the probabilities of the respective outcome variables--& compare them! You'll want to determine confidence intervals for the two estimates as well as so you can satisfy yourself that the difference is "significant," practically & statistically.

I assume that by "my independent variable is the economy" you're using shorthand for some specific predictor.

At one level, I see nothing wrong with making a statement such as

X predicts Y1 with an odds ratio of _ and a 95% confidence interval of [ _ , _ ] while X predicts Y2 with an odds ratio of _ and a 95% confidence interval of [ _ , _ ].

@dmk38's recent suggestions look very helpful in this regard.

You might also want to standardize the coefficients to facilitate comparison.

At another level, beware of taking inferential statistics (standard errors, p-values, CIs) literally when your sample constitutes a nonrandom sample of the population of years to which you might want to generalize.

Let us say the interest lies in comparing two groups of people: those with $X_{1} = 1$ and those with $X_{1} = 0$.

The exponential of $\beta_{1}$, the corresponding coefficient, is interpreted as the ratio of the odds of success for those with $X_{1} = 1$ over the odds of success for those with $X_{1} = 0$, conditional on the other variables in the model.

So, if you have two models with different dependend variables then the interpretation of $\beta_{1}$ changes since it is not conditioned upon the same set of variables. As a consequence, the comparison is not direct...