Tôi có thể sử dụng thuật toán glm để thực hiện hồi quy logistic đa thức không?

Tôi đang sử dụng spotfire (S ++) để phân tích thống kê trong dự án của mình và tôi phải chạy hồi quy logistic đa phương thức cho một tập dữ liệu lớn. Tôi biết thuật toán tốt nhất sẽ là mlogit, nhưng tiếc là điều đó không có sẵn trong s ++. Tuy nhiên, tôi có một tùy chọn sử dụng thuật toán glm cho hồi quy này. Tôi muốn làm rõ hai điều ở đây:

1. Hiểu biết của tôi có đúng không khi glm cũng có thể được sử dụng để chạy Hồi quy đa biến logistic?

1. Nếu câu trả lời cho câu hỏi trước là có, thì nên sử dụng tham số nào trong glm algo?

Cảm ơn,

Có, với Poisson GLM (mô hình tuyến tính log), bạn có thể phù hợp với các mô hình đa phương thức. Do đó các mô hình Poisson logistic đa tuyến hoặc logistic là tương đương.

Bạn cần xem số ngẫu nhiên $y_{ij}$ là biến ngẫu nhiên Poisson với phương tiện $μ_{ij}$ và chỉ định mô hình log-linear sau đây

$\log(μ_{ij}) = o + p_i + c_j + x_iβ_j$

Để có được một mô hình logit đa phương, các tham số là:

Một tham số cho mỗi quan sát đa cực, ví dụ cá nhân hoặc nhóm. Điều này đảm bảo tái tạo chính xác các mẫu số đa cực và thực sự thiết lập sự tương đương của mô hình Poisson và đa cực. Chúng được cố định trong khả năng đa quốc gia, nhưng ngẫu nhiên trong khả năng Poisson.$p_i$

Một tham số cho mỗi loại phản ứng. Bằng cách này, số lượng có thể khác nhau cho từng loại phản ứng và lề có thể không đồng nhất.$c_j$

Điều bạn thực sự quan tâm là các thuật ngữ tương tác đại diện cho các hiệu ứng của trên tỷ lệ cược log của phản hồi .$x_iβ_j$$x_i$$j$

Tỷ lệ cược log có thể được tính đơn giản bằng . Đó là tỷ lệ cược log mà quan sát tôi sẽ rơi vào loại phản ứng j so với loại phản ứng .$\log(μ_{ij}/μ_{ik}) = (c_j-c_k) +x_i(β_j-β_k)$$k$

Sau đó, các tham số trong mô hình logit đa cực (được ký hiệu bằng chữ Latinh) có thể được lấy làm khác biệt giữa các tham số trong mô hình log-linear tương ứng, tức là và .b j = β j - β$a_j = α_j-α_k$$b_j = β_j-β_k$

Có, bạn có thể, và trên thực tế đây chính xác là những gì gói R GLMNET làm cho hồi quy logistic đa phương. Viết hàm khả năng đăng nhập như:

$$LogL=\sum_i\sum_cn_{ic}\log(p_{ic})$$

Trong đó biểu thị các quan sát và c biểu thị các loại đa thức n i c là số lượng quan sát cho quan sát i trong loại c . Các quan sát được xác định bởi các kết hợp hiệp phương thức duy nhất của chúng - hoặc thay vào đó, chúng tôi có thể cho phép trùng lặp và đặt từng n i c = 1 để chúng tôi có dữ liệu "nhị phân" phân loại (.... không biết số nhiều của nhị phân là gì .. ..). Đối với hồi quy logistic, xác suất được xác định là:$i$$c$$n_{ic}$$i$$c$$n_{ic}=1$

$$p_{ic}=\frac{\exp\left(x_{i}^T\beta_{c}\right)}{\sum_{c'}\exp\left(x_{i}^T\beta_{c'}\right)}$$

Đây là một tham số thứ hạng ít hơn đầy đủ và có thể hữu ích nếu bạn đang sử dụng khả năng bị phạt (như GLMNET). Chúng tôi có thể sử dụng nguyên tắc IRLS / newton rhapson trên ma trận beta đầy đủ , tuy nhiên bạn kết thúc với ma trận trọng lượng phi chéo. Ngoài ra, chúng tôi có thể tối ưu hóa "kiểu Gibbs" bằng cách sửa tất cả các loại betas ngoại trừ một loại, sau đó tối ưu hóa chỉ trên danh mục đó. Sau đó tiến hành danh mục tiếp theo, v.v. Bạn có thể thấy rằng bởi vì xác suất có dạng$(\beta_1,\dots,\beta_{C})$

pic′=

$$p_{ic}=\frac{\exp\left(x_{i}^T\beta_{c}\right)}{\exp\left(x_{i}^T\beta_{c}\right)+A}\text{ where }\frac{\partial A}{\partial \beta_c}=0$$ $$p_{ic'}=\frac{B}{\exp\left(x_{i}^T\beta_{c}\right)+A}\text{ where }\frac{\partial B}{\partial \beta_c}=0$$

Đó là việc mở rộng toàn phương về sẽ có hình thức tương tự như đối với hồi quy logistic, nhưng với sự IRLS trọng tính cách khác nhau - mặc dù chúng tôi vẫn có W i i , c = n i c p i c ( 1 - p i c ) trong thông thường ( X T W X ) - Bản cập nhật beta 1 X T W $\beta_c$$W_{ii,c}=n_{ic}p_{ic}(1-p_{ic})$$(X^TWX)^{-1}X^TWY$