Dự đoán biến phản ứng phân loại

Tôi có loại dữ liệu sau (được mã hóa bằng R):

v.a = c('cat', 'dog', 'dog', 'goat', 'cat', 'goat', 'dog', 'dog')
v.b = c(1, 2, 1, 2, 1, 2, 1, 2)
v.c = c('blue', 'red', 'blue', 'red', 'red', 'blue', 'yellow', 'yellow')
set.seed(12)
v.d = rnorm(8)
aov(v.a ~ v.b + v.c + v.d) # Error

Tôi muốn biết nếu giá trị của v.bhoặc giá trị của v.ccó bất kỳ khả năng dự đoán giá trị của v.a. Tôi sẽ chạy ANOVA (như được hiển thị ở trên) nhưng tôi nghĩ rằng nó không có ý nghĩa gì vì biến trả lời của tôi không phải là thứ tự (nó là phân loại). Tôi nên làm gì?

Bạn có thể sử dụng bất kỳ phân loại. Bao gồm các phân biệt tuyến tính, logit đa phương thức như Bill đã chỉ ra, Support Vector Machines, Neural Nets, GIỎI, rừng ngẫu nhiên, cây C5, có một thế giới của các mô hình khác nhau có thể giúp bạn dự đoán sử dụng và . Dưới đây là một ví dụ sử dụng triển khai R của rừng ngẫu nhiên:$v.a$$v.b$$v.c$

# packages
library(randomForest)

#variables
v.a= c('cat','dog','dog','goat','cat','goat','dog','dog')
v.b= c(1,2,1,2,1,2,1,2)
v.c= c('blue', 'red', 'blue', 'red', 'red', 'blue', 'yellow', 'yellow')

# model fit
# note that you must turn the ordinal variables into factor or R wont use
# them properly
model <- randomForest(y=as.factor(v.a),x=cbind(v.b,as.factor(v.c)),ntree=10)

#plot of model accuracy by class
plot(model)

# model confusion matrix
model$confusion

Rõ ràng các biến này không cho thấy một mối quan hệ mạnh mẽ.

_{Đây là một câu trả lời thực tế hơn một phần, nhưng nó giúp tôi thực hiện một số bài tập trước khi đi sâu vào lý thuyết} .

Đây ats.ucla.edu liên kết là một tài liệu tham khảo có thể giúp beggining hiểu về hồi quy logistic đa thức (như ra nhọn bởi Bill), theo một cách thực tế hơn.
Nó trình bày mã tái sản xuất để hiểu chức năng multinomtừ nmetgói trong Rvà cũng cung cấp một bản tóm tắt về giải thích đầu ra.

Xem xét mã này:

va = c('cat','dog','dog','goat','cat','goat','dog','dog') 
     # cat will be the outcome baseline
vb = c(1,2,1,2,1,2,1,2)
vc = c('blue','red','blue','red','red','blue','yellow','yellow') 
     # blue will be the vc predictor baseline
set.seed(12)
vd = round(rnorm(8),2)

data = data.frame(cbind(va,vb,vc,vd))

library(nnet)
fit <- multinom(va ~ as.numeric(vb) + vc + as.numeric(vd), data=data)

# weights:  18 (10 variable)
initial  value 8.788898 
iter  10 value 0.213098
iter  20 value 0.000278
final  value 0.000070 
converged

fit

Call:
multinom(formula = va ~ as.numeric(vb) + vc + as.numeric(vd), 
    data = data)

Coefficients:
     (Intercept) as.numeric(vb)     vcred  vcyellow as.numeric(vd)
dog    -1.044866       120.3495 -6.705314  77.41661      -21.97069
goat   47.493155       126.4840 49.856414 -41.46955      -47.72585

Residual Deviance: 0.0001656705 
AIC: 20.00017 

Đây là cách bạn có thể diễn giải mô hình logistic đa cực được trang bị tuyến tính:

$$\begin{align} \ln\left(\frac{P(va={\rm cat})}{P(va={\rm dog})}\right) &= b_{10} + b_{11}vb + b_{12}(vc={\rm red}) + b_{13}(vc={\rm yellow}) + b_{14}vd \\ &\ \\ \ln\left(\frac{P(va={\rm cat})}{P(va={\rm goat})}\right) &= b_{20} + b_{21}vb + b_{22}(vc={\rm red}) + b_{23}(vc={\rm yellow}) + b_{24}vd \end{align}$$

Đây là một đoạn trích về cách các tham số mô hình có thể được diễn giải:

• Sự gia tăng một đơn vị trong biến vd có liên quan đến việc giảm tỷ lệ cược log là "dog" so với "cat" với số lượng 21.97069 ( ).$b_{14}$

logic tương tự cho dòng thứ hai, nhưng, xem xét "dê" so với "mèo" với ( = -47.72585). $b_{24}$

• Tỷ lệ cược đăng nhập là "chó" so với "mèo" sẽ tăng thêm 6.705314 nếu chuyển từ vc = "blue" sang vc = "red" ( ). $b_{12}$

.....

Có nhiều hơn nữa trong bài viết, nhưng tôi nghĩ phần này là cốt lõi.

---

Tài liệu tham khảo:

Ví dụ phân tích dữ liệu R: Hồi quy logistic đa thức. UCLA: Nhóm tư vấn thống kê.
từ http://www.ats.ucla.edu/stat/r/dae/mlogit.htm (truy cập ngày 05 tháng 11 năm 2013).