Không hoán vị hoán đổi bất động có nghĩa là gì trong bối cảnh các mạng thần kinh thực hiện nhận dạng hình ảnh?


Câu trả lời:


17

Trong bối cảnh này, điều này đề cập đến thực tế là mô hình không đảm nhận bất kỳ mối quan hệ không gian nào giữa các tính năng. Ví dụ, đối với perceptionron đa lớp, bạn có thể hoán vị các pixel và hiệu suất sẽ như nhau. Đây không phải là trường hợp cho các mạng chập, mà giả định quan hệ khu phố.


1
vâng, đó là phần khó hiểu. Không phải có mối quan hệ không gian trong việc phân loại chữ số sao?
RockTheStar

1
MNIST được sử dụng rộng rãi như một điểm chuẩn (hoặc kiểm tra độ chính xác) trong các mạng thần kinh. Nếu mô hình của bạn có thể nhận được lỗi <1% trên phép biến đổi bất biến MNIST, thì bạn đang làm điều gì đó.
bayerj

1
Vâng, ý tôi là không có mối quan hệ không gian bằng chữ số? Nếu bạn hoán vị các pixel chữ số, nó sẽ thay đổi thứ tự pixel, điều này ảnh hưởng chủ yếu đến hiệu suất!?
RockTheStar

1
Chỉ khi mô hình giả định như vậy. mlps không, convnets làm. Đó là lý do tại sao việc so sánh một mạng lưới với một mlp trên mnist là hơi không công bằng.
bayerj

1
Tôi hiểu rồi! Vì vậy, trên tập dữ liệu mnist, mlps hoạt động tốt hơn hay kết nối?
RockTheStar

6

Hàm của đối số vectơ x = ( x 1 , Mạnh , x n ) là bất biến hoán vị nếu giá trị của f không thay đổi nếu chúng ta hoán vị các thành phần của x , ví dụ, khi n = 3 : f ( ( x 1 , x 2 , x 3 ) ) = f ( ( x 2 , x 1 , x 3 ) )fx=(x1,,xn)fxn=3 , v.v.

f((x1,x2,x3))=f((x2,x1,x3))=f((x3,x1,x2))

1
Câu trả lời này là một chút sai lầm, bởi vì trong máy học thuật toán học thường là bất biến hoán vị, trong khi chức năng mà nó trả về thì không.
bayerj

@bayerj: Đó là một thông tin thú vị, nhưng tôi không thể thấy rằng nó đưa ra định nghĩa tôi đã đưa ra sai lệch , đó là một định nghĩa chính xác, nhưng có thể không phải là một câu trả lời hoàn chỉnh trong ngữ cảnh này.
kjetil b halvorsen

Bạn nói đúng, định nghĩa là đúng. Nhưng nó không được áp dụng theo cách bạn viết nó ra. Trong bối cảnh hoán vị bất biến MNIST, mà OP đã hỏi về, các chức năng của biểu mẫu bạn viết ra không xảy ra.
bayerj
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.