Thêm lớp đối tượng mới trong mạng lưới học tập sâu

Giả sử rằng tôi có một mạng lưới học tập sâu được đào tạo có thể phát hiện 10 lớp đối tượng (đường, bầu trời, cây, v.v.) trong hình ảnh. Nó lấy hình ảnh RGB và đưa ra bản đồ xác suất kích thước (img_col, img_row, n_class)và phân đoạn cuối cùng sẽ là một argmaxthao tác trên kích thước cuối cùng.

Bây giờ tôi muốn thêm một lớp mới vào mạng, ví dụ: người đi bộ, để sau khi đào tạo, mạng sẽ có thể phát hiện người đi bộ trong hình ảnh.

Nhưng tôi không còn có dữ liệu đào tạo cũ. Thay vào đó, tôi đã có một bộ dữ liệu mới cũng chứa người đi bộ, nhưng chỉ những người đi bộ được dán nhãn . Đào tạo với bộ dữ liệu mới (sử dụng trọng số cũ làm khởi tạo) sẽ là cách đơn giản nhất, nhưng tôi muốn nghe một số cách tiếp cận khác.

Bất cứ ai có thể chia sẻ một số suy nghĩ về cách nhận ra điều này?

Ít nhất, bạn nên đào tạo lại lớp phân loại. Khi bạn thêm một đầu ra khác, trong quá trình học lớp mới, kích hoạt lớp khác phải thu nhỏ một cách rõ ràng (sigmoid) hoặc ngầm (softmax). Tuy nhiên, có thể tốt hơn để tìm hiểu, ít nhất, lớp tính năng cuối cùng vì sẽ có một số tính năng hữu ích để nhận biết người đi bộ.

Một cách tiếp cận khác có thể cung cấp lớp mới cho mạng và thu thập niềm tin từ đầu ra. Độ tin cậy thấp có thể là dấu hiệu của một lớp khác không thuộc về bất kỳ lớp nào đã học trước đó. Để chắc chắn phương pháp này cũng có thể cung cấp độ tin cậy thấp cho một lớp khác ngoài người đi bộ hoặc bất kỳ lớp nào mà mạng đã học. Ngoài ra, NN là một phương pháp tổng quát hóa không cục bộ. Nó có xu hướng phân loại một hình ảnh rác hoàn toàn với độ tin cậy cao (Xem các ví dụ đối nghịch nếu bạn tò mò).

Một vài năm sau khi câu hỏi được hỏi, có một số nỗ lực để giải quyết vấn đề này.

Dự đoán tốt nhất của tôi sẽ là:

• thêm một lớp trong lớp cuối cùng

• đào tạo lớp tương ứng với người đi bộ với dữ liệu mới

• cố gắng không di chuyển theo cách mà mạng đã dự đoán lớp khác bằng cách sử dụng chưng cất. Điều này có thể cần một số dữ liệu khác ngoài dữ liệu cho người đi bộ, nơi lớp khác xuất hiện (ô tô, nhìn thấy, kính hiển vi, ...). Điều tốt là nếu bạn có thể lấy mẫu những thứ này (có thể thông qua internet), bạn không phải gắn nhãn cho chúng để làm cho kỹ thuật hoạt động. Nếu dữ liệu mới có nhãn cho người đi bộ đến từ cùng một phân phối như dữ liệu được sử dụng để huấn luyện mạng ban đầu, bạn thậm chí không phải nghĩ về điều đó.

Một ví dụ về kỹ thuật này có thể được tìm thấy trong bài báo này: https://arxiv.org/abs/1708.06977

Bạn có thể tìm thấy các tài liệu liên quan khác bằng cách tìm kiếm các chủ đề sau: "Học liên tục", "Học suốt đời", "Quên đi thảm khốc".

[EDITS]

Gần đây tôi đã đọc và yêu thích các bài viết liên quan này: học mà không quên , iCaRL và Học tập tăng dần từ đầu đến cuối

Để thêm một lớp, bạn gần như chắc chắn sẽ cần một mạng có cấu trúc khác (ví dụ: đầu ra +1). Bạn cũng có thể yêu cầu nhiều nút hoặc đầu vào ẩn hơn tùy thuộc vào vấn đề của bạn. Tất nhiên, như bạn đã đề cập, bạn chỉ có thể đào tạo lại các tham số dựa trên tất cả dữ liệu mới, tuy nhiên, bạn sẽ mất tất cả lợi ích của bộ dữ liệu gốc.

Có khả năng sẽ là khởi tạo mạng mới của bạn (hoặc ít nhất là cùng số lượng tham số đầu vào / ẩn / đầu ra) với các trọng số bạn có từ bộ dữ liệu ban đầu và sau đó đào tạo dữ liệu mới. Điều này gần như chắc chắn sẽ tăng tốc quá trình và ở một mức độ nào đó giữ lại thông tin ban đầu từ bộ dữ liệu đầu tiên giả định rằng nó đủ khái quát.

Tôi không biết liệu nó có hoạt động không, nhưng một cách tiếp cận sẽ là thêm một nơ-ron mới trong lớp softmax đầu ra và luyện tập với độ dốc giảm dần nhưng chỉ cập nhật các trọng số cho lớp mới đó.

Nó có thể là một phương pháp rất tối ưu nhưng nó có thể đáng để thử.