Làm cách nào để chứng minh lớp nút cổ chai của bộ mã hóa tự động CNN của tôi chứa thông tin hữu ích?

Tôi đang sử dụng bộ mã hóa tự động CNN để tạo lớp đại diện trạng thái mà sau này tôi sẽ được đưa vào Tác nhân gia cố. Vì vậy, tôi đã đào tạo bộ mã hóa tự động CNN của mình và nó đang đưa ra các biểu diễn trạng thái đẹp. Nhưng tôi có câu hỏi sau đây,

Lớp autoencoder của tôi có thể bị quá mức không
Nếu có một overfit nó sẽ gây ra thông tin rubish trong lớp nút cổ chai của tôi?

deep-learning autoencoder

— Shamane Siriwardhana
nguồn

Có cho cả hai câu hỏi của bạn. Bộ mã hóa tự động của bạn có thể quá phù hợp và điều này sẽ khiến nút cổ chai của bạn lưu trữ thông tin vô dụng (bên cạnh bất kỳ thông tin hữu ích nào mà nó đã lưu trữ).

Một số cách để ngăn chặn điều này là:

Tìm một tập dữ liệu lớn hơn, hoặc tăng hiện tại.
Thêm tiếng ồn vào đầu vào (xem phần tự động khử nhiễu).
Chính quy hóa (ví dụ dừng sớm, hạn chế thưa thớt )

— mèo91
nguồn

Có cách nào để kiểm tra? Trình tự động mã hóa của tôi chỉ có thể sử dụng trạng thái được biểu thị bằng một hình ảnh trong trình giả lập. Đó chỉ là một kịch bản trong nhà? Vì vậy, không có nhiều mô hình giữa các quốc gia. Đó là nhà bếp, nó có những thứ tương tự như nhà bếp. Đào tạo với tổn thất phụ trợ có thể giúp thoát khỏi tình trạng thừa hay không?

— Shamane Siriwardhana

Ngoài ra, ý của bạn là gì khi "bên cạnh bất kỳ thông tin hữu ích nào mà nó đã lưu trữ" điều này có nghĩa là bằng cách nào đó để xây dựng lại nút cổ chai sẽ giữ thông tin hữu ích phải không? mặc dù quá sức

— Shamane Siriwardhana

@ShamaneSiriwardhana Có, nếu bạn đã gắn nhãn dữ liệu, bạn có thể có đầu ra phụ trợ với mất phụ trợ và điều đó sẽ giúp bộ tự động xác định các yếu tố nào từ hình ảnh đầu vào là cần thiết để phân loại. Theo "thông tin hữu ích", ý tôi là bất kỳ mối quan hệ hữu ích nào, bộ mã hóa tự động đã quản lý để trích xuất và được lưu trữ trong lớp nút cổ chai. Bên cạnh đó, bộ mã hóa tự động cũng có thể mô hình hóa "tiếng ồn" trong tập huấn luyện, đó là điều sẽ khiến nó hoạt động quá mức

— cat91