Tôi tò mò muốn biết nút thiên vị quan trọng như thế nào đối với hiệu quả của các mạng thần kinh hiện đại. Tôi có thể dễ dàng hiểu rằng nó có thể quan trọng trong một mạng nông chỉ với một vài biến đầu vào. Tuy nhiên, các mạng lưới thần kinh hiện đại như trong học sâu thường có một số lượng lớn các biến đầu vào để quyết định xem một nơron nhất định có được kích hoạt hay không. Chỉ đơn giản là loại bỏ chúng khỏi, ví dụ, LeNet5 hoặc ImageNet có bất kỳ tác động thực sự nào không?
@gung - Tôi đã thấy bạn đã chỉnh sửa tiêu đề để sử dụng cụm từ "nút thiên vị". Tôi tò mò tại sao bạn thích tiêu đề đó? Tôi chưa bao giờ nghe cách sử dụng đó trước đây. Hơn nữa, có vẻ khó hiểu khi sử dụng từ "nút" khi độ lệch không phải là một nút riêng biệt trong mạng.
—
cướp biển
Nếu bạn không thích nó, bạn có thể quay lại chỉnh sửa với lời xin lỗi của tôi. Tôi luôn nghĩ rằng cái tên này khá chuẩn, mặc dù tôi đã không chơi w / ANN trong nhiều năm và một số người gọi nó là "nơ-ron thiên vị". FWIW, "bias" là một chút mơ hồ trong thống kê / ML; nó thường dùng để chỉ một công cụ ước tính có phân phối lấy mẫu không tập trung vào giá trị thực của tham số hoặc hàm dự đoán / giá trị dự đoán khác với hàm / giá trị thực, v.v., trong khi nút thiên vị là một phần cụ thể của một ANN.
—
gung - Phục hồi Monica
Đó là một nút thực tế - ít nhất là theo nghĩa là bất kỳ trong số chúng là - trong mạng. Ví dụ, xem các nút đen trong hình ảnh này .
—
gung - Phục hồi Monica
Được rồi, điều đó có ý nghĩa - đúng là "thiên vị" là khá mơ hồ. Cảm ơn đã giải thích.
—
cướp biển
Đối với tế bào thần kinh, đơn vị thiên vị dường như bắn ra tự nhiên, điều này xảy ra trong tự nhiên.
—
dùng3927612
