Làm thế nào để rút ra lỗi trong mạng nơ ron với thuật toán backpropagation?

Từ video này của Andrew Ng khoảng 5:00

nhập mô tả hình ảnh ở đây

Làm thế nào được và có nguồn gốc? Trong thực tế, thậm chí có nghĩa là gì? có được bằng cách so sánh với y, không có sự so sánh nào như vậy đối với đầu ra của một lớp ẩn, phải không? $\delta_3$ $\delta_2$ $\delta_3$ $\delta_4$

machine-learning neural-networks backpropagation

— qed
nguồn

Liên kết video không hoạt động. Xin vui lòng, cập nhật nó, hoặc cung cấp một liên kết đến khóa học. Cảm ơn.

— MadHatter

Tôi sẽ trả lời câu hỏi của bạn về , nhưng hãy nhớ rằng câu hỏi của bạn là câu hỏi phụ của câu hỏi lớn hơn, đó là lý do: $\delta_i^{(l)}$

\nabla_{Tôi j}^{(tôi)} = = \underset{k}{Σ} θ_{k Tôi}^{(tôi + 1)} δ_{k}^{(tôi + 1)} * ({một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)})) * {một}_{j}^{(tôi - 1)}

$\nabla_{ij}^{(l)} = \sum_k \theta_{ki}^{(l+1)}\delta_k^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Nhắc nhở về các bước trong mạng nơ-ron:

Bước 1: truyền bá (tính toán ) $a_{i}^{(l)}$
Bước 2a: lan truyền ngược: tính toán các lỗi $\delta_{i}^{(l)}$
Bước 2b: lan truyền ngược: tính toán độ dốc của J ( ) bằng cách sử dụng các lỗi và , $\nabla_{ij}^{(l)}$ $\Theta$ $\delta_{i}^{(l+1)}$ $a_{i}^{(l)}$
Bước 3: giảm độ dốc: tính toán bằng cách sử dụng gradient $\theta_{ij}^{(l)}$ $\nabla_{ij}^{(l)}$

Đầu tiên, để hiểu những gì là $\delta_i^{(l)}$ , những gì họ thể hiện và lý do tại sao Andrew NG nó nói về chúng , bạn cần phải hiểu những gì Andrew đang thực sự làm tại pointand rằng tại sao chúng tôi làm tất cả những tính toán: Ông của tính gradient của được sử dụng trong thuật toán giảm dần Gradient. $\nabla_{ij}^{(l)}$ $\theta_{ij}^{(l)}$

Độ dốc được định nghĩa là:

\nabla_{Tôi j}^{(tôi)} = = \frac{\partial C}{\partial θ_{Tôi j}^{(tôi)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

Vì chúng tôi không thể thực sự giải quyết trực tiếp công thức này, chúng tôi sẽ sửa đổi nó bằng cách sử dụng TWO MAGIC TRICKS để đi đến một công thức mà chúng tôi thực sự có thể tính toán. Công thức có thể sử dụng cuối cùng này là:

\nabla_{Tôi j}^{(tôi)} = = θ^{(tôi + 1)^{T}} δ^{(tôi + 1)} . * ({một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)})) * {một}_{j}^{(tôi - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Để đi đến kết quả này, FIRST MAGIC TRICK là chúng ta có thể viết gradient của bằng cách sử dụng : $\nabla_{ij}^{(l)}$ $\theta_{ij}^{(l)}$ $\delta_i^{(l)}$

\nabla_{Tôi j}^{(tôi)} = = δ_{Tôi}^{(tôi)} * {một}_{j}^{(tôi - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$ Với được xác định (chỉ cho chỉ số L) là:

δ_{i}^{(L)}

$\delta_i^{(L)}$

δ_{Tôi}^{(L)} = = \frac{\partial C}{\partial z_{Tôi}^{(tôi)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Và sau đó, THỨ HAI bằng cách sử dụng mối quan hệ giữa và , để xác định các chỉ mục khác, $\delta_i^{(l)}$ $\delta_i^{(l+1)}$

δ_{Tôi}^{(tôi)} = = θ^{(tôi + 1)^{T}} δ^{(tôi + 1)} . * ({một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

Và như tôi đã nói, cuối cùng chúng ta có thể viết một công thức mà chúng ta biết tất cả các điều khoản:

\nabla_{Tôi j}^{(tôi)} = = θ^{(tôi + 1)^{T}} δ^{(tôi + 1)} . * ({một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)})) * {một}_{j}^{(tôi - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

MÔ PHỎNG TRICK MAGIC ĐẦU TIÊN: $\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

Chúng tôi đã xác định:

\nabla_{Tôi j}^{(tôi)} = = \frac{\partial C}{\partial θ_{Tôi j}^{(tôi)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

Các quy tắc Chain cho kích thước cao hơn (bạn thực sự cần đọc tài sản của sự cai trị chuỗi này) cho phép chúng ta viết:

\nabla_{Tôi j}^{(tôi)} = = \underset{k}{Σ} \frac{\partial C}{\partial z_{k}^{(tôi)}} * \frac{\partial z_{k}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}}

$\nabla_{ij}^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l)}} * \dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}}$

Tuy nhiên, như:

z_{k}^{(tôi)} = = \underset{m}{Σ} θ_{k m}^{(tôi)} * {một}_{m}^{(tôi - 1)}

$z_k^{(l)} = \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

Sau đó chúng ta có thể viết:

\frac{\partial z_{k}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} = = \frac{\partial}{\partial θ_{Tôi j}^{(tôi)}} \underset{m}{Σ} θ_{k m}^{(tôi)} * {một}_{m}^{(tôi - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial}{\partial \theta_{ij}^{(l)}} \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

Do tính tuyến tính của sự khác biệt [(u + v) '= u' + v '], chúng tôi có thể viết:

\frac{\partial z_{k}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} = = \underset{m}{Σ} \frac{\partial θ_{k m}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} * {một}_{m}^{(tôi - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \sum_m\dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)}$

với:

Tôi f k, m \neq Tôi, j, \frac{\partial θ_{k m}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} * {một}_{m}^{(tôi - 1)} = = 0

$if k,m \neq i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = 0$

Tôi f k, m = = Tôi, j, \frac{\partial θ_{k m}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} * {một}_{m}^{(tôi - 1)} = = \frac{\partial θ_{Tôi j}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} * {một}_{j}^{(tôi - 1)} = = {một}_{j}^{(tôi - 1)}

$if k,m = i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)}$

Sau đó, với k = i (nếu không, nó rõ ràng bằng 0):

\frac{\partial z_{Tôi}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} = = \frac{\partial θ_{Tôi j}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} * {một}_{j}^{(tôi - 1)} + \underset{m \neq j}{Σ} \frac{\partial θ_{Tôi m}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} * {một}_{j}^{(tôi - 1)} = = {một}_{j}^{(tôi - 1)} + 0

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} + \sum_{m \neq j}\dfrac {\partial\theta_{im}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)} + 0$

Cuối cùng, với k = i:

\frac{\partial z_{Tôi}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}} = = {một}_{j}^{(tôi - 1)}

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = a_j^{(l-1)}$

Kết quả là, chúng ta có thể viết biểu thức đầu tiên của gradient : $\nabla_{ij}^{(l)}$

\nabla_{Tôi j}^{(tôi)} = = \frac{\partial C}{\partial z_{Tôi}^{(tôi)}} * \frac{\partial z_{Tôi}^{(tôi)}}{\partial θ_{Tôi j}^{(tôi)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * \dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}}$

Tương đương với:

\nabla_{Tôi j}^{(tôi)} = = \frac{\partial C}{\partial z_{Tôi}^{(tôi)}} * {một}_{j}^{(tôi - 1)}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * a_j^{(l-1)}$

Hoặc là:

\nabla_{Tôi j}^{(tôi)} = = δ_{Tôi}^{(tôi)} * {một}_{j}^{(tôi - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

MÔ PHỎNG CỦA TRICK MAGIC THỨ HAI : hoặc: $\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

δ^{(tôi)} = = θ^{(tôi + 1)^{T}} δ^{(tôi + 1)} . * ({một}^{(tôi)} (1 - {một}^{(tôi)}))

$\delta^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a^{(l)}(1-a^{(l)}))$

Hãy nhớ rằng chúng tôi đặt ra:

δ^{(tôi)} = = \frac{\partial C}{\partial z^{(tôi)}} một n d δ_{Tôi}^{(tôi)} = = \frac{\partial C}{\partial z_{Tôi}^{(tôi)}}

$\delta^{(l)} = \dfrac {\partial C} {\partial z^{(l)}} \ \ \ and \ \ \ \delta_i^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Một lần nữa, quy tắc Chuỗi cho kích thước cao hơn cho phép chúng tôi viết:

δ_{Tôi}^{(tôi)} = = \underset{k}{Σ} \frac{\partial C}{\partial z_{k}^{(tôi + 1)}} \frac{\partial z_{k}^{(tôi + 1)}}{\partial z_{Tôi}^{(tôi)}}

$\delta_i^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l+1)}} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Thay thế bằng , chúng tôi có: $\dfrac {\partial C} {\partial z_k^{(l+1)}}$ $\delta_k^{(l+1)}$

δ_{Tôi}^{(tôi)} = = \underset{k}{Σ} δ_{k}^{(tôi + 1)} \frac{\partial z_{k}^{(tôi + 1)}}{\partial z_{Tôi}^{(tôi)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Bây giờ, hãy tập trung vào . Chúng ta có: $\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

z_{k}^{(tôi + 1)} = = \underset{j}{Σ} θ_{k j}^{(tôi + 1)} * {một}_{j}^{(tôi)} = = \underset{j}{Σ} θ_{k j}^{(tôi + 1)} * g (z_{j}^{(tôi)})

$z_k^{(l+1)} = \sum_j \theta_{kj}^{(l+1)} * a_j^{(l)} = \sum_j \theta_{kj}^{(l+1)} * g(z_j^{(l)})$

Sau đó, chúng tôi rút ra biểu thức này liên quan đến : $z_k^{(i)}$

\frac{\partial z_{k}^{(tôi + 1)}}{\partial z_{Tôi}^{(tôi)}} = = \frac{\partial \underset{j}{Σ} θ_{k j}^{(tôi)} * g (z_{j}^{(tôi)})}{\partial z_{Tôi}^{(tôi)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\partial \sum_j \theta_{kj}^{(l)} * g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Do tính tuyến tính của đạo hàm, chúng ta có thể viết:

\frac{\partial z_{k}^{(tôi + 1)}}{\partial z_{Tôi}^{(tôi)}} = = \underset{j}{Σ} θ_{k j}^{(tôi)} * \frac{\partial g (z_{j}^{(tôi)})}{\partial z_{Tôi}^{(tôi)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \sum_j \theta_{kj}^{(l)} * \dfrac {\partial g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Nếu j i, thì $\neq$ $\dfrac {\partial \theta_{kj}^{(l)} * g(z_j^{(l)})} {\partial z_i^{(l)}} = 0$

Hậu quả là:

\frac{\partial z_{k}^{(tôi + 1)}}{\partial z_{Tôi}^{(tôi)}} = = \frac{θ_{k Tôi}^{(tôi)} * \partial g (z_{Tôi}^{(tôi)})}{\partial z_{Tôi}^{(tôi)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\theta_{ki}^{(l)} * \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Và sau đó:

δ_{Tôi}^{(tôi)} = = \underset{k}{Σ} δ_{k}^{(tôi + 1)} θ_{k Tôi}^{(tôi)} * \frac{\partial g (z_{Tôi}^{(tôi)})}{\partial z_{Tôi}^{(tôi)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * \dfrac { \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Khi g '(z) = g (z) (1-g (z)), chúng ta có:

δ_{Tôi}^{(tôi)} = = \underset{k}{Σ} δ_{k}^{(tôi + 1)} θ_{k Tôi}^{(tôi)} * g (z_{Tôi}^{(tôi)}) (1 - g (z_{Tôi}^{(tôi)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * g(z_i^{(l)})(1-g(z_i^{(l)})$

Và như , chúng tôi có: $g(z_i^{(l)} = a_i^{(l)}$

δ_{Tôi}^{(tôi)} = = \underset{k}{Σ} δ_{k}^{(tôi + 1)} θ_{k Tôi}^{(tôi + 1)} * {một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l+1)} * a_i^{(l)}(1-a_i^{(l)})$

Và cuối cùng, sử dụng ký hiệu vector hóa:

\nabla_{Tôi j}^{(tôi)} = = [θ^{(tôi + 1)^{T}} δ^{(tôi + 1)} * ({một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)}))] * [{một}_{j}^{(tôi - 1)}]

$\nabla_{ij}^{(l)} = [\theta^{(l+1)^T}\delta^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)}))] * [a_j^{(l-1)}]$

— tmangin
nguồn

Cảm ơn bạn vì câu trả lời. Tôi ủng hộ bạn !! Bạn có thể vui lòng trích dẫn các nguồn bạn đã giới thiệu để đi đến câu trả lời ... :)

— Adithya Upadhya

@tmangin: Sau cuộc nói chuyện của Andrew Ng, chúng ta có là lỗi của nút j trong lớp l. Làm thế nào bạn có được định nghĩa về .

δ_{j}^{(i)}

$\delta_j^{(i)}$

δ_{j}^{(i)} = \frac{\partial C}{\partial Z_{j}^{(l)}}

$\delta_j^{(i)}=\frac{\partial C}{\partial Z_j^{(l)}}$

— phuong

@phuong Trên thực tế, tôi có quyền hỏi: chỉ có chỉ số "l" cao nhất L được xác định là Trong khi các đồng bằng có chỉ số "l" thấp hơn được xác định theo công thức sau:

δ_{Tôi}^{(L)}

$\delta_i^{(L)}$

δ_{Tôi}^{(L)} = = \frac{\partial C}{\partial z_{Tôi}^{(tôi)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

δ_{Tôi}^{(tôi)} = = θ^{(tôi + 1)^{T}} δ^{(tôi + 1)} . * ({một}_{Tôi}^{(tôi)} (1 - {một}_{Tôi}^{(tôi)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

— tmangin

Tôi đặc biệt khuyên bạn nên đọc ký hiệu véc tơ backprop để tính toán độ dốc.

— CKM

Công thức có thể sử dụng cuối cùng của bạn không phải là những gì Andrew Ng đã có, điều này làm cho nó thực sự bực bội khi làm theo bằng chứng của bạn. Anh ta có (l) ij = θ (l) Tδ (l + 1). ∗ (a (l) i (1 − a (l) i)) ∗ a (l − 1) j, không phải (l + 1) Tδ (l + 1)

— Aziz Javed

Tính toán này giúp. Sự khác biệt duy nhất từ kết quả này với kết quả của Andrew là do định nghĩa của theta. Theo định nghĩa của Andrew, z (l + 1) = theta (l) * a (l). Trong phép tính này, z (l + 1) = theta (l + 1) * a (l). Vì vậy, thực sự không có sự khác biệt.

— Thanh Song
nguồn