Làm thế nào để gradient lan truyền trong một mạng thần kinh tái phát không được kiểm soát?

8

Tôi đang cố gắng hiểu làm thế nào rnn có thể được sử dụng để dự đoán trình tự bằng cách làm việc thông qua một ví dụ đơn giản. Đây là mạng đơn giản của tôi, bao gồm một đầu vào, một nơron ẩn và một đầu ra:

nhập mô tả hình ảnh ở đây

Tế bào thần kinh ẩn là hàm sigmoid và đầu ra được coi là đầu ra tuyến tính đơn giản. Vì vậy, tôi nghĩ rằng mạng hoạt động như sau: nếu đơn vị ẩn bắt đầu ở trạng thái svà chúng tôi đang xử lý một điểm dữ liệu là một chuỗi có độ dài , , thì: $3$ $(x_1, x_2, x_3)$

Tại thời điểm 1, giá trị dự đoán, , là $p^1$

p^{1} = = bạn \times σ (w S + v x^{1})

$p^1 = u \times \sigma(ws+vx^1)$

Tại thời điểm 2, chúng tôi có

p^{2} = = bạn \times σ (w \times σ (w S + v x^{1}) + v x^{2})

$p^2 = u \times \sigma\left(w \times \sigma(ws+vx^1)+vx^2\right)$

Tại thời điểm 3, chúng tôi có

p^{3} = = bạn \times σ (w \times σ (w \times σ (w S + v x^{1}) + v x^{2}) + v x^{3})

$p^3 = u \times \sigma\left(w \times \sigma(w \times\sigma(ws+vx^1)+vx^2)+vx^3\right)$

Càng xa càng tốt?

Rnn "không được kiểm soát" trông như thế này:

nhập mô tả hình ảnh ở đây

Nếu chúng ta sử dụng một tổng số thuật ngữ lỗi vuông cho hàm mục tiêu, thì nó được định nghĩa như thế nào? Trên toàn bộ chuỗi? Trong trường hợp nào chúng ta sẽ có một cái gì đó như ? $E=(p^1-x^1)^2+(p^2-x^2)^2+(p^3-x^3)^2$

Có phải trọng số chỉ được cập nhật khi toàn bộ chuỗi được xem xét (trong trường hợp này là chuỗi 3 điểm)?

Đối với độ dốc liên quan đến các trọng số, chúng ta cần tính toán , tôi sẽ cố gắng thực hiện đơn giản bằng cách kiểm tra 3 phương trình cho ở trên, nếu mọi thứ khác có vẻ đúng. Bên cạnh việc thực hiện theo cách đó, điều này không giống như lan truyền ngược vanilla đối với tôi, bởi vì các tham số tương tự xuất hiện trong các lớp khác nhau của mạng. Làm thế nào để chúng ta điều chỉnh cho điều đó? $dE/dw, dE/dv, dE/du$ $p^i$

Nếu bất cứ ai có thể giúp hướng dẫn tôi qua ví dụ đồ chơi này, tôi sẽ rất cảm kích.

— Đầy đủ
nguồn

Tôi nghĩ có gì đó không đúng với hàm lỗi, bạn có thể lấy làm thuật ngữ phần tử thứ hai và bạn phải so sánh nó với , trong trường hợp hoàn hảo, chúng phải bằng nhau. Trong chức năng lỗi của bạn, bạn chỉ cần so sánh đầu vào và đầu ra của mạng.

p^{1}

$p^1$

x^{2}

$x^2$

— itdxer

Tôi nghĩ rằng đó có thể là trường hợp. Nhưng làm thế nào là lỗi được xác định cho phần tử dự đoán cuối cùng, ?

p^{3}

$p^3$

— Fequish

1

$(x_1, x_2, x_3)$ $(t_1, t_2, t_3)$

t_{1} = = x_{2}, t_{2} = = x_{3}, t_{3} = = x_{4}

$t_1 = x_2,\ t_2 = x_3,\ t_3 = x_4$

$x_4$ $N$ $N-1$ $N-1$

Nếu chúng ta sử dụng một tổng số thuật ngữ lỗi vuông cho hàm mục tiêu, thì nó được định nghĩa như thế nào?

$u$ $v$ $w$

E = = \underset{t}{Σ} E^{t} = = \underset{t}{Σ} (t^{t} - p^{t})^{2}

$E = \sum\limits_t E^t = \sum\limits_t (t^t - p^t)^2$

Có phải trọng số chỉ được cập nhật khi toàn bộ chuỗi được xem xét (trong trường hợp này là chuỗi 3 điểm)?

Có, nếu sử dụng tuyên truyền trở lại qua thời gian thì tôi tin như vậy.

$E$

$z^t$ $t$ $z^1 = ws + vx^1$
$y^t$ $t$ $y^1 = \sigma(ws + vx^1))$
$y^0 = s$
$\delta^t = \frac{\partial E}{\partial z^t}$

Sau đó, các dẫn xuất là:

\begin{aligned} \frac{\partial E}{\partial bạn} & = = y^{t} \\ \frac{\partial E}{\partial v} & = = \underset{t}{Σ} δ^{t} x^{t} \\ \frac{\partial E}{\partial w} & = = \underset{t}{Σ} δ^{t} y^{t - 1} \end{aligned}

$\begin{align}\frac{\partial E}{\partial u} &= y^t \\\\ \frac{\partial E}{\partial v} &= \sum\limits_t\delta^tx^t \\\\ \frac{\partial E}{\partial w} &= \sum\limits_t\delta^ty^{t-1} \end{align}$

$t \in [1,\ T]$ $T$

δ^{t} = = σ^{'} (z^{t}) (bạn + δ^{t + 1} w)

$\begin{equation} \delta^t = \sigma'(z^t)(u + \delta^{t+1}w) \end{equation}$

$t^{th}$ $t^{th}$ $E^t$ $E - E^t$

\begin{aligned} \frac{\partial E}{\partial z^{t}} & = = \frac{\partial E^{t}}{\partial y^{t}} \frac{\partial y^{t}}{\partial z^{t}} + \frac{\partial (E - E^{t})}{\partial z^{t + 1}} \frac{\partial z^{t + 1}}{\partial y^{t}} \frac{\partial y^{t}}{\partial z^{t}} \\ \frac{\partial E}{\partial z^{t}} & = = \frac{\partial y^{t}}{\partial z^{t}} (\frac{\partial E^{t}}{\partial y^{t}} + \frac{\partial (E - E^{t})}{\partial z^{t + 1}} \frac{\partial z^{t + 1}}{\partial y^{t}}) \\ \frac{\partial E}{\partial z^{t}} & = = σ^{'} (z^{t}) (bạn + \frac{\partial (E - E^{t})}{\partial z^{t + 1}} w) \\ δ^{t} = = \frac{\partial E}{\partial z^{t}} & = = σ^{'} (z^{t}) (bạn + δ^{t + 1} w) \end{aligned}

$\begin{align} \frac{\partial E}{\partial z^t} &= \frac{\partial E^t}{\partial y^t}\frac{\partial y^t}{\partial z^t} + \frac{\partial (E - E^t)}{\partial z^{t+1}}\frac{\partial z^{t+1}}{\partial y^t}\frac{\partial y^t}{\partial z^t} \\\\ \frac{\partial E}{\partial z^t} &= \frac{\partial y^t}{\partial z^t}\left(\frac{\partial E^t}{\partial y^t} + \frac{\partial (E - E^t)}{\partial z^{t+1}}\frac{\partial z^{t+1}}{\partial y^t}\right) \\\\ \frac{\partial E}{\partial z^t} &= \sigma'(z^t)\left(u + \frac{\partial (E - E^t)}{\partial z^{t+1}}w\right) \\\\ \delta^t = \frac{\partial E}{\partial z^t} &= \sigma'(z^t)(u + \delta^{t+1}w) \\\\ \end{align}$

Bên cạnh việc thực hiện theo cách đó, điều này không giống như lan truyền ngược vanilla đối với tôi, bởi vì các tham số tương tự xuất hiện trong các lớp khác nhau của mạng. Làm thế nào để chúng ta điều chỉnh cho điều đó?

Phương pháp này được gọi là lan truyền ngược qua thời gian (BPTT), và tương tự như lan truyền ngược theo nghĩa là nó sử dụng ứng dụng lặp lại của quy tắc chuỗi.

Một ví dụ chi tiết hơn nhưng phức tạp hơn cho RNN có thể được tìm thấy trong Chương 3.2 của 'Ghi nhãn trình tự được giám sát với Mạng thần kinh tái phát' của Alex Graves - thực sự rất thú vị!

— dok
nguồn

0

Lỗi mà bạn mô tả ở trên (sau khi sửa đổi mà tôi đã viết trong phần bình luận bên dưới câu hỏi) bạn chỉ có thể sử dụng như một lỗi dự đoán tổng thể, nhưng bạn không thể sử dụng nó trong quá trình học tập. Trên mỗi lần lặp, bạn đặt một giá trị đầu vào trong mạng và nhận một đầu ra. Khi bạn nhận được đầu ra, bạn phải kiểm tra kết quả mạng của mình và truyền lỗi đến tất cả các trọng số. Sau khi cập nhật, bạn sẽ đặt giá trị tiếp theo theo thứ tự và đưa ra dự đoán cho giá trị này, hơn là bạn cũng tuyên truyền lỗi và cứ thế.

— itdxer
nguồn