Nhiều đến một và nhiều đến nhiều ví dụ LSTM trong Keras

Tôi cố gắng hiểu LSTM và cách xây dựng chúng với Keras. Tôi phát hiện ra rằng về cơ bản có 4 chế độ để chạy RNN (4 chế độ bên phải trong hình)

Nguồn ảnh: Andrej Karpathy

Bây giờ tôi tự hỏi một đoạn mã tối giản cho mỗi đoạn mã sẽ trông như thế nào trong Keras. Vì vậy, một cái gì đó như

model = Sequential()
model.add(LSTM(128, input_shape=(timesteps, data_dim)))
model.add(Dense(1))

cho mỗi nhiệm vụ trong số 4 nhiệm vụ, có thể với một chút giải thích.

Vì thế:

1. Một-một : bạn có thể sử dụng một Denselớp vì bạn không xử lý các trình tự:

   model.add(Dense(output_size, input_shape=input_shape))

2. Một-nhiều : tùy chọn này không được hỗ trợ cũng như các mô hình chuỗi không dễ sử dụng Keras, vì vậy phiên bản sau là phiên bản dễ dàng nhất:

   model.add(RepeatVector(number_of_times, input_shape=input_shape))
   model.add(LSTM(output_size, return_sequences=True))
   

3. Nhiều-một : thực ra, đoạn mã của bạn (gần như) là một ví dụ về phương pháp này:

   model = Sequential()
   model.add(LSTM(1, input_shape=(timesteps, data_dim)))
   

4. Nhiều-nhiều : Đây là đoạn mã dễ nhất khi độ dài của đầu vào và đầu ra khớp với số bước lặp lại:

   model = Sequential()
   model.add(LSTM(1, input_shape=(timesteps, data_dim), return_sequences=True))
   

5. Nhiều-nhiều khi số lượng các bước khác với độ dài đầu vào / đầu ra : điều này thật là khó trong Keras. Không có đoạn mã dễ dàng để viết mã đó.

CHỈNH SỬA: Quảng cáo 5

Trong một trong những ứng dụng gần đây của tôi, chúng tôi đã triển khai một cái gì đó có thể giống với nhiều-nhiều từ hình ảnh thứ 4. Trong trường hợp bạn muốn có một mạng với kiến ​​trúc sau (khi đầu vào dài hơn đầu ra):

                                        O O O
                                        | | |
                                  O O O O O O
                                  | | | | | | 
                                  O O O O O O

Bạn có thể đạt được điều này theo cách sau:

    model = Sequential()
    model.add(LSTM(1, input_shape=(timesteps, data_dim), return_sequences=True))
    model.add(Lambda(lambda x: x[:, -N:, :]

Trong trường hợp Nlà số lượng các bước cuối cùng bạn muốn để trang trải (trên hình N = 3).

Từ thời điểm này đi đến:

                                        O O O
                                        | | |
                                  O O O O O O
                                  | | | 
                                  O O O 

đơn giản như chuỗi đệm nhân tạo có độ dài Nbằng cách sử dụng 0vectơ, ví dụ , để điều chỉnh nó thành kích thước thích hợp.

Câu trả lời tuyệt vời của @Marcin Możejko

Tôi sẽ thêm phần sau vào NR.5 (nhiều đến nhiều với độ dài vào / ra khác nhau):

A) như Vanilla LSTM

model = Sequential()
model.add(LSTM(N_BLOCKS, input_shape=(N_INPUTS, N_FEATURES)))
model.add(Dense(N_OUTPUTS))

B) như Bộ mã hóa-Bộ giải mã LSTM

model.add(LSTM(N_BLOCKS, input_shape=(N_INPUTS, N_FEATURES))  
model.add(RepeatVector(N_OUTPUTS))
model.add(LSTM(N_BLOCKS, return_sequences=True))  
model.add(TimeDistributed(Dense(1)))
model.add(Activation('linear'))