Câu hỏi được gắn thẻ «attention-mechanism»

Tôi mới biết về ML và đây là câu hỏi đầu tiên của tôi ở đây, rất xin lỗi nếu câu hỏi của tôi là ngớ ngẩn. Tôi đang cố đọc và hiểu bài báo Chú ý là tất cả những gì bạn cần và trong đó, có một hình …

22 nlp  encoding  attention-mechanism  transformer 

Vì BERT là hai chiều (sử dụng biến áp hai chiều), nên có thể sử dụng nó cho nhiệm vụ dự đoán từ tiếp theo không? Nếu có, những gì cần phải được điều chỉnh?

11 neural-network  deep-learning  attention-mechanism  transformer  bert