Mô hình song song lý thuyết nào gần nhất với mô hình lập trình CUDA / OpenCL?
Ví dụ, nó phù hợp ở một mức độ nào đó với mô hình Máy truy cập ngẫu nhiên song song (PRAM) chung. Tuy nhiên, đó là quá chung chung, vì nó làm cho sự trừu tượng của các độ trễ truy cập bộ nhớ khác nhau và các vấn đề đồng bộ hóa.
Câu hỏi của tôi là mô hình lý thuyết nào mà kiến trúc CUDA phù hợp nhất (có trong tâm trí sự song song phân cấp của các luồng và các khối của các luồng hợp tác)?
Câu trả lời:
Theo hiểu biết tốt nhất của tôi, nó có thể là mô hình Bộ nhớ chia sẻ hàng đợi (QSM) , mặc dù tính song song phân cấp của các luồng không được tính đến. Tuy nhiên, việc truy cập vào bộ nhớ cục bộ và bộ nhớ chung (băng thông khác nhau) và đồng bộ hàng loạt (trong đó các luồng có thể hoạt động không đồng bộ giữa các đồng bộ hóa rào cản) được xem xét.
Vì tất cả các SM thực hiện cùng một hướng dẫn từ hạt nhân CUDA theo từng bước, tôi sẽ nói đó là SIMD cũ đơn giản.