Cảm biến nén so với mã hóa thưa thớt

Rõ ràng có các thuật ngữ khác nhau được sử dụng để chỉ cùng một lĩnh vực gọi là "cảm biến nén", chẳng hạn như (xem trang wiki này ): cảm biến nén, lấy mẫu nén hoặc lấy mẫu thưa. Tôi tự hỏi về "cảm giác thưa thớt" mặc dù!

Tuy nhiên, và sau một số tìm kiếm trên internet, những gì mọi người gọi là "mã hóa thưa thớt" dường như không đề cập đến trường "cảm biến nén" như các thuật ngữ khác mà tôi đã trích dẫn ở trên.

Có thực sự có một sự khác biệt giữa cảm biến nén và mã hóa thưa thớt?

Học từ điển thì sao?

Một vài tác phẩm tham khảo cung cấp một biểu hiện:

• Một cách giải thích thần kinh được mô tả trong Scholarpedia
• Hướng dẫn học tập và học tập sâu không có giám sát của Stanford

Nếu chúng ta xem xét định nghĩa của thuật ngữ trong ngữ cảnh học từ điển, ví dụ như trong K-SVD: Thuật toán để thiết kế từ điển không đầy đủ cho biểu diễn thưa thớt , thuật ngữ này được định nghĩa:

Mã hóa thưa thớt là quá trình tính toán các hệ số biểu diễn $\mathbf x$ dựa trên tín hiệu đã cho $\mathbf y$ và từ điển $\mathbf D$.

Vì vậy, mã hóa thưa thớt là hoạt động tìm kiếm một đại diện thưa thớt của một tín hiệu nhất định trong một từ điển nhất định. Liên quan đến cảm biến nén, điều này đối với tôi dường như là cách giải thích phù hợp nhất của thuật ngữ này. Như vậy, mã hóa thưa thớt có liên quan mật thiết đến cảm biến nén, nhưng cảm biến nén đặc biệt liên quan đến việc tìm giải pháp ít nhất cho một tập hợp các phương trình tuyến tính được xác định dưới mức , như lý thuyết cho thấy, là giải pháp chính xác trong trường hợp này với xác suất cao. Mã hóa thưa thớt sau đó nói chung chung hơn theo nghĩa là nó không nhất thiết phải đối phó với một bộ phương trình được xác định dưới.

Như bạn đã lưu ý chính xác về cảm biến nén, lấy mẫu nén, lấy mẫu thưa đều có nghĩa tương tự. Một số tác giả cũng gọi nó là cảm giác thưa thớt. Ý tưởng đằng sau cảm biến nén là tín hiệu thưa thớt có thể được phục hồi từ rất ít phép đo tuyến tính. Trong các ký hiệu, nếu$\mathbf x$ Là $N\times 1$ thưa thớt$^\ddagger$ vectơ, và $\mathbf A$ là một $M\times N$ ma trận với $M\ll N$và chúng tôi đo lường $\mathbf y=\mathbf{Ax}$, sau đó lý thuyết cảm biến nén cho chúng ta biết$^\dagger$ rằng chúng ta có thể phục hồi chính xác $\mathbf x$ từ $\mathbf y$. Điều này rất đáng chú ý vì nó nói rằng chúng ta có thể phục hồi tín hiệu gốc từ các phép đo ít hơn .

Mặt khác, việc học từ điển liên quan đến một vấn đề hoàn toàn khác là đại diện cho một loạt các vectơ dữ liệu theo một cách thức kỹ lưỡng. Cho một tập các vectơ dữ liệu$\{\mathbf x_1, \mathbf x_2,\ldots, \mathbf x_K\}$, chúng tôi muốn tìm một bộ vectơ khác $\{\mathbf v_1, \mathbf v_2,\ldots, \mathbf v_L\}$ (được gọi là "nguyên tử") sao cho mỗi vectơ dữ liệu $\mathbf x_i$ có thể được biểu diễn dưới dạng kết hợp tuyến tính của các $\mathbf v_j$'S. Tập hợp các nguyên tử được gọi là từ điển. Mục tiêu ở đây là học một từ điển nhỏ hơn nhiều so với số lượng vectơ dữ liệu$^*$ I E $L < K$.

Cho một tập hợp các nguyên tử trong từ điển và vectơ $\mathbf y$, mục tiêu của mã hóa thưa thớt là đại diện$\mathbf y$ như một sự kết hợp tuyến tính của càng ít nguyên tử càng tốt.

Cuối cùng, học từ điển thưa thớt là sự kết hợp giữa học từ điển và mã hóa thưa thớt. Mục tiêu ở đây là hai lần: tìm một biểu diễn tuyệt vời của tập hợp các vectơ dữ liệu và đảm bảo rằng mỗi vectơ dữ liệu có thể được viết dưới dạng kết hợp tuyến tính của càng ít nguyên tử càng tốt.

Cảm biến nén v / s Mã hóa thưa thớt
Cả hai kỹ thuật này liên quan đến việc tìm kiếm một đại diện thưa thớt nhưng có những khác biệt tinh tế.

Cảm biến nén giải quyết cụ thể vấn đề giải một hệ thống phương trình tuyến tính chưa xác định tức là ít điểm dữ liệu hơn tín hiệu gốc. Từ một tín hiệu thưa thớt không rõ$\mathbf x$ và ma trận cảm biến $\mathbf A$, chúng tôi quan sát vector dữ liệu $\mathbf y = \mathbf{Ax}$. $\mathbf A$có ít hàng hơn cột. Lý thuyết cảm biến nén liên quan đến các loại câu hỏi sau đây:

1. Trong những điều kiện nào là tập hợp các phương trình tuyến tính được xác định có thể giải quyết được và làm thế nào để chúng ta giải quyết nó theo cách dễ dàng, có thể tính toán được?

2. Làm thế nào để chúng ta thiết kế ma trận cảm biến $\mathbf A$ cho các ứng dụng khác nhau?

Ngược lại, mã hóa thưa thớt không giải quyết được câu hỏi về thiết kế $\mathbf A$. Ngoài ra, bạn không quan tâm đến việc giải hệ phương trình chưa xác định ---$\mathbf A$ được phép có nhiều hàng hơn cột.$^\%$

Người giới thiệu:

Cảm biến nén [Ghi chú bài giảng]

Học từ điển

Học từ điển trực tuyến cho mã hóa thưa thớt

Chú thích:

$^\ddagger$ Thưa thớt có nghĩa là vectơ có rất ít phần tử khác không.

$^\dagger$ $\mathbf A$ và $M$ cần thỏa mãn một số điều kiện kỹ thuật.

$^*$Không giống như các phương thức biến đổi tiêu chuẩn như biến đổi Fourier, học từ điển là thích ứng dữ liệu. Khi thực hiện biến đổi Fourier, các vectơ cơ sở$\mathbf v_j$Được cố định trước thời hạn (số mũ phức tạp). Trong học từ điển, họ được học từ dữ liệu.

$^\%$ Đây được gọi là một từ điển quá đầy đủ.