Ghép hình ảnh mới từ tính toán SVD / PCA

Tôi đang cố gắng sao chép các ý tưởng từ trang Eigenface trên wikipedia. Từ một trăm hình ảnh mẫu được biểu thị bằng ma trận dữ liệu (trong đó mỗi hình ảnh được làm phẳng thành một vectơ có độ dài , do đó là ma trận by ), tôi đã tính toán phân tách SVD: $\bf X$ $n$ $\bf X$ $100$ $n$

X = U Σ V^{T}

$\begin{equation} \bf X = U \Sigma V^{T} \end{equation}$

vì thế:

X X^{T} = U Σ^{2} U^{T}

$\begin{equation} \bf X X^{T} = U \Sigma^2 U^{T} \end{equation}$

Bằng cách lấy một tập hợp con của các mã nguồn lớn nhất , tôi có thể tính gần đúng ma trận (let ): $q$ $\sigma_1 \ge \sigma_2 \ge \cdots$

X \approx σ_{1} u_{1} v_{1}^{T} + σ_{2} u_{2} v_{2}^{T} + \dots + σ_{q} u_{q} v_{q}^{T}

$\begin{equation} {\bf X} \approx \sigma_1 u_1 v_1^{T} + \sigma_2 u_2 v_2^{T} + \cdots + \sigma_q u_q v_q^{T} \end{equation}$

Ngay bây giờ cho một vector mới , đại diện cho một hình ảnh không trong , làm thế nào để xác định trọng số của vector riêng đại diện tốt nhất hình ảnh mới của tôi ? Ngoại trừ các trường hợp bệnh lý, đại diện này là duy nhất? $y$ $\bf X$ $q$ $\bf U$ $y$

Nói tóm lại, điều tôi muốn làm là điều này (từ trang wiki):

Các không gian riêng này hiện có thể được sử dụng để thể hiện cả khuôn mặt hiện tại và khuôn mặt mới : chúng ta có thể chiếu hình ảnh mới (bị trừ trung bình) trên không gian riêng và từ đó ghi lại khuôn mặt mới đó khác với khuôn mặt trung bình như thế nào.

Làm thế nào để tôi thực hiện chiếu đó?

computer-vision linear-systems linear-algebra

— Móc
nguồn

Độc giả tương lai có thể thấy việc thực hiện này có giá trị.

— Emre

"Phép chiếu" được gọi là phép chiếu vectơ . Để tính toán hình chiếu của vectơ lên vectơ , bạn sử dụng sản phẩm bên trong của hai vectơ: $\mathbf{a}$ $\mathbf{b}$

a_{p r o j} = ⟨ a, b ⟩ b

$\mathbf{a_{proj}} = \langle \mathbf{a}, \mathbf{b} \rangle \mathbf{b}$

$\mathbf{a_{proj}}$ trong trường hợp này là thành phần vectơ của nằm cùng hướng với . Trong không gian Euclide, toán tử sản phẩm bên trong được định nghĩa là sản phẩm chấm của chúng : $\mathbf{a}$ $\mathbf{b}$

⟨ a, b ⟩ = a \cdot b = \sum_{i = 1}^{n} a_{i} b_{i}

$\langle \mathbf{a}, \mathbf{b} \rangle = \mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n}a_ib_i$

Trong đó là số thành phần trong các vectơ và và và là thành phần thứ của vectơ và . Theo trực giác, bằng cách tính tích bên trong của hai vectơ, bạn tìm thấy "bao nhiêu" vectơ đi theo hướng của vectơ . Lưu ý rằng đây là đại lượng đã ký, vì vậy giá trị âm sẽ có nghĩa là góc giữa hai vectơ lớn hơn 90 độ, như được minh họa bằng một định nghĩa thay thế cho toán tử chiếu: $n$ $\mathbf{a}$ $\mathbf{b}$ $a_i$ $b_i$ $i$ $\mathbf{a}$ $\mathbf{b}$ $\mathbf{a}$ $\mathbf{b}$

a_{p r o j} = | a | \cos (θ) b

$\mathbf{a_{proj}} = |\mathbf{a}| \cos(\theta) \mathbf{b}$

trong đó là góc giữa hai vectơ. $\theta$

Vì vậy, với một vectơ và một loạt các vectơ cơ sở , người ta có thể tìm thấy "bao nhiêu " đi theo mỗi hướng của mỗi vectơ cơ sở. Thông thường, các vectơ cơ sở đó sẽ là trực giao lẫn nhau. Trong trường hợp của bạn, SVD là một phân tách trực giao, vì vậy điều kiện này cần được thỏa mãn. Vì vậy, để thực hiện những gì bạn mô tả, bạn sẽ lấy ma trận của hàm riêng và tính sản phẩm bên trong của vectơ ứng cử viên với mỗi cột của ma trận: $\mathbf{a}$ $\mathbf{b_i}$ $\mathbf{a}$ $\mathbf{U}$ $\mathbf{y}$

p_{i} = y \cdot u_{i}

$p_i = \mathbf{y} \cdot \mathbf{u_i}$

Giá trị vô hướng mà bạn nhận được từ mỗi sản phẩm bên trong thể hiện mức độ của vectơ "xếp hàng" với trình xác định thứ . Vì các hàm riêng là trực giao , nên sau đó bạn có thể xây dựng lại vectơ gốc như sau: $p_i$ $\mathbf{y}$ $i$ $\mathbf{y}$

y = \sum_{i = 1}^{n} p_{i} u_{i}

$\mathbf{y} = \sum_{i=1}^n p_i \mathbf{u_i}$

Bạn hỏi liệu đại diện này là duy nhất; Tôi không chắc chính xác ý của bạn là gì, nhưng nó không phải là duy nhất theo nghĩa là một vectơ đã cho có thể bị phân tách bằng cách chiếu lên bất kỳ số lượng cơ sở trực giao nào. Các hàm riêng có trong ma trận là một ví dụ như vậy, nhưng bạn có thể sử dụng bất kỳ số lượng nào khác. Chẳng hạn, việc tính toán biến đổi Fourier rời rạc của có thể được xem như chiếu nó lên một cơ sở trực giao của các vectơ hàm mũ phức tạp có tần số khác nhau. $\mathbf{y}$ $\mathbf{U}$ $\mathbf{y}$

— Jason R
nguồn

Câu trả lời tuyệt vời cảm ơn! Đối với "duy nhất", tôi có nghĩa là duy nhất theo nghĩa cơ sở được đưa ra bởi SVD. Tôi đoán rằng đã đưa ra một cơ sở trực giao, thì bạn tính toán phải là duy nhất - nhưng nếu cơ sở không trực giao thì có thể không (vì nếu chúng không trực giao, thì chúng ta có thể tìm thấy một cơ sở nhỏ hơn )?

y

$\bf y$

— Hooked

Vẫn không chắc chắn những gì bạn đang nhận được. là vectơ mà bạn đã chưng cất hình ảnh mới của mình xuống, do đó, nó chỉ duy nhất như hình ảnh gốc và quá trình bạn sử dụng để xác định vectơ tương ứng. Một cơ sở không gian vectơ theo định nghĩa bao gồm các vectơ độc lập tuyến tính, bắt buộc tính chất của tính trực giao lẫn nhau. Bạn lưu ý chính xác rằng nếu bạn chiếu lên một tập các vectơ không đối xứng, bạn có thể đưa ra một biểu diễn nhỏ gọn hơn nếu không gian được kéo dài bởi các vectơ có chiều hướng bên dưới ít hơn (cơ sở nhỏ hơn).

y

$\mathbf{y}$

y

$\mathbf{y}$

— Jason R