Trong thuật toán SVM, tại sao vectơ w trực giao với siêu phẳng tách biệt?

Tôi là người mới bắt đầu học Máy. Trong SVM, siêu phẳng tách biệt được định nghĩa là . Tại sao chúng ta nói vector trực giao với siêu phẳng tách biệt?$y = w^T x + b$$w$

Về mặt hình học, vectơ w được định hướng trực giao với đường thẳng được xác định bởi . Điều này có thể được hiểu như sau:$w^{T} x = b$

Đầu tiên lấy . Bây giờ rõ ràng là tất cả các vectơ, , với sản phẩm bên trong biến mất với thỏa mãn phương trình này, tức là tất cả các vectơ trực giao để w thỏa mãn phương trình này.$b = 0$$x$$w$

Bây giờ dịch siêu phẳng ra khỏi gốc tọa độ trên một vectơ a. Phương trình của mặt phẳng bây giờ trở thành: , tức là chúng ta thấy rằng đối với phần bù , là hình chiếu của vectơ lên vectơ .$(x − a)^{T} w = 0$$b = a^{T} w$$a$$w$

Do đó, không mất tính tổng quát, chúng ta có thể chọn một đường vuông góc với mặt phẳng, trong trường hợp đó chiều dài đại diện cho ngắn nhất, trực giao khoảng cách giữa nguồn gốc và siêu phẳng.$\vert\vert a \vert\vert = \vert b \vert /\vert\vert w\vert\vert$

Do đó vectơ được gọi là trực giao với siêu phẳng tách biệt.$w$

Lý do tại sao là bình thường đối với siêu phẳng là vì chúng ta định nghĩa nó là như vậy:$w$

Giả sử rằng chúng ta có một mặt phẳng (siêu) trong không gian 3d. Đặt là một điểm trên mặt phẳng này tức là P 0 = x 0 , y 0 , z 0 . Do đó, vectơ từ gốc ( 0 , 0 , 0 ) đến điểm này chỉ là < x 0 , y 0 , z 0 > . Giả sử rằng chúng ta có một điểm P ( x , y , z ) tùy ý trên mặt phẳng. Vectơ tham gia $P_0$$P_0 = x_0, y_0, z_0$$(0,0,0)$$<x_0,y_0,z_0>$$P (x,y,z)$$P$và sau đó được cho bởi: → P - → P 0 = < x - x 0 , y - y 0 , z - z 0 > Lưu ý rằng vectơ này nằm trong mặt phẳng.$P_0$

$$\vec{P} - \vec{P_0} = <x-x_0, y-y_0, z-z_0>$$

$\hat{n}$

$$\hat{n} \bullet (\vec{P}-\vec{P_0}) = 0$$ $$\hat{n} \bullet \vec{P}- \hat{n} \bullet \vec{P_0} = 0$$ $-\hat{n} \bullet \vec{P_0}$$b$$\hat{n}$$w$$\vec{P}$$x$$w$

$w^Tx + b = 0$$x_a$$x_b$

$$\begin{equation} w^Tx_a + b = 0 \\ w^Tx_b + b = 0 \end{equation}$$

$w^T.(x_a - x_b) = 0$$x_a - x_b$$x_b$$x_a$$w^T.(x_a - x_b)$$w^T$$x_a - x_b$

Sử dụng định nghĩa đại số của một vectơ là trực giao với một siêu phẳng:

$\forall \ x_1, x_2$

$$w^T(x_1-x_2)=(w^Tx_1 + b)-(w^Tx_2 + b)=0-0=0 \ \small\Box.$$