Ưu điểm của Jeffries Matusita khoảng cách

Theo một số bài báo tôi đang đọc, khoảng cách Jeffries và Matusita thường được sử dụng. Nhưng tôi không thể tìm thấy nhiều thông tin về nó ngoại trừ công thức dưới đây

JMD (x, y) = $\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2}$

Nó tương tự như khoảng cách Euclide ngoại trừ căn bậc hai

E (x, y) = $\sqrt[2]{\sum(x_i-y_i)^2}$

Khoảng cách JM được khẳng định là đáng tin cậy hơn khoảng cách Euclide về mặt phân loại. Bất cứ ai có thể giải thích tại sao sự khác biệt này làm cho khoảng cách JM tốt hơn?

classification k-nearest-neighbour euclidean

— romy_ngo
nguồn

Tôi không thể tìm thấy một tài liệu tham khảo có thẩm quyền sử dụng công thức này cho khoảng cách Jeffries-Matusita. Các công thức tôi tìm thấy được dựa trên ma trận hiệp phương sai cho hai lớp và dường như không có mối quan hệ nào với lớp được đưa ra ở đây, nhưng dường như có thể có hai (hoặc nhiều) thứ khác nhau được biết bởi tên này. Bạn có thể cung cấp một tài liệu tham khảo hoặc (thậm chí tốt hơn) một liên kết? BTW, và có được tính bất kỳ cơ hội nào không? (Nếu vậy, có một cách giải thích tự nhiên về công thức của bạn.)

x_{i}

$x_i$

y_{i}

$y_i$

— whuber

@whuber: có thể và là viết tắt của và

x

$x$

y

$y$

p (x)

$p(x)$

q (x)

$q(x)$

— user603

@ user603 Có, tôi nghĩ bạn đã có nó. Bây giờ các kết nối đến phân kỳ KL và biện pháp Battacharyya trở nên rõ ràng.

— whuber

Một số khác biệt chính, trước một lời giải thích dài hơn dưới đây, là:

Điều quan trọng: khoảng cách Jeffries-Matusita áp dụng cho các bản phân phối, thay vì các vectơ nói chung.
Công thức khoảng cách JM mà bạn trích dẫn ở trên chỉ áp dụng cho các vectơ biểu thị các phân phối xác suất rời rạc (tức là các vectơ có tổng bằng 1).
Không giống như khoảng cách Euclide, khoảng cách JM có thể được khái quát thành bất kỳ phân phối nào mà khoảng cách Bhattacharrya có thể được tạo thành.
Khoảng cách JM có, thông qua khoảng cách Bhattacharrya, một cách giải thích xác suất.

Khoảng cách Jeffries-Matusita, dường như đặc biệt phổ biến trong tài liệu Viễn thám, là một biến đổi của khoảng cách Bhattacharrya (một thước đo phổ biến của sự khác biệt giữa hai phân phối, được ký hiệu ở đây là ) từ phạm vi đến phạm vi cố định : $b_{p,q}$ $[0, \inf)$ $[0, \sqrt{2}]$

J M_{p, q} = \sqrt{2 (1 - \exp (- b (p, q))}

$JM_{p,q}=\sqrt{2(1-\exp(-b(p,q))}$

Một lợi thế thực tế của khoảng cách JM, theo bài viết này là biện pháp này "có xu hướng triệt tiêu các giá trị phân tách cao, trong khi quá coi trọng các giá trị phân tách thấp".

Khoảng cách Bhattacharrya đo lường sự khác biệt của hai phân phối và theo nghĩa liên tục trừu tượng sau: Nếu phân phối và được ghi lại bằng biểu đồ, được biểu thị bằng các vectơ độ dài đơn vị (trong đó phần tử thứ là số được chuẩn hóa cho của thùng), điều này trở thành: Và do đó, khoảng cách JM cho hai biểu đồ là: Trong đó, lưu ý rằng đối với biểu đồ đã chuẩn hóa $p$ $q$

b (p, q) = - \ln \int \sqrt{p (x) q (x)} d x

$b(p,q)=-\ln\int{\sqrt{p(x)q(x)}}dx$

p

$p$

q

$q$

i

$i$

i

$i$

N

$N$

b (p, q) = - \ln \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}}

$b(p,q)=-\ln\sum_{i=1}^{N}\sqrt{p_i\cdot q_i}$

J M_{p, q} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

\sum_{i} p_{i} = 1

$\sum_{i}{p_i}=1$ , giống như công thức bạn đã đưa ra ở trên:

J M_{p, q} = \sqrt{\sum_{i = 1}^{N} {(\sqrt{p_{i}} - \sqrt{q_{i}})}^{2}} = \sqrt{\sum_{i = 1}^{N} (p_{i} - 2 \sqrt{p_{i}} \sqrt{q_{i}} + q_{i})} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{\sum_{i=1}^{N}{\left(\sqrt{p_i} - \sqrt{q_i}\right)^2}}=\sqrt{\sum_{i=1}^{N}{\left(p_i -2 \sqrt{p_i}\sqrt{q_i} + q_i \right)}}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

— rroowwllaanndd
nguồn

+1 Cảm ơn rất nhiều vì đã nhảy vào và nỗ lực hết sức để làm rõ tình hình.

— whuber