Lý thuyết đồ thị ở đâu trong các mô hình đồ họa?

29

Giới thiệu về các mô hình đồ họa mô tả chúng là "... một cuộc hôn nhân giữa lý thuyết đồ thị và lý thuyết xác suất".

Tôi có được phần lý thuyết xác suất nhưng tôi gặp khó khăn trong việc hiểu chính xác lý thuyết đồ thị phù hợp ở đâu. Những hiểu biết nào từ lý thuyết đồ thị đã giúp hiểu sâu hơn về phân phối xác suất và ra quyết định trong sự không chắc chắn?

Tôi đang tìm kiếm các ví dụ cụ thể, ngoài việc sử dụng rõ ràng thuật ngữ lý thuyết đồ thị trong PGM, chẳng hạn như phân loại PGM là "cây" hoặc "bipartite" hoặc "vô hướng", v.v.

graphical-model graph-theory distributions

— Vimal
nguồn

33

Có rất ít lý thuyết đồ thị toán học thực sự trong các mô hình đồ họa xác suất, trong đó theo lý thuyết đồ thị toán học thực sự, tôi có nghĩa là bằng chứng về các cụm, thứ tự đỉnh, các định lý cắt cực đại dòng chảy, v.v. Ngay cả thứ gì đó cơ bản như Định lý Euler và Bổ đề bắt tay cũng không được sử dụng, mặc dù tôi cho rằng người ta có thể yêu cầu họ kiểm tra một số thuộc tính của mã máy tính được sử dụng để cập nhật ước tính xác suất. Hơn nữa, các mô hình đồ họa xác suất hiếm khi sử dụng nhiều hơn một tập hợp con của các lớp biểu đồ, chẳng hạn như đa biểu đồ. Các định lý về dòng chảy trong đồ thị không được sử dụng trong các mô hình đồ họa xác suất.

Nếu sinh viên A là một chuyên gia về xác suất nhưng không biết gì về lý thuyết đồ thị và sinh viên B là một chuyên gia về lý thuyết đồ thị nhưng không biết gì về xác suất, thì A chắc chắn sẽ học và hiểu các mô hình đồ họa xác suất nhanh hơn B.

— David G. Cò
nguồn

8

Theo một nghĩa nghiêm ngặt, lý thuyết đồ thị dường như kết nối lỏng lẻo với PGM. Tuy nhiên, các thuật toán đồ thị có ích. Các PGM bắt đầu với suy luận chuyển tin nhắn, là một tập hợp con của lớp thuật toán chuyển tin nhắn chung trên đồ thị (có thể, đó là lý do cho từ họa tiết đồ họa trong đó). Các thuật toán cắt đồ thị được sử dụng rộng rãi cho suy luận trường ngẫu nhiên Markov trong thị giác máy tính; chúng dựa trên các kết quả gần giống với định lý Fordk Fulkerson (lưu lượng tối đa bằng mức cắt tối thiểu); Các thuật toán phổ biến nhất có lẽ là Boykov Kiến Kolmogorov và IBFS.

Tài liệu tham khảo. [Murphy, 2012 , §22.6.3] bao gồm việc cắt biểu đồ sử dụng cho suy luận MAP. Xem thêm [Kolmogorom và Zabih, 2004 ; Boykov và cộng sự, PAMI 2001] , bao gồm tối ưu hóa hơn là mô hình hóa.

— La Mã Shapovalov
nguồn

Điều thú vị cần lưu ý là các thuật toán cắt đồ thị được sử dụng trong MRF. Bạn có thể chỉ đến một tài liệu tham khảo? Dựa trên câu trả lời của David Stork ở trên, có vẻ như các thuật toán này phát sinh do thực tế là lý thuyết đồ thị là một công cụ mô hình hóa hữu ích, thay vì một số kết nối cơ bản giữa lý thuyết đồ thị và PGM.

— Tối đa

Tôi đã thêm các tài liệu tham khảo khi bạn yêu cầu. Theo tuyên bố cuối cùng của bạn, làm thế nào chúng ta có thể phân tách các nguyên nhân, tức là cho biết nó có cơ bản hay không?

— Roman Shapovalov

@overrider bạn có thể cung cấp tài liệu tham khảo đầy đủ để các giấy tờ có thể dễ dàng tìm kiếm ..? Googling có thể dẫn mọi người đến các tài liệu tham khảo, nhưng cũng có thể kết thúc với việc lãng phí thời gian cho các kết quả không liên quan. Vì vậy, tiêu đề, nhà xuất bản, tên tạp chí, liên kết, vv là những điều tốt để thêm.

— Tim

2

Các thuật toán cắt đồ thị rất hữu ích trong thị giác máy tính nhưng không phải là mô hình đồ họa xác suất. Một vấn đề trong tầm nhìn âm thanh nổi là vấn đề tương ứng: tìm điểm nào trong ảnh A tương ứng với các điểm trong ảnh B. Người ta có thể thiết lập một biểu đồ trong đó các đỉnh tương ứng với các điểm đặc trưng trong hai hình ảnh và biểu đồ biểu thị tất cả các tương ứng có thể có. Sau đó, vấn đề tìm các tương ứng "thích hợp" có thể được đặt thành một vấn đề cắt đồ thị. Không có sử dụng như vậy trong các mô hình đồ họa chung, mặc dù tôi cho rằng người ta có thể cố gắng ánh xạ vấn đề thị giác máy tính này lên các mô hình đồ họa.

— David G. Cò

2

@ DavidG.Stork Có một số vấn đề về thị giác máy tính khác áp dụng cắt đồ thị theo cách tương tự: phân đoạn hình ảnh, tạo ảnh ghép, v.v., vì vậy cách tiếp cận này là đủ chung. Những vấn đề đó có thể được thể hiện một cách tự nhiên theo các mô hình đồ họa không mong muốn (mặc dù các bài báo không phải lúc nào cũng làm điều đó). Điều đó cho phép sử dụng các thuật toán suy luận MRF khác nhau, cũng như phù hợp với mô hình. Mặt khác, việc cắt biểu đồ có thể tối ưu hóa một tập hợp MRF khá lớn, do đó có thể được áp dụng ngoài tầm nhìn, ví dụ như để phân tích mạng xã hội (mặc dù hiện tại tôi không thể nhớ lại các bài báo cụ thể).

— Roman Shapovalov

4

Đã có một số công việc nghiên cứu mối liên hệ giữa việc dễ dàng giải mã các mã Kiểm tra chẵn lẻ mật độ thấp (có kết quả tuyệt vời khi bạn coi đó là một biểu đồ xác suất và áp dụng Tuyên truyền niềm tin Loopy) và đường kính của biểu đồ được hình thành bởi ma trận kiểm tra chẵn lẻ . Liên kết này đến chu vi ngay từ khi LDPC được phát minh [1] nhưng đã có thêm công việc trong thập kỷ qua hoặc sau đó [2] [3] sau khi Mackay et al [4] khám phá lại một cách riêng biệt .

Tôi thường thấy nhận xét của ngọc trai về thời gian hội tụ của sự truyền bá niềm tin tùy thuộc vào đường kính của biểu đồ được trích dẫn. Nhưng tôi không biết về bất kỳ công việc nào khi nhìn vào đường kính đồ thị trong đồ thị không có cây và tác dụng của nó.

Máy ghi âm RG. Mã kiểm tra chẵn lẻ mật độ thấp. Báo chí MIT, 1963
IE Bocharova, F. Hug, R. Johannesson, BD Kudryashov và RV Satyukov. Các mã kiểm tra chẵn lẻ mật độ thấp mới với chu vi lớn dựa trên siêu dữ liệu. Trong Kỷ yếu lý thuyết thông tin (ISIT), Hội nghị chuyên đề quốc tế của IEEE năm 2010, trang 819 Dao823, 2010.
SC Tatikonda. Sự hội tụ của thuật toán tổng sản phẩm. Trong Hội thảo lý thuyết thông tin, 2003. Kỷ yếu. 2003 IEEE, trang 222 - 225, 2003
David JC MacKay và RM Neal. Hiệu suất gần Shannon giới hạn của mã kiểm tra chẵn lẻ mật độ thấp. Thư điện tử, 33 (6): 457 Từ458, 1997.

— Pat
nguồn

3

Một ứng dụng thành công của thuật toán đồ thị cho các mô hình đồ họa xác suất là thuật toán Chow-Liu . Nó giải quyết vấn đề tìm cấu trúc đồ thị (cây) tối ưu và dựa trên thuật toán cây bao trùm tối đa (MST).

p (x | T) = \prod_{t \in V} p (x_{t}) \prod_{(s, t) \in E} \frac{p (x_{s}, x_{t})}{p (x_{s}) p (x_{t})}

$\begin{equation} p(x|T) = \prod_{t\in V} p(x_t) \prod_{(s,t) \in E} \frac{p(x_s, x_t)}{p(x_s)p(x_t)} \end{equation}$

\frac{1}{N} \log P (D | θ, T) = \sum_{t \in V} \sum_{k} p_{M L} (x_{t} = k) \log p_{M L} (x_{t} = k) + \sum_{(s, t) \in E} I (x_{s}; x_{t} | θ_{s t})

$\begin{equation} \frac{1}{N}\log P(D|\theta, T) = \sum_{t\in V}\sum_k p_{ML}(x_t=k) \log p_{ML}(x_t=k) + \sum_{(s,t)\in E} I(x_s; x_t|\theta_{st}) \end{equation}$

I (x_{s}; x_{t} | θ_{s t})

$I(x_s;x_t|\theta_{st})$

x_{s}

$x_s$

x_{t}

$x_t$

x

$x$

k

$k$

T

$T$

$I(x_s;x_t|\theta_{st})$

— Smimimovov
nguồn

Xin chào. Cám ơn phản hồi của bạn. Là một công thức trong các thuật ngữ lý thuyết đồ thị, nó có ý nghĩa. Nhưng người ta có thể xem nó như là một vấn đề tối ưu hóa là tốt. Tinh thần của câu hỏi là tìm hiểu một kết nối cơ bản hơn. Chẳng hạn, người ta có thể hình thành vấn đề sắp xếp dưới dạng sắp xếp tôpô trên biểu đồ, trong đó các nút là số và mũi tên biểu thị mối quan hệ <=. Nhưng điều đó không tạo ra một kết nối cơ bản giữa các thuật toán sắp xếp và đồ thị, phải không?

— Tối đa