Sự khác biệt giữa mạng Bayes, mạng thần kinh, cây quyết định và lưới Petri


30

Sự khác biệt giữa mạng thần kinh , mạng Bayes , cây quyết địnhlưới Petri , mặc dù chúng đều là mô hình đồ họa và mô tả trực quan mối quan hệ nguyên nhân.


1
Lưu ý rằng cũng có Mạng thần kinh Bayes (chỉ gây nhầm lẫn), về cơ bản chỉ là một mạng thần kinh với cách xử lý các tham số Bayes, theo như tôi có thể thấy.
ness101

Câu trả lời:


27

Wow, thật là một câu hỏi lớn! Phiên bản ngắn của câu trả lời là chỉ vì bạn có thể biểu diễn hai mô hình bằng cách sử dụng các biểu diễn trực quan giống nhau về mặt sơ đồ, không có nghĩa là chúng thậm chí còn liên quan từ xa về mặt cấu trúc, chức năng hoặc triết học. Tôi không quen thuộc với FCM hoặc NF, nhưng tôi có thể nói chuyện với những người khác một chút.

Mạng Bayes

Trong một mạng Bayes, biểu đồ biểu thị các phụ thuộc có điều kiện của các biến khác nhau trong mô hình. Mỗi nút đại diện cho một biến và mỗi cạnh được định hướng đại diện cho một mối quan hệ có điều kiện. Về cơ bản, mô hình đồ họa là một hình ảnh trực quan của quy tắc chuỗi.

Mạng lưới thần kinh

Trong một mạng nơ-ron, mỗi nút là một "nơ-ron" mô phỏng. Tế bào thần kinh về cơ bản là bật hoặc tắt, và sự kích hoạt của nó được xác định bởi sự kết hợp tuyến tính của các giá trị của mỗi đầu ra trong "lớp" trước của mạng.

Cây quyết định

Giả sử chúng ta đang sử dụng cây quyết định để phân loại. Cây về cơ bản cung cấp cho chúng ta một sơ đồ mô tả cách chúng ta nên phân loại một quan sát. Chúng ta bắt đầu từ gốc của cây và chiếc lá nơi chúng ta kết thúc xác định phân loại mà chúng ta dự đoán.

Như bạn có thể thấy, ba mô hình này thực sự không liên quan gì đến nhau ngoài việc có thể biểu diễn bằng các hộp và mũi tên.


1
Về lý thuyết, không phải cây quyết định cũng xử lý sự phụ thuộc giữa các biến bằng cách nhổ dữ liệu? Tôi chưa quen với lĩnh vực máy học và quan tâm nhiều hơn đến việc hiểu trực giác nên sử dụng thuật toán nào trong kịch bản nào. Đối với tôi có vẻ như bạn sẽ sử dụng mạng Bayes khi bạn biết mối quan hệ chính xác giữa các biến trong khi bạn sẽ sử dụng cây Quyết định khi bạn đoán rằng một số biến có thể phụ thuộc vào các biến khác nhưng không biết chính xác biến nào. Muốn biết điều này có vẻ đúng hay không nếu tính ứng dụng của mạng Bayes và cây quyết định có thể được giải thích chi tiết hơn.
Deepak Agarwal

Tôi thực sự nghĩ rằng câu trả lời nên chỉ ra cả sự khác biệt và điểm tương đồng để phác họa bức tranh lớn hơn, nói rằng "ba mô hình này thực sự không có gì để làm với nhau" chỉ là sai. Cây quyết định và Mạng lưới thần kinh có cùng cách tiếp cận phân biệt đối xử, so với cách tiếp cận khái quát của BN. Trong khi hai chức năng khác đại diện cho các chức năng, Bayesian Networks đại diện cho các chức năng tổng quát (phân phối), ...
Lejafar

1
Sự phân biệt rõ ràng và phân biệt bạn đang làm ở đây là sai. Mạng lưới thần kinh có thể được sử dụng để xây dựng các mô hình thế hệ. Hãy xem xét các GAN chẳng hạn. Câu trả lời của tôi là đủ bởi vì câu hỏi tập trung vào "những mô hình này được trình bày trực quan theo cách tương tự, điều đó có nghĩa là chúng có cấu trúc tương tự nhau?" và tôi đã giải thích làm thế nào những biểu diễn đồ họa này đang mã hóa thông tin rất khác nhau.
David Marx

1
Hãy thêm câu trả lời của riêng bạn.
David Marx

2
@Lejafar, không sử dụng các chỉnh sửa để thay đổi nội dung câu trả lời của người khác. Nếu bạn không đồng ý với câu trả lời, hãy để lại nhận xét, downvote hoặc đăng câu trả lời của riêng bạn.
gung - Phục hồi Monica

5

Thật dễ dàng để chỉ ra (xem khóa học của Daphne Koller ) rằng Logistic Regression là phiên bản giới hạn của Trường ngẫu nhiên có điều kiện, là các mô hình đồ họa không được định hướng, trong khi Bayesian Networks là các mô hình đồ họa được định hướng. Sau đó, Logistic Regression cũng có thể được xem như là một tri giác một lớp. Đây là liên kết duy nhất (rất lỏng lẻo) mà tôi nghĩ có thể được rút ra giữa Mạng Bayes và Mạng thần kinh.

Tôi vẫn chưa tìm thấy một liên kết giữa các khái niệm khác mà bạn hỏi về.


2
Chào mừng đến với trang web, và cảm ơn bạn vì sự đóng góp này. Bạn có thể giải thích làm thế nào để dễ dàng nhìn thấy điều này? Hiện tại, đây chỉ là một yêu cầu có thể không rõ ràng đối với mọi người. Thông tin có thể ở liên kết, nhưng chúng tôi muốn chủ đề này vẫn có nhiều thông tin ngay cả sau khi liên kết bị chết.
gung - Phục hồi Monica

Xin chào & cảm ơn! Tôi không chắc cách giải thích chi tiết đến mức nào (phải mất ít nhất nửa giờ để chuẩn bị bằng chứng) và tôi cũng không đặc biệt mới, nhưng ý tưởng chung là mô hình logistic là phiên bản đơn giản hóa của Phân phối Gibbs, lần lượt là cơ sở của CRF.
Octavia-Maria ulea

1
Crf có nghĩa là gì? Có crf = trường ngẫu nhiên có điều kiện?
Ted Taylor của cuộc sống

2

Câu trả lời tuyệt vời của @David Marx. Tôi đã tự hỏi, sự khác biệt giữa cây Phân loại / Hồi quy và mạng Bayes là gì. Một cách xây dựng dựa trên entropy để phân loại kết quả thành các lớp dựa trên các yếu tố dự đoán khác nhau và mạng kia xây dựng một mạng đồ họa sử dụng các ước tính tham số xác suất và độc lập có điều kiện.

Tôi cảm thấy rằng phương pháp xây dựng mạng Bayes khác so với cây Hồi quy / Quyết định. Thuật toán học cấu trúc, mục tiêu sử dụng các mô hình cũng như khả năng suy luận của các mô hình là khác nhau.

Cách tiếp cận dựa trên điểm số và bị ràng buộc có thể được hiểu với một số điểm tương đồng được rút ra với các tiêu chí đạt được thông tin trong các họ cây quyết định.


1

Đầu tiên chúng tôi cố gắng nêu bản chất của vấn đề đã cố gắng giải quyết bằng các phương pháp này. Nếu một vấn đề đơn giản, Polynomial hoặc NP Complete, chúng tôi đã sẵn sàng cắm các thuật toán có thể cung cấp câu trả lời xác định, bằng cách kết hợp lại các tiên đề đơn giản theo các quy tắc logic. Tuy nhiên, nếu đó không phải là trường hợp, chúng ta sẽ phải dựa vào một phương pháp suy luận, trong đó, chúng ta cố gắng coi vấn đề là không đồng nhất và cắm nó vào mạng, các nút được đánh giá và các cạnh là đường dẫn giữa các thành phần .

Trong bất kỳ loại lý luận dựa trên mạng nào, chúng tôi không suy luận một cách triệt để, bằng cách sử dụng các khái quát và kết hợp trừu tượng, theo các quy tắc logic trong một luồng tuyến tính, mà hoạt động thông qua vấn đề dựa trên sự lan truyền của lý luận theo các hướng khác nhau, để chúng tôi giải quyết một vấn đề tại một nút tại một thời điểm, mở ra những cải tiến trong việc phát hiện ra các sự kiện mới liên quan đến bất kỳ nút nào trong tương lai. Bây giờ chúng ta hãy xem làm thế nào mỗi kỹ thuật này tiếp cận phương pháp giải quyết vấn đề này theo cách riêng của họ.

Mạng thần kinh: Mạng thần kinh là một hộp đen, nơi người ta tin rằng (không bao giờ có thể được xác minh từ bên ngoài hệ thống) rằng các kết nối giữa các nút đơn giản được hình thành và nhấn mạnh bởi các gia cố bên ngoài lặp đi lặp lại. Nó tiếp cận vấn đề trong một mô hình kết nối . Vấn đề có khả năng được giải quyết, nhưng có rất ít bằng cách giải thích. Mạng lưới thần kinh hiện được sử dụng rộng rãi vì khả năng tạo ra kết quả nhanh chóng, nếu vấn đề với khả năng giải thích bị bỏ qua.

Mạng Bayes: Mạng Bayes là một biểu đồ chu kỳ có hướng, giống như sơ đồ khối, chỉ có biểu đồ dòng có thể có các vòng tuần hoàn. Mạng Bayes không giống như biểu đồ dòng chảy có thể có nhiều điểm bắt đầu. Về cơ bản, nó theo dõi sự lan truyền của các sự kiện qua nhiều điểm mơ hồ, trong đó sự kiện phân kỳ xác suất giữa các con đường. Rõ ràng, tại bất kỳ điểm nào trong mạng, xác suất của nút đó được truy cập phụ thuộc vào xác suất chung của các nút trước đó. Mạng Bayes khác với Mạng thần kinh ở chỗ nó là lý luận rõ ràng, mặc dù có xác suất và do đó có thể có nhiều trạng thái ổn định dựa trên mỗi bước được xem xét lại và sửa đổi trong các giá trị pháp lý, giống như thuật toán. Đó là một cách mạnh mẽ để lý luận xác suất, nhưng nó liên quan đến mã hóa xác suất,

Cây quyết định: Cây quyết định lại là một mạng, giống như biểu đồ dòng chảy, gần với mạng Bayes hơn là mạng lưới thần kinh. Mỗi nút có nhiều thông minh hơn mạng lưới thần kinh và sự phân nhánh có thể được quyết định bằng các đánh giá toán học hoặc xác suất. Các quyết định là các đánh giá đơn giản dựa trên phân phối tần suất của các sự kiện có khả năng, trong đó quyết định là xác suất. Tuy nhiên, trong các mạng Bayes, quyết định dựa trên sự phân phối 'bằng chứng' chỉ ra một sự kiện đã xảy ra, thay vì quan sát trực tiếp chính sự kiện đó.

Một ví dụ Ví dụ, nếu chúng ta dự đoán sự di chuyển của một con hổ ăn thịt người qua một số ngôi làng trên dãy núi Himalaya xảy ra ở rìa của một khu bảo tồn hổ, chúng ta có thể mô hình hóa nó theo cách tiếp cận như sau:

Trong một cây quyết định, chúng tôi sẽ dựa vào ước tính của chuyên gia về việc một con hổ sẽ đưa ra lựa chọn giữa các cánh đồng mở hay dòng sông sẽ chọn ở phía sau. Trong một mạng lưới Bayes, Chúng tôi theo dõi con hổ bằng dấu pug, nhưng lý do theo cách thừa nhận rằng những con chó pug này có thể là của một số con hổ có kích thước tương tự khác thường xuyên tuần tra lãnh thổ của nó. Nếu chúng ta sử dụng mạng lưới thần kinh, chúng ta sẽ phải huấn luyện mô hình nhiều lần bằng cách sử dụng các đặc điểm hành vi khác nhau của hổ nói chung, chẳng hạn như sở thích bơi lội, ưu tiên các khu vực có mái che trên các khu vực mở, tránh thói quen của con người để cho phép mạng nói chung lý do trong quá trình con hổ có thể mất.


0

Về các mô hình đồ họa, Petri Net chính thức hóa một hành vi hệ thống; trong đó nó khác biệt rõ rệt với các mô hình còn lại được đề cập, tất cả đều liên quan đến cách hình thành một bản án.

Đáng lưu ý rằng hầu hết các tên được trích dẫn chỉ định các khái niệm AI khá rộng rãi, thường kết hợp lại: ví dụ: bạn có thể sử dụng Mạng thần kinh để xây dựng cây quyết định, trong khi chính Mạng thần kinh, như một bài đăng trước đó, có thể phụ thuộc vào Bayesian suy luận.


-3

Đó là một câu hỏi hay và tôi cũng đã tự hỏi mình như vậy. Có nhiều hơn hai loại mạng thần kinh và dường như câu trả lời trước đã đề cập đến loại cạnh tranh, trong khi mạng Bayes dường như có sự tương đồng với loại hình chuyển tiếp, truyền ngược (FFBP) và không phải là loại cạnh tranh. Trên thực tế, tôi muốn nói rằng mạng Bayes là sự khái quát hóa của FFBP. Vì vậy, FFBP là một loại mạng Bayes và hoạt động theo cách tương tự.

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.