Sự khác biệt giữa khả năng và khả năng của người khác là gì?

Các trang wikipedia khẳng định rằng khả năng và khả năng là những khái niệm khác nhau.

Theo cách nói phi kỹ thuật, "khả năng" thường là từ đồng nghĩa với "xác suất", nhưng trong sử dụng thống kê có một sự phân biệt rõ ràng trong quan điểm: số đó là xác suất của một số kết quả quan sát được đưa ra một tập hợp các giá trị tham số được coi là khả năng của tập hợp các giá trị tham số cho các kết quả quan sát được.

Ai đó có thể đưa ra một mô tả thực tế hơn về điều này có nghĩa là gì? Ngoài ra, một số ví dụ về cách "xác suất" và "khả năng" không đồng ý sẽ tốt đẹp.

Câu trả lời phụ thuộc vào việc bạn đang xử lý các biến ngẫu nhiên rời rạc hay liên tục. Vì vậy, tôi sẽ chia câu trả lời của tôi cho phù hợp. Tôi sẽ giả định rằng bạn muốn một số chi tiết kỹ thuật và không nhất thiết phải là một lời giải thích bằng tiếng Anh.

Biến ngẫu nhiên rời rạc

Giả sử rằng bạn có một quy trình ngẫu nhiên có các giá trị riêng biệt (ví dụ: kết quả của việc tung đồng xu 10 lần, số lượng khách hàng đến cửa hàng trong 10 phút, v.v.). Trong các trường hợp như vậy, chúng ta có thể tính xác suất quan sát một tập hợp kết quả cụ thể bằng cách đưa ra các giả định phù hợp về quy trình ngẫu nhiên cơ bản (ví dụ: xác suất của các đầu hạ cánh là và việc tung đồng xu là độc lập).$p$

Biểu thị các kết quả quan sát được bằng và tập hợp các tham số mô tả quá trình ngẫu nhiên là . Do đó, khi nói về xác suất, chúng tôi muốn tính . Nói cách khác, với giá trị cụ thể cho , là xác suất mà chúng ta sẽ quan sát các kết quả thể hiện bằng .$O$$\theta$$P(O|\theta)$$\theta$$P(O|\theta)$$O$

Tuy nhiên, khi chúng ta mô hình hóa một quá trình ngẫu nhiên ngoài đời thực, chúng ta thường không biết . Chúng tôi chỉ đơn giản là quan sát và mục tiêu sau đó là để đi đến một ước tính cho đó sẽ là một sự lựa chọn đáng tin cậy cho các kết quả quan sát . Chúng tôi biết rằng với giá trị , xác suất quan sát là . Do đó, một quá trình lập dự toán 'tự nhiên' là chọn mà giá trị của đó sẽ phát huy tối đa khả năng mà chúng tôi thực sự sẽ quan sát . Nói cách khác, chúng tôi tìm thấy các giá trị tham số tối đa hóa hàm sau:$\theta$$O$$\theta$$O$$\theta$$O$$P(O|\theta)$$\theta$$O$$\theta$

$L(\theta|O) = P(O|\theta)$

$L(\theta|O)$ được gọi là hàm khả năng. Lưu ý rằng theo định nghĩa, hàm khả năng được điều hòa trên được quan sát và đó là hàm của các tham số chưa biết .$O$$\theta$

Biến ngẫu nhiên liên tục

Trong trường hợp liên tục, tình huống tương tự với một sự khác biệt quan trọng. Chúng ta không còn có thể nói về xác suất mà chúng ta quan sát thấy cho vì trong trường hợp liên tục . Không đi sâu vào kỹ thuật, ý tưởng cơ bản như sau:$O$$\theta$$P(O|\theta) = 0$

Biểu thị hàm mật độ xác suất (pdf) liên quan đến kết quả là: . Do đó, trong trường hợp liên tục, chúng tôi ước tính đưa ra kết quả quan sát bằng cách tối đa hóa chức năng sau:$O$$f(O|\theta)$$\theta$$O$

$L(\theta|O) = f(O|\theta)$

Trong tình huống này, chúng ta không thể về mặt kỹ thuật khẳng định rằng chúng tôi đang tìm kiếm các giá trị tham số nhằm tối đa hóa khả năng mà chúng ta quan sát như chúng ta tối đa hóa PDF gắn liền với kết quả quan sát .$O$$O$

Đây là loại câu hỏi mà mọi người sẽ trả lời và tôi hy vọng tất cả các câu trả lời sẽ tốt. Nhưng bạn là một nhà toán học, Douglas, vì vậy hãy để tôi đưa ra một câu trả lời toán học.

Một mô hình thống kê phải kết nối hai thực thể khái niệm riêng biệt: dữ liệu , là các phần tử của một số tập hợp (chẳng hạn như không gian vectơ) và mô hình định lượng có thể có của hành vi dữ liệu. Các mô hình thường được biểu diễn bằng các điểm trên đa tạp chiều hữu hạn, đa tạp có biên hoặc không gian hàm (cái sau được gọi là vấn đề "không tham số").$x$θ$\theta$

Dữ liệu được kết nối với các mô hình có thể bằng hàm . Đối với bất kỳ , được dự định là xác suất (hoặc mật độ xác suất) của . Mặt khác, đối với bất kỳ cho nào , có thể được xem là một hàm của và thường được coi là có các thuộc tính đẹp nhất định, chẳng hạn như liên tục thứ hai khác biệt. Ý định xem theo cách này và gọi ra các giả định này được thông báo bằng cách gọi là "khả năng".$x$$\theta$$\Lambda(x, \theta)$$\theta$$\Lambda(x, \theta)$$x$$x$$\Lambda(x, \theta)$$\theta$$\Lambda$$\Lambda$

Nó khá giống sự khác biệt giữa các biến và tham số trong phương trình vi phân: đôi khi chúng tôi muốn nghiên cứu giải pháp (nghĩa là chúng tôi tập trung vào các biến làm đối số) và đôi khi chúng tôi muốn nghiên cứu cách giải pháp thay đổi theo các tham số. Sự khác biệt chính là trong thống kê, chúng ta hiếm khi cần nghiên cứu sự biến đổi đồng thời của cả hai bộ đối số; không có đối tượng thống kê tự nhiên tương ứng với việc thay đổi cả dữ liệu và tham số mô hình . Đó là lý do tại sao bạn nghe nhiều về sự phân đôi này hơn là trong các cài đặt toán học tương tự.$x$$\theta$

Tôi sẽ cố gắng và giảm thiểu toán học trong lời giải thích của tôi vì đã có một số giải thích toán học tốt.

Như Robin Girand chỉ ra sự khác biệt giữa xác suất và khả năng có liên quan chặt chẽ với sự khác biệt giữa xác suất và thống kê . Trong một ý nghĩa xác suất và thống kê liên quan đến chính họ với các vấn đề trái ngược hoặc nghịch đảo với nhau.

Hãy xem xét một đồng xu tung. (Câu trả lời của tôi sẽ tương tự như Ví dụ 1 trên Wikipedia .) Nếu chúng ta biết đồng tiền là công bằng ( ), một câu hỏi xác suất điển hình là: Xác suất để có được hai đầu liên tiếp là gì. Câu trả lời là .P ( H H ) = P ( H ) × P ( H ) = 0,5 × 0,5 = $p=0.5$$P(HH) = P(H)\times P(H) = 0.5\times0.5 = 0.25$

Một câu hỏi thống kê điển hình là: Đồng xu có công bằng không? Để trả lời điều này, chúng ta cần hỏi: mẫu của chúng ta hỗ trợ cho giả thuyết nào?$P(H) = P(T) = 0.5$

Điểm đầu tiên cần lưu ý là hướng của câu hỏi đã đảo ngược. Trong xác suất, chúng tôi bắt đầu với một tham số giả định ( ) và ước tính xác suất của một mẫu nhất định (hai đầu liên tiếp). Trong thống kê, chúng tôi bắt đầu bằng việc quan sát (hai đầu liên tiếp) và thực hiện THAM GIA về tham số của chúng tôi ( ).p = P ( H ) = 1 - P ( T ) = 1 - $P(head)$$p = P(H) = 1- P(T) = 1 - q$

Ví dụ 1 trên Wikipedia cho chúng ta thấy rằng ước tính khả năng tối đa của sau 2 đầu liên tiếp là . Nhưng dữ liệu không loại trừ giá trị tham số thực (chúng ta đừng quan tâm đến các chi tiết tại thời điểm này). Thật vậy, chỉ có thể loại bỏ các giá trị rất nhỏ của và đặc biệt là sau khi (hai lần ném đồng xu). Sau lần ném thứ ba xuất hiện, bây giờ chúng ta có thể loại bỏ khả năng (nghĩa là nó không phải là đồng xu hai đầu), nhưng hầu hết các giá trị ở giữa có thể được hỗ trợ một cách hợp lý bởi dữ liệup M L E = 1 p ( H ) = 0,5 p ( H ) p ( H ) = 0 n = 2 P ( H ) = 1,0 p ( H $P(H)$$p_{MLE} = 1$$p(H) = 0.5$$p(H)$$p(H)=0$$n = 2$$P(H) = 1.0$. (Khoảng tin cậy nhị phân chính xác 95% cho là 0,094 đến 0,992.$p(H)$

Sau 100 lần tung đồng xu và (nói) 70 đầu, giờ đây chúng ta có cơ sở hợp lý cho sự nghi ngờ rằng đồng tiền này không thực sự công bằng. Tỷ lệ CI chính xác 95% trên hiện là 0,600 đến 0,787 và xác suất quan sát thấy kết quả cực kỳ từ 70 đầu trở lên (hoặc đuôi) từ 100 lần ném là 0,0000785.p ( H ) = $p(H)$$p(H) = 0.5$

Mặc dù tôi chưa sử dụng rõ ràng các tính toán khả năng, ví dụ này nắm bắt khái niệm khả năng: Khả năng là một thước đo mức độ mà một mẫu cung cấp hỗ trợ cho các giá trị cụ thể của một tham số trong mô hình tham số .

Tôi sẽ cung cấp cho bạn quan điểm từ quan điểm của Lý thuyết khả năng bắt nguồn từ Fisher - và là cơ sở cho định nghĩa thống kê trong bài viết Wikipedia được trích dẫn.

Giả sử bạn có ngẫu nhiên variates phát sinh từ sự phân bố tham số , nơi là tham số đặc trưng . Khi đó xác suất của sẽ là: , với . F ( X ; θ ) θ F X = x P ( X = x ) = F ( x ; θ ) $X$$F(X; \theta)$$\theta$$F$$X = x$$P(X = x) = F(x; \theta)$$\theta$

Thường xuyên hơn, bạn có dữ liệu và không xác định. Với mô hình giả định , khả năng được xác định là xác suất của dữ liệu được quan sát là hàm của : . Lưu ý rằng được biết, nhưng không xác định; trong thực tế, động lực để xác định khả năng là xác định tham số của phân phối.θ $X$$\theta$$F$L ( θ ) = P ( θ ; X = x ) X $\theta$$L(\theta) = P(\theta; X = x)$$X$$\theta$

Mặc dù có vẻ như chúng ta chỉ đơn giản viết lại hàm xác suất, nhưng hậu quả chính của việc này là hàm khả năng không tuân theo quy luật xác suất (ví dụ: nó không bị ràng buộc với khoảng [0, 1]). Tuy nhiên, hàm khả năng tỷ lệ thuận với xác suất của dữ liệu được quan sát.

Khái niệm về khả năng này thực sự dẫn đến một trường phái tư tưởng khác, "những người có khả năng" (khác với người thường xuyên và người Bayes) và bạn có thể google để tìm kiếm tất cả các cuộc tranh luận lịch sử khác nhau. Nền tảng là Nguyên tắc Khả năng nói về cơ bản nói rằng chúng ta có thể thực hiện suy luận trực tiếp từ chức năng khả năng (cả người Bayes và người thường không chấp nhận điều này vì nó không phải là suy luận dựa trên xác suất). Ngày nay, rất nhiều thứ được dạy là "người thường xuyên" trong trường học thực sự là một sự pha trộn của suy nghĩ thường xuyên và khả năng.

Để hiểu sâu hơn, một khởi đầu tốt đẹp và tài liệu tham khảo lịch sử là Khả năng thích ứng của Edwards . Đối với một hiện đại, tôi muốn giới thiệu chuyên khảo tuyệt vời của Richard Royall, Bằng chứng thống kê: Một mô hình khả năng .

Đưa ra tất cả các câu trả lời kỹ thuật tốt ở trên, hãy để tôi đưa nó trở lại ngôn ngữ: Xác suất định lượng dự đoán (kết quả), khả năng định lượng niềm tin (trong mô hình).

Giả sử ai đó thách thức chúng ta trong một 'trò chơi đánh bạc có lợi nhuận'. Sau đó, xác suất sẽ phục vụ chúng tôi để tính toán những thứ như hồ sơ dự kiến ​​về số tiền bạn thắng và thua (trung bình, chế độ, trung bình, phương sai, tỷ lệ thông tin, giá trị rủi ro, hủy hoại con bạc, v.v.). Ngược lại, khả năng sẽ phục vụ chúng tôi để định lượng xem chúng tôi có tin tưởng những xác suất đó ngay từ đầu không; hoặc liệu chúng ta 'ngửi thấy một con chuột'.

Ngẫu nhiên - vì ai đó ở trên đã đề cập đến các tôn giáo thống kê - tôi tin rằng tỷ lệ khả năng là một phần không thể thiếu của thế giới Bayes cũng như của người thường xuyên: Trong thế giới Bayes, công thức Bayes chỉ kết hợp trước với khả năng tạo ra hậu thế.

Giả sử bạn có một đồng xu có xác suất đến đầu đất và để nối đuôi. Đặt chỉ đầu và chỉ đuôi. Xác định như sau$p$$(1-p)$$x=1$$x=0$$f$

$f(x,2/3)$ là xác suất của x cho , là khả năng của với . Về cơ bản khả năng so với xác suất cho bạn biết tham số nào về mật độ được coi là biến$p=2/3$$f(1,p)$$p$$x=1$

Nếu tôi có một đồng tiền công bằng (giá trị tham số) thì xác suất nó sẽ tăng lên là 0,5. Nếu tôi lật một đồng xu 100 lần và nó xuất hiện 52 lần thì nó có khả năng công bằng cao (giá trị số của khả năng có khả năng có một số hình thức).

$P(x|\theta)$

• $x$$\theta$$\theta$$P(x|\theta)$$x$P ( x ; θ ) P θ ( x ) θ P ( x | θ ) P ( x ∩ θ ) / P ( θ $\theta$$P(x;\theta)$$P_{\theta}(x)$$\theta$$P(x|\theta)$${P(x\cap\theta)}/{P(\theta)}$
• Là một chức năng của , xử lý như quan sát. $\theta$$x$Ví dụ: khi bạn cố gắng tìm một phép gán nhất định cho tối đa hóa , thì được gọi là khả năng tối đa của cho dữ liệu , đôi khi được viết là . Vì vậy, khả năng thuật ngữ chỉ là viết tắt để chỉ xác suất cho một số dữ liệu có kết quả từ việc gán các giá trị khác nhau cho (ví dụ như một lần đi qua không gian tìm kiếm củaθ θ P ( x | θ ) P ( x | θ ) θ x L ( θ | x ) P ( x | θ ) x θ θ$\hat\theta$$\theta$$P(x|\theta)$$P(x|\hat\theta)$$\theta$$x$$\mathcal L(\hat\theta|x)$$P(x|\theta)$$x$$\theta$$\theta$ cho một giải pháp tốt). Vì vậy, nó thường được sử dụng như một hàm mục tiêu, nhưng cũng là thước đo hiệu suất để so sánh hai mô hình như trong so sánh mô hình Bayes .

Thông thường, biểu thức này vẫn là một chức năng của cả hai đối số của nó, vì vậy nó là một vấn đề cần nhấn mạnh.

$\theta$

$P(X|\theta)$$\theta$$\int P(X|\theta) d\theta$$\theta$$\theta$

Bạn có biết phi công của loạt phim truyền hình "num3ers" trong đó FBI cố gắng xác định vị trí căn cứ của một tên tội phạm nối tiếp dường như chọn ngẫu nhiên các nạn nhân của mình không?

$p(x|\theta)$$x$$\theta$$x$$\theta$$p_{\theta}(x)=p(x|\theta)$$x$$\theta$

$x$$\theta$

$\theta$$\theta$$p(x|\theta)$$x$$l_x(\theta)=p(x|\theta)$$\theta$$x$$x$$\hat{\theta}$

$l_x(\theta)$$\theta$$p_{\theta}(x)$$x$$p(x|\theta)$$x$$\theta$