Thống kê và dữ liệu lớn prior

2

Tại sao Laplace trước sản xuất các giải pháp thưa thớt?

Tôi đã xem qua các tài liệu về chính quy hóa, và thường thấy các đoạn liên kết điều chỉnh L2 với Gaussian trước và L1 với Laplace tập trung vào số không. Tôi biết những linh mục này trông như thế nào, nhưng tôi không hiểu, ví dụ như …

22 regression bayesian prior regularization laplace-distribution

3

Làm thế nào một trước không thích hợp có thể dẫn đến một phân phối sau thích hợp?

Chúng tôi biết rằng trong trường hợp phân phối trước thích hợp, P(θ∣X)=P(X∣θ)P(θ)P(X)P(θ∣X)=P(X∣θ)P(θ)P(X)P(\theta \mid X) = \dfrac{P(X \mid \theta)P(\theta)}{P(X)} ∝P(X∣θ)P(θ)∝P(X∣θ)P(θ) \propto P(X \mid \theta)P(\theta) . Sự biện minh thông thường cho bước này là phân phối biên của , , không đổi đối với và do đó có thể bị …

22 distributions bayesian prior posterior

6

Hậu thế rất khác so với trước và khả năng

Nếu trước và khả năng rất khác nhau, thì đôi khi một tình huống xảy ra trong đó hậu thế giống với cả hai. Xem ví dụ hình ảnh này, trong đó sử dụng phân phối bình thường. Mặc dù điều này là chính xác về mặt toán học, nó …

21 bayesian prior posterior likelihood

4

Phân phối trước thông tin yếu cho các tham số tỷ lệ

Tôi đã sử dụng các bản phân phối bình thường như các bản phân phối trước cho các tham số tỷ lệ (đối với các bản phân phối bình thường, bản phân phối, v.v.) khi tôi có một ý tưởng sơ bộ về quy mô nên là gì, nhưng tôi …

21 distributions bayesian modeling prior maximum-entropy

2

Giải thích tự nhiên cho siêu âm LDA

Ai đó có thể giải thích sự giải thích tự nhiên cho siêu âm LDA là gì? ALPHAvà BETAlà các tham số của phân phối Dirichlet cho chủ đề (trên mỗi tài liệu) và phân phối từ (theo chủ đề) tương ứng. Tuy nhiên, ai đó có thể giải thích …

21 interpretation prior topic-models hyperparameter

2

Tại sao một

Lý lịch Một trong những phổ biến nhất là sử dụng yếu trước khi vào đúng là nghịch đảo-gamma với các thông số (Gelman 2006) .α=0.001,β=0.001α=0.001,β=0.001\alpha =0.001, \beta=0.001 Tuy nhiên, phân phối này có một CI 90% khoảng .[3×1019,∞][3×1019,∞][3\times10^{19},\infty] library(pscl) sapply(c(0.05, 0.95), function(x) qigamma(x, 0.001, 0.001)) [1] 3.362941e+19 Inf Từ …

21 bayesian multilevel-analysis prior

2

Các linh mục tiềm ẩn trong thống kê thường xuyên là gì?

Tôi đã nghe khái niệm rằng Jaynes tuyên bố những người thường xuyên hoạt động với một "ưu tiên ngầm". Những linh mục ngầm này là gì? Điều này có nghĩa là các mô hình thường xuyên là tất cả các trường hợp đặc biệt của các mô hình Bayes …

19 bayesian prior posterior frequentist

2

Vấn đề với các linh mục theo kinh nghiệm là gì?

Trong văn học, đôi khi tôi vấp phải nhận xét, rằng việc chọn các linh mục phụ thuộc vào chính dữ liệu (ví dụ Zellners g-trước) có thể bị chỉ trích từ quan điểm lý thuyết. Trường hợp chính xác là vấn đề nếu trước đó không được chọn độc …

18 bayesian prior hierarchical-bayesian

4

Làm thế nào khuôn khổ Bayes tốt hơn trong giải thích khi chúng ta thường sử dụng các linh mục không thông tin hoặc chủ quan?

Người ta thường lập luận rằng khung bayes có lợi thế lớn trong việc giải thích (so với người thường xuyên), vì nó tính xác suất của một tham số được cung cấp dữ liệu - thay vì như trong khuôn khổ thường xuyên. Càng xa càng tốt.p ( x …

18 bayesian interpretation prior likelihood posterior

1

Có một cách giải thích Bayes về hồi quy tuyến tính với chính quy hóa L1 và L2 đồng thời (còn gọi là lưới đàn hồi) không?

Người ta biết rằng hồi quy tuyến tính với hình phạt tương đương với việc tìm ước tính MAP được đưa ra một Gaussian trước các hệ số. Tương tự, sử dụng hình phạt tương đương với sử dụng phân phối Laplace như trước.l2tôi2l^2l1l1l^1 Không có gì lạ khi sử …

17 regression bayesian regularization prior elastic-net

2

Mối quan hệ đằng sau Jeffreys Priors và sự biến đổi ổn định phương sai là gì?

Tôi đã đọc về Jeffreys trước trên wikipedia: Jeffreys Prior và thấy rằng sau mỗi ví dụ, nó mô tả cách biến đổi ổn định phương sai biến Jeffreys trước thành đồng phục trước. Ví dụ, đối với trường hợp Bernoulli, nó nói rằng đối với một đồng xu có …

17 bayesian prior jeffreys-prior

2

Mối quan hệ giữa kích thước mẫu và ảnh hưởng của trước đến sau là gì?

Nếu chúng ta có cỡ mẫu nhỏ, phân phối trước có ảnh hưởng đến phân phối sau không?

17 bayesian sample-size prior

2

Chủ nghĩa thường xuyên và linh mục

Robby McKilliam nói trong một bình luận cho bài viết này : Cần phải chỉ ra rằng, từ quan điểm của những người thường xuyên, không có lý do gì mà bạn không thể kết hợp kiến thức trước đó vào mô hình. Theo nghĩa này, chế độ xem thường …

17 bayesian prior regularization frequentist

4

Làm thế nào để thống kê Bayes xử lý sự vắng mặt của các linh mục?

Câu hỏi này được lấy cảm hứng từ hai tương tác gần đây tôi có, một ở đây trong CV , một ở đây tại economics.se. Ở đó, tôi đã đăng một câu trả lời để nổi tiếng "Envelope Nghịch lý" (tâm trí bạn, không phải là những "câu trả …

16 bayesian mathematical-statistics prior theory philosophical

2

Những phân phối nào trước đây có thể / nên được sử dụng cho phương sai trong mô hình bayesisan phân cấp khi phương sai trung bình được quan tâm?

Trong bài viết được trích dẫn rộng rãi của mình Phân phối trước cho các tham số phương sai trong các mô hình phân cấp (916 trích dẫn từ trước đến nay trên Google Scholar) Gelman đề xuất rằng các phân phối trước không có thông tin tốt cho phương …

16 bayesian variance prior jags hierarchical-bayesian

Câu hỏi được gắn thẻ «prior»