Những đột phá trong Thống kê của 15 năm qua là gì?

Tôi vẫn còn nhớ bài báo Biên niên sử về Tăng tốc của Friedman-Hastie-Tibshirani và các bình luận về vấn đề tương tự của các tác giả khác (bao gồm Freund và Schapire). Vào thời điểm đó, rõ ràng Boosting được xem là một bước đột phá ở nhiều khía cạnh: tính khả thi về mặt tính toán, một phương pháp hòa tấu, với hiệu suất tuyệt vời nhưng bí ẩn. Cùng thời gian đó, SVM đã đến tuổi, đưa ra một khuôn khổ được củng cố bởi lý thuyết vững chắc và với rất nhiều biến thể và ứng dụng.

Đó là vào những năm 90 tuyệt vời. Trong 15 năm qua, đối với tôi, có rất nhiều Thống kê là một hoạt động làm sạch và chi tiết, nhưng với một vài quan điểm thực sự mới.

Vì vậy, tôi sẽ hỏi hai câu hỏi:

1. Tôi đã bỏ lỡ một số bài báo cách mạng / tinh dịch?
2. Nếu không, có những cách tiếp cận mới mà bạn nghĩ có khả năng thay đổi quan điểm suy luận thống kê?

Quy tắc:

1. Một câu trả lời cho mỗi bài viết;
2. Tài liệu tham khảo hoặc liên kết chào mừng.

PS: Tôi có một vài ứng cử viên cho những đột phá đầy hứa hẹn. Tôi sẽ đăng chúng sau.

Câu trả lời đơn giản đến mức tôi phải viết tất cả những điều vô nghĩa này để làm CV hãy để tôi đăng nó: R

Tôi không chắc liệu bạn có gọi nó là "đột phá" không, nhưng Xuất bản Lý thuyết Xác suất: Logic của Khoa học của Edwin Jaynes và Larry Bretthorst có thể đáng chú ý. Một số điều họ làm ở đây là:

1) cho thấy sự tương đương giữa một số sơ đồ "điều chỉnh theo mùa" lặp đi lặp lại và tích hợp "tham số phiền toái" Bayesian.

2) đã giải quyết cái gọi là "Nghịch lý cận biên" - được cho là "cái chết của chủ nghĩa bay bổng" bởi một số người, và "cái chết của các linh mục không đúng" bởi những người khác.

3) ý tưởng cho rằng xác suất mô tả trạng thái kiến ​​thức về một mệnh đề là đúng hay sai, trái ngược với mô tả một tính chất vật lý của thế giới .

Ba chương đầu tiên của cuốn sách này có sẵn miễn phí tại đây .

Là một nhà thống kê ứng dụng và tác giả phần mềm nhỏ thỉnh thoảng, tôi nói:

WinBUGS (phát hành 1997)

Nó dựa trên BUGS, được phát hành hơn 15 năm trước (1989), nhưng chính WinBUGS đã giúp phân tích Bayes về các mô hình phức tạp thực tế có sẵn cho cơ sở người dùng rộng hơn. Xem ví dụ Lunn, Spiegelhalter, Thomas & Best (2009) (và thảo luận về nó trong Thống kê trong Y học tập 28 số 25 ).

$k$$i$$i$

Việc đưa chức năng mất "chênh lệch nội tại" và các hàm mất "không tham số hóa" khác vào lý thuyết quyết định. Nó có nhiều thuộc tính "đẹp" khác, nhưng tôi nghĩ cách tốt nhất là như sau:

$\theta$$\theta^{e}$$\theta$$g(\theta)$$g(\theta^{e})$

Tôi nghĩ rằng điều này là rất mát mẻ! (ví dụ: ước tính tốt nhất của tỷ lệ cược log là log (p / (1-p)), ước tính phương sai tốt nhất là bình phương độ lệch chuẩn, v.v.)

Cuộc đuổi bắt? sự khác biệt nội tại có thể khá khó để giải quyết! (nó liên quan đến chức năng tối thiểu (), tỷ lệ khả năng và tích phân!)

"Bắt ngược"? bạn có thể "sắp xếp lại" vấn đề để dễ tính toán hơn!

"Truy bắt ngược"? Tìm ra cách "sắp xếp lại" vấn đề có thể khó khăn!

Dưới đây là một số tài liệu tham khảo tôi biết trong đó sử dụng chức năng mất này. Mặc dù tôi rất thích các phần "ước tính nội tại" của các bài viết / slide này, tôi có một số bảo lưu về phương pháp "tham khảo trước" cũng được mô tả.

Kiểm định giả thuyết Bayes: Cách tiếp cận tham khảo

Dự toán nội tại

So sánh các phương tiện thông thường: Phương pháp mới cho một vấn đề cũ

Tích hợp ước tính Bayesian và thử nghiệm giả thuyết

Chỉ cần rơi vào cửa sổ 15 năm, tôi tin rằng, là các thuật toán để kiểm soát Tỷ lệ khám phá sai . Tôi thích cách tiếp cận 'q-value'.

Thêm 5 xu của riêng tôi, tôi tin rằng bước đột phá quan trọng nhất trong 15 năm qua là Cảm biến nén. LARS, LASSO và một loạt các thuật toán khác thuộc miền này, trong đó Sensing Sensing giải thích lý do tại sao chúng hoạt động và mở rộng chúng sang các miền khác.

Một cái gì đó rất ít liên quan đến bản thân số liệu thống kê, nhưng đã mang lại lợi ích lớn: Hỏa lực ngày càng tăng của máy tính, làm cho các bộ dữ liệu lớn hơn và phân tích thống kê phức tạp hơn dễ tiếp cận hơn, đặc biệt là trong các lĩnh vực ứng dụng.

Thuật toán Expectation-Propagation cho suy luận Bayes, đặc biệt là trong phân loại Quy trình Gaussian, được cho là một bước đột phá đáng kể, vì nó cung cấp một phương pháp gần đúng phân tích hiệu quả, hoạt động gần như cũng như các phương pháp lấy mẫu dựa trên tính toán đắt tiền (không giống như phương pháp xấp xỉ Laplace thông thường). Xem công việc của Thomas Minka và những người khác trên lộ trình EP

Tôi nghĩ rằng 'Suy luận Bayesian gần đúng cho các mô hình Gaussian tiềm ẩn bằng cách sử dụng các xấp xỉ Laplace lồng nhau tích hợp' của H. Rue et. al (2009) là một ứng cử viên tiềm năng.

Theo tôi, mọi thứ cho phép bạn chạy các mô hình mới trên quy mô lớn là một bước đột phá. Nội suy hạt nhân cho các quy trình Gaussian có cấu trúc có thể mở rộng (KISS-GP) có thể là một ứng cử viên (mặc dù ý tưởng này là mới và chưa có nhiều triển khai ý tưởng được trình bày).

Mặc dù tổng quát hơn một chút so với thống kê, tôi nghĩ đã có những tiến bộ quan trọng trong phương pháp nghiên cứu hiệu quả (RR) . Ví dụ: sự phát triển của R's knittrvàSweavecác gói và sổ ghi chép "R Markdown", các cải tiến LyX và LaTeX đã góp phần đáng kể vào việc chia sẻ dữ liệu, cộng tác, xác minh / xác thực và thậm chí cả tiến bộ thống kê bổ sung. Các bài báo được giới thiệu trong các tạp chí thống kê, y tế và dịch tễ học hiếm khi cho phép người ta tái tạo kết quả một cách dễ dàng trước khi xuất hiện các phương pháp / công nghệ nghiên cứu có thể tái tạo này. Bây giờ, một số tạp chí đang yêu cầu nghiên cứu sao chép và nhiều nhà thống kê đang sử dụng RR và đăng mã, kết quả và nguồn dữ liệu của họ trên web. Điều này cũng đã giúp thúc đẩy các ngành khoa học dữ liệu và làm cho việc học thống kê dễ tiếp cận hơn.

Theo tôi, bài báo xuất bản năm 2011 trên tạp chí Khoa học. Các tác giả đề xuất biện pháp liên kết rất thú vị giữa cặp biến ngẫu nhiên hoạt động tốt trong nhiều tình huống khi các biện pháp tương tự thất bại (Pearson, Spearman, Kendall). Giấy rất đẹp. Nó đây rồi