Một mô hình bão hòa là gì?


Câu trả lời:


36

Một mô hình bão hòa là một mô hình trong đó có nhiều tham số ước tính như các điểm dữ liệu. Theo định nghĩa, điều này sẽ dẫn đến một sự phù hợp hoàn hảo, nhưng sẽ ít được sử dụng theo thống kê, vì bạn không còn dữ liệu để ước tính phương sai.

Ví dụ: nếu bạn có 6 điểm dữ liệu và phù hợp với đa thức bậc 5 với dữ liệu, bạn sẽ có một mô hình bão hòa (một tham số cho mỗi trong số 5 lũy thừa của biến độc lập của bạn cộng với một cho số hạng không đổi).


17
Tôi đã thấy các ví dụ trong đó một mô hình có mười điểm dữ liệu và chín tham số. Khi chỉ ra rằng mô hình có quá nhiều tham số, tôi được cho biết rằng R ^ 2 là 0,999 nên mô hình phải chính xác!
csgillespie

4
Như có thể được đọc trong bài viết của tôi và dave, các mô hình bão hòa không theo định nghĩa dẫn đến sự phù hợp hoàn hảo. nhưng nếu bạn sử dụng đa thức n-1 như mô hình họ sẽ làm. xem bài báo chuyên đề của Sue Doe Nihm về chủ đề này psych.fullerton.edu/mbirnbaum/ con / Nihm_18_1976.pdf
Henrik

24

Một mô hình bão hòa là một mô hình được định lượng quá mức đến mức về cơ bản nó chỉ là nội suy dữ liệu. Trong một số cài đặt, chẳng hạn như nén và tái tạo hình ảnh, đây không hẳn là một điều xấu, nhưng nếu bạn đang cố gắng xây dựng một mô hình dự đoán thì sẽ rất có vấn đề.

Nói tóm lại, các mô hình bão hòa dẫn đến các yếu tố dự đoán có phương sai rất cao đang bị nhiễu xung quanh nhiều hơn so với dữ liệu thực tế.

Như một thử nghiệm suy nghĩ, hãy tưởng tượng bạn đã có một mô hình bão hòa và có nhiễu trong dữ liệu, sau đó tưởng tượng lắp mô hình đó vài trăm lần, mỗi lần với một nhận thức khác nhau về tiếng ồn, và sau đó dự đoán một điểm mới. Bạn có thể nhận được kết quả hoàn toàn khác nhau mỗi lần, cả về sự phù hợp và dự đoán của bạn (và các mô hình đa thức đặc biệt nghiêm trọng trong vấn đề này); nói cách khác, phương sai của sự phù hợp và yếu tố dự đoán là cực kỳ cao.

Ngược lại, một mô hình không bão hòa sẽ (nếu được xây dựng hợp lý) sẽ phù hợp với nhau hơn ngay cả khi thực hiện tiếng ồn khác nhau, và phương sai của bộ dự đoán cũng sẽ giảm.


17

Một mô hình được bão hòa khi và chỉ khi nó có nhiều tham số như nó có các điểm dữ liệu (quan sát). Hoặc đặt khác, trong các mô hình không bão hòa, mức độ tự do lớn hơn không.

Về cơ bản, điều này có nghĩa là mô hình này là vô dụng, bởi vì nó không mô tả dữ liệu một cách kỹ lưỡng hơn dữ liệu thô (và mô tả dữ liệu một cách kỹ lưỡng nói chung là ý tưởng đằng sau việc sử dụng một mô hình). Hơn nữa, các mô hình bão hòa có thể (nhưng không nhất thiết) cung cấp một sự phù hợp hoàn hảo (vô dụng) vì chúng chỉ nội suy hoặc lặp lại dữ liệu.

Lấy ví dụ trung bình làm mô hình cho một số dữ liệu. Nếu bạn chỉ có một điểm dữ liệu (ví dụ: 5) sử dụng giá trị trung bình (nghĩa là 5; lưu ý rằng giá trị trung bình là mô hình bão hòa cho chỉ một điểm dữ liệu) hoàn toàn không giúp ích gì. Tuy nhiên, nếu bạn đã có hai điểm dữ liệu (ví dụ: 5 và 7) bằng cách sử dụng giá trị trung bình (nghĩa là 6) làm mô hình cung cấp cho bạn một mô tả chi tiết hơn so với dữ liệu gốc.


8
Điểm này về bão hòa không ngụ ý một sự phù hợp hoàn hảo là phần thú vị nhất của chủ đề này. Một ví dụ tự nhiên của tình huống như vậy sẽ là hồi quy đơn điệu . Giả sử, ví dụ, bạn biết giá trị của mình phải tăng theo thời gian và bạn thực hiện hồi quy đa thức, hạn chế các đa thức tăng. Xem xét dữ liệu có một số lỗi, vì vậy đôi khi chúng giảm đi một chút. Sau đó, bất kể bạn sử dụng bao nhiêu tham số (ngay cả khi nó nhiều hơn số lượng giá trị dữ liệu), bạn sẽ không bao giờ phù hợp với những dữ liệu này một cách hoàn hảo.
whuber

17

Như mọi người khác đã nói trước đây, điều đó có nghĩa là bạn có càng nhiều tham số thì bạn càng có điểm dữ liệu. Vì vậy, không có sự tốt đẹp của thử nghiệm phù hợp. Nhưng điều này không có nghĩa là "theo định nghĩa", mô hình hoàn toàn có thể phù hợp với bất kỳ điểm dữ liệu nào. Tôi có thể nói với bạn bằng kinh nghiệm cá nhân khi làm việc với một số mô hình bão hòa không thể dự đoán các điểm dữ liệu cụ thể. Nó là khá hiếm, nhưng có thể.

Một vấn đề quan trọng khác là bão hòa không có nghĩa là vô dụng. Ví dụ, trong các mô hình toán học về nhận thức của con người, các tham số mô hình được liên kết với các quá trình nhận thức cụ thể có nền tảng lý thuyết. Nếu một mô hình đã bão hòa, bạn có thể kiểm tra tính đầy đủ của nó bằng cách thực hiện các thử nghiệm tập trung với các thao tác chỉ ảnh hưởng đến các tham số cụ thể. Nếu các dự đoán lý thuyết khớp với sự khác biệt quan sát (hoặc thiếu) trong các ước tính tham số, thì người ta có thể nói rằng mô hình là hợp lệ.

Một ví dụ: Hãy tưởng tượng ví dụ một mô hình có hai bộ tham số, một cho xử lý nhận thức và một cho các phản ứng của động cơ. Bây giờ hãy tưởng tượng rằng bạn có một thử nghiệm với hai điều kiện, một điều kiện trong đó khả năng đáp ứng của người tham gia bị suy yếu (họ chỉ có thể sử dụng một tay thay vì hai) và trong điều kiện còn lại không có suy giảm. Nếu mô hình hợp lệ, sự khác biệt trong ước tính tham số cho cả hai điều kiện chỉ nên xảy ra đối với các tham số đáp ứng động cơ.

Ngoài ra, lưu ý rằng ngay cả khi một mô hình không bão hòa, nó vẫn có thể không nhận dạng được, điều đó có nghĩa là các kết hợp khác nhau của các giá trị tham số tạo ra cùng một kết quả, làm ảnh hưởng đến bất kỳ mô hình nào phù hợp.

Nếu bạn muốn tìm thêm thông tin về các vấn đề này nói chung, bạn có thể muốn xem các giấy tờ này:

Bamber, D., & van Santen, JPH (1985). Một mô hình có thể có bao nhiêu tham số và vẫn có thể kiểm tra được? Tạp chí Tâm lý học toán học, 29, 443-473.

Bamber, D., & van Santen, JPH (2000). Cách đánh giá khả năng kiểm tra và nhận dạng của một mô hình. Tạp chí Tâm lý học toán học, 44, 20-40.

chúc mừng


3

Nó cũng hữu ích nếu bạn cần tính toán AIC cho mô hình khả năng gần đúng. Ước tính độ phân tán phải đến từ mô hình bão hòa. Bạn sẽ chia LL mà bạn phù hợp bằng độ phân tán ước tính từ mô hình bão hòa trong tính toán AIC.


2

Trong ngữ cảnh của SEM (hoặc phân tích đường dẫn), mô hình bão hòa hoặc mô hình chỉ được xác định là một mô hình trong đó số lượng tham số tự do chính xác bằng số lượng phương sai và hiệp phương sai duy nhất. Ví dụ, mô hình sau đây là mô hình bão hòa vì có 3 * 4/2 điểm dữ liệu (phương sai và hiệp phương sai duy nhất) và cũng có 6 tham số miễn phí được ước tính:

một mô hình bão hòa

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.