Có hai cách tiếp cận chính để hiểu câu hỏi này. Đầu tiên (và tôi tin rằng thành công nhất) là tài liệu về xu hướng nhận thức (xem liên kết LessWrong này ).
Phần lớn đã được viết về chủ đề này và nó sẽ quá tự phụ để tóm tắt nó ở đây. Nói chung, điều này chỉ có nghĩa là con người bộ máy nhận thức được ban tặng thông qua quá trình tiến hóa sử dụng rất nhiều phương pháp phỏng đoán và lối tắt để đưa ra quyết định sinh tồn hiệu quả hơn. Những quyết định sinh tồn này chủ yếu được áp dụng cho môi trường tổ tiên mà chúng ta hiếm khi phải đối mặt nữa, và do đó tần suất chúng ta phải đối mặt với các tình huống mà các heuristic của chúng ta thất bại có thể sẽ tăng lên.
Con người, ví dụ, rất giỏi trong việc tạo ra niềm tin. Nếu đặt ra một niềm tin mới tốn rất ít, nhưng việc không sử dụng một niềm tin sẽ dẫn đến sự sống còn có chi phí cao (ngay cả khi niềm tin nói chung là không chính xác), thì người ta sẽ thấy rất nhiều sự hợp lý hóa và rào cản bằng chứng thấp để tin mệnh đề (đó là những gì chúng ta thấy với con người). Bạn cũng có được các hành vi như xác suất khớp với lý do tương tự.
Người ta có thể tiếp tục mô tả tất cả những cách hấp dẫn mà chúng ta đi chệch khỏi việc ra quyết định cực đoan. Kiểm tra cuốn sách gần đây của Kahneman Suy nghĩ, nhanh và chậm và cuốn sách của Dan Ariely có thể dự đoán được cho các tài khoản phổ biến, dễ đọc với nhiều ví dụ. Tôi khuyên bạn nên đọc một số trình tự tại LessWrong để thảo luận nhiều hơn về khuynh hướng nhận thức và rất nhiều đánh giá tài liệu học thuật thú vị về các bước người ta có thể thực hiện để tránh những sai lệch này trong một số trường hợp nhất định.
Cách tiếp cận khác cho vấn đề này là (tôi nghĩ) khó khăn hơn nhiều. Đây là khái niệm cho rằng xác suất tự nó không phải là lý thuyết chuẩn tắc chính xác để đối phó với sự không chắc chắn. Bây giờ tôi không có thời gian để chú thích một số nguồn cho việc này, nhưng tôi sẽ cập nhật câu trả lời của mình sau với một số thảo luận về quan điểm này.