Ngẫu nhiên trong một mẫu không ngẫu nhiên vẫn có thể cho thấy một hiệu ứng không được giải thích hợp lý bằng sự thay đổi ngẫu nhiên.
Ví dụ, hãy tưởng tượng chúng ta có một quần thể với hai nhóm nhỏ không được nhận dạng (với các đặc điểm hơi khác nhau *) có kích thước gần bằng nhau, nhưng mẫu của bạn không ngẫu nhiên, phân chia 80/20. Hãy tưởng tượng 2 nhóm điều trị có kích thước bằng nhau. Ngẫu nhiên (ít nhất là với cỡ mẫu khá) sẽ có xu hướng phân chia gần 80/20 trong mỗi nhóm, do đó hiệu quả điều trị là do điều trị, thay vì phân bổ không đồng đều các nhóm không đồng nhất vào phương pháp điều trị.
* dẫn đến các phương tiện cơ bản khác nhau, nói
Vấn đề xảy ra khi bạn muốn mở rộng suy luận cho một số đối tượng mục tiêu khác với những gì mẫu của bạn là đại diện cho (người tự chọn); điều này đòi hỏi các giả định / một lập luận mà bạn có thể không có bằng chứng (chẳng hạn như giả sử rằng sự khác biệt trong điều trị sẽ phù hợp với tất cả các tập hợp con của dân số).
Đối với một tình huống tương tự, hãy tưởng tượng thử nghiệm một loại thuốc tăng huyết áp chỉ trên nam giới, so với điều trị tiêu chuẩn và giả dược. Giả sử những người đàn ông được chọn ngẫu nhiên vào nhóm điều trị. Một hiệu quả điều trị sẽ có thật theo nghĩa là nó thực sự mô tả một hiệu ứng ở nam giới. Khó khăn sẽ đến khi cố gắng mở rộng suy luận đó cho phụ nữ .
Vì vậy, nếu chúng được tiến hành đúng cách và ngẫu nhiên ngoài việc tuyển dụng, một hiệu ứng đáng kể được quan sát sẽ là những gì có vẻ như, nhưng nó sẽ áp dụng cho những gì bạn thực sự lấy mẫu, không nhất thiết là mục tiêu mong muốn của bạn là gì - vượt qua khoảng cách giữa hai người có thể đòi hỏi lập luận cẩn thận; lập luận như vậy thường không có.
Khi tôi còn là sinh viên, các thí nghiệm tâm lý học được thực hiện khá phổ biến đối với sinh viên tâm lý học, những người được cho là tình nguyện trong một số giờ nhất định của các thí nghiệm đó (điều này vẫn có thể xảy ra nhưng tôi không liên lạc thường xuyên với các nhà tâm lý học ai làm thí nghiệm nữa). Với ngẫu nhiên để điều trị, các kết luận có thể có giá trị (tùy thuộc vào những gì đã được thực hiện) nhưng sẽ áp dụng cho dân số địa phương của sinh viên đại học tâm lý tự chọn (trong đó họ thường chọn những thí nghiệm để đăng ký), những người ở rất xa một mẫu ngẫu nhiên của dân số rộng hơn.