Đọc phê phán nghe như việc cần chuyên môn sâu về phương pháp. Thực tế, phần lớn vấn đề trong một bài báo lộ ra qua bốn câu hỏi mà bất kỳ ai có nền khoa học đều trả lời được trong mười phút.
Câu một: thiết kế có trả lời được câu hỏi không
- Nghiên cứu quan sát không chứng minh được nhân quả.
- Không có nhóm đối chứng thì không so được với cái gì.
- Đo một thời điểm thì không nói được về thay đổi theo thời gian.
- Đây là loại vấn đề không sửa được bằng phân tích tinh vi.
Câu hai: mẫu có đỡ nổi kết luận không
- Cỡ mẫu có đủ để phát hiện hiệu ứng họ tuyên bố không.
- Mẫu được chọn thế nào — ai bị loại và vì sao.
- Bao nhiêu người bỏ giữa chừng, và họ có khác người ở lại không.
- Kết luận có mở rộng ra ngoài nhóm đã nghiên cứu không.
Câu ba: có gì được đo mà không được báo cáo không
- So phần phương pháp với phần kết quả.
- Nếu có đề cương đăng ký trước, so với nó.
- Kết quả chính có đúng là kết quả họ định đo từ đầu không.
- Đây là dấu hiệu quan trọng và ít người kiểm.
Câu bốn: bàn luận có nói mạnh hơn kết quả không
- Đọc phần kết quả và phần kết luận cạnh nhau.
- Liên hệ có biến thành nhân quả không.
- Nhóm hẹp có biến thành nói chung không.
- Đây là chỗ lệch phổ biến nhất.
Nhìn hình vẽ
- Trục có bắt đầu từ gốc không.
- Thanh sai số là gì.
- Có hiện dữ liệu gốc không hay chỉ hiện trung bình.
Một điều đáng nhớ
So phần phương pháp với phần kết quả để xem có gì được đo mà không được báo cáo.
Đây là kiểm tra tốn hai phút mà rất ít người làm. Nó phát hiện được loại vấn đề nghiêm trọng nhất — chọn lọc kết quả để báo cáo — mà không đòi hỏi bất kỳ kiến thức thống kê nào.
Câu hỏi thường gặp
Câu hỏi thứ nhất khi đọc phê phán là gì?
Thiết kế có trả lời được câu hỏi không — nghiên cứu quan sát không chứng minh được nhân quả, và không có nhóm đối chứng thì không so được với cái gì.
Kiểm mẫu thế nào?
Cỡ mẫu có đủ để phát hiện hiệu ứng họ tuyên bố không, mẫu được chọn thế nào và ai bị loại, bao nhiêu người bỏ giữa chừng, và kết luận có mở rộng ra ngoài nhóm nghiên cứu không.
Làm sao biết có gì được đo mà không báo cáo?
So phần phương pháp với phần kết quả, và nếu có đề cương đăng ký trước thì so với nó.
Chỗ lệch phổ biến nhất nằm ở đâu?
Giữa kết quả và bàn luận — liên hệ biến thành nhân quả, nhóm hẹp biến thành nói chung.
Kiểm tra nào tốn ít thời gian nhất mà hiệu quả nhất?
So phần phương pháp với phần kết quả — tốn hai phút, phát hiện được việc chọn lọc kết quả để báo cáo, và không đòi kiến thức thống kê nào.