Chúng ta có thể kết luận điều gì phải được thay thế?
Luận điểm Quine-Duhem lập luận rằng không thể tự kiểm chứng một giả thuyết duy nhất, vì mỗi giả thuyết xuất hiện như một phần của môi trường lý thuyết. Do đó, chúng ta chỉ có thể nói rằng toàn bộ các gói lý thuyết liên quan đã bị làm sai lệch tập thể, nhưng không thể kết luận được yếu tố nào của gói phải được thay thế. Một ví dụ về điều này được đưa ra bởi việc phát hiện ra hành tinh Sao Hải Vương: khi chuyển động của Sao Thiên Vương được tìm thấy không phù hợp với dự đoán của các định luật Newton, lý thuyết "Có bảy hành tinh trong hệ mặt trời" đã bị bác bỏ, chứ không phải chính các định luật Newton. Popper đã thảo luận về phê phán này về chủ nghĩa giả định ngây thơ trong Chương 3 và 4 của Logic khám phá khoa học. Đối với Popper, các lý thuyết được chấp nhận hoặc bác bỏ thông qua một loại quá trình lựa chọn. Các lý thuyết nói nhiều hơn về cách mọi thứ xuất hiện được ưa thích hơn những lý thuyết không; một lý thuyết càng được áp dụng rộng rãi, giá trị của nó càng lớn. Do đó, các định luật Newton, với ứng dụng chung rộng rãi của chúng, được ưa thích hơn "hệ mặt trời có bảy hành tinh" cụ thể hơn nhiều.