Thời gian James trải qua ở Pháp đã để ông tiếp xúc với đức tin và các nghi lễ của Công giáo La Mã; sau đó ông và vợ mình, bà Anne, ngày càng có cảm tình với Công giáo. Vào khoảng năm 1668 hay 1669, James cải sang Công giáo qua việc nhận bí tích thánh thể. Tuy nhiên, việc cải đạo này của James được giữ bí mật trong một thời gian và ông vẫn tiếp tục đi lễ nhà thờ Anh giáo cho tới tận 1676. Mặc dù đã cải đạo, ông vẫn tiếp tục có một quan hệ hợp tác chủ yếu với các tín đồ Anh giáo, bao gồm John Churchill, George Legge và các tín đồ Kháng cách người Pháp như là Bá tước thứ hai xứ Feversham Louis de Duras.Vì lo sợ những ảnh hưởng của các tín đồ Công giáo trong triều đình, Quốc hội Anh ra một đạo luật mới tên Luật Khảo sát (Test Act) năm 1673. Luật mới này đòi hỏi tất cả quan lại và tướng tá quân đội phải ra một lời tuyên thệ. Lời tuyên thệ này buộc họ phải chối bỏ phép thánh thể và lên án một số lễ nghi khác của Công giáo như là sự mê tín và mê muội và chấp nhận bí tích thánh thể của Anh giáo. James từ chối thực hiện bất cứ yêu cầu nào của Luật Khảo sát và thay vào đó ông từ bỏ chức Đại Đô đốc của Hải quân Anh. Và chính việc này đã công khai việc James đã cải đạo.Vua Charles II chống đối việc cải đạo, và huấn lệnh rằng, các con gái của James là Mary và Anne phải được nuôi dạy với tư cách là những tín đồ Kháng Cách. Tuy nhiên, ông cho phép James cưới một tín đồ Công giáo là Mary xứ Modena - một Công nương mới 15 tuổi người Ý. Ngày 20 tháng 11 năm 1673, James tiến hành việc cưới vắng mặt Mary theo nghi lễ Công giáo. Ngày 21 tháng 9, Mary tới Anh Quốc và Giám mục Oxford là Nathaniel Crew tiến hành một vài nghi lễ Anh giáo và không làm gì hơn ngoài công nhận cuộc hôn nhân Công giáo của James và Mary. Nhiều người Anh, vốn chẳng tin ... Tiếp tục ở trên, sao cho nó trả lời "بماذا يعتقد الكثير من البريطانين؟":
vào Công giáo, xem vị Công nương mới của xứ York là một gián điệp của Giáo hoàng Clêmentê X.