Quận Carroll được thành lập theo Đạo luật của Đại hội đồng Bang Maryland vào ngày 19 tháng 1 năm 1837. Quận Carroll nằm ở phần trung tâm phía bắc của Maryland, nằm ở phía nam của ranh giới bang Pennsylvania, là một phần của Mason- lịch sử Dòng Dixon. Phía đông giáp Robert M. Burk Comptroller