Khi các quận được thành lập ở Bang New York vào năm 1683, Quận Warren hiện nay là một phần của Quận Albany. Quận này rất lớn, bao gồm phần phía bắc của Bang New York, toàn bộ Bang Vermont hiện nay, và theo lý thuyết, mở rộng về phía tây đến Thái Bình Dương.