Sinh tại Newton, Massachusetts, vào ngày 19 tháng 4 năm 1721, Roger Sherman là con thứ hai trong số bảy người con do William và Mehetabel Sherman sinh ra. William là một nông dân, đồng thời là một người đóng dây và đã giúp dạy cho Roger cách buôn bán ban đầu của anh ấy. Khả năng thiên bẩm với các con số đã giúp Roger tự học cách khảo sát.