Lahir di Newton, Massachusetts, pada 19 April 1721, Roger Sherman adalah anak kedua dari tujuh bersaudara yang lahir dari pasangan William dan Mehetabel Sherman. William adalah seorang petani, serta cordwainer, dan membantu mengajar Roger perdagangan awal. Kemampuan alami dengan angka membantu Roger belajar menyurvei sendiri.