Marshall lahir di Baltimore, Maryland, pada 2 Juli 1908. Dia adalah cicit dari seorang budak yang lahir di Republik Demokratik Kongo modern; kakeknya juga seorang budak. Nama aslinya adalah Thoroughgood, tetapi akhirnya disingkat menjadi Thurgood di kelas dua karena dia tidak suka mengejanya.