Jay Thomas sinh ra ở Kermit, Texas, đến Katherine (Guzzino), một người gốc Ý ở Nam Louisiana nhảy tap-dance, và T. Harry Terrell, Sr., một người làm nghề dầu mỏ. Đến New Orleans, anh luôn tích cực chơi thể thao và biểu diễn. Anh đã giành được giải thưởng đầu tiên với tư cách là người dẫn chương trình tài năng của trường trung học Jesuit.