Goldman Sachs được thành lập tại New York vào năm 1869 bởi Marcus Goldman. Năm 1882, con rể của Goldman là Samuel Sachs gia nhập công ty. Năm 1885, Goldman đưa con trai Henry và con rể Ludwig Dreyfuss vào kinh doanh và công ty lấy tên hiện tại là Goldman Sachs & Co.