Goldman Sachs didirikan di New York pada tahun 1869 oleh Marcus Goldman. Pada tahun 1882, menantu Goldman, Samuel Sachs, bergabung dengan firma tersebut. Pada tahun 1885, Goldman membawa putranya Henry dan menantunya Ludwig Dreyfuss ke dalam bisnis dan perusahaan tersebut mengadopsi nama yang sekarang, Goldman Sachs & Co.