Cuối thế kỷ 19 nơi đây là xưởng đúc tiền, sau đó là Khám lớn (dưới thời Pháp), là Trường ĐH Văn khoa (từ năm 1948 -1967). Tòa nhà hiện tại được xây mới từ năm 1968 (do KTS Nguyễn Hữu Thiện và KTS Bùi Quang Hanh thiết kế, KTS Lê Văn Lắm tư vấn kỹ thuật), hoàn thành năm 1971 để làm Thư viện Quốc gia của chính quyền cũ. Năm 1978, công trình đổi tên thành . Ký họa của KTS Bùi Hoàng Bảo Cổng vào thư viện - ký họa của KTS Đặng Phước Tuệ Phụng hàm thư và hệ lam của công trình - ký họa của KTS Linh Hoàng KTS cung cấp Công trình có khối thấp dài 71 m, ngang 23 m gồm 5 tầng (tính cả hầm, sân thượng) và khối 14 tầng cao 43 m làm kho chứa sách báo. Khoảng sân được tính toán sao cho tầm nhìn không thấy khối cao tầng phía sau, khiến công trình trở nên gần gũi, đỡ "áp chế" hơn. Hiện đại và truyền thống được kết hợp khá nhuần nhuyễn. Dầm mái, góc mái được lập thể hóa từ kẻ hiên, diềm mái cong của đình làng. Mặt đứng có hệ lam "che nắng, lấy gió" với chi tiết cách điệu từ chữ Hán: "Công", "Thọ", "Vạn". Họa tiết trang trí rồng trên hệ lam thể hiện khát vọng "hóa rồng". "Phụng hàm thư" (chim phượng ngậm kinh thư thánh hiền) ở mặt bên công trình biểu tượng cho (theo truyền thuyết, chim phượng chỉ xuất hiện vào thời thái bình). Nhóm chi tiết kỷ hà dạng chữ X, O, XO… sử dụng phổ biến làm viền, nền cho trang trí chính trong kiến trúc cung đình nhà Nguyễn. Hệ lam che nắng là cuộc thể nghiệm họa tiết phương Đông trên nền phong cách Modernism - ký họa của Atelier Hai Tran Ký họa của Bờm Sketcher Họa sĩ cung cấp Ký họa của KTS Lê Quang Hiếu KTS cung cấp Hành lang vừa liên kết các khu chức năng vừa làm khoảng đệm tránh bức xạ trực tiếp. Hàng cột mặt tiền tách khỏi hệ lam gợi hình ảnh hàng cột hiên, chống thẳng xuống nước gợi tới nhà sàn. Mái vươn xa che mưa, tạo bóng mát cùng với cây xanh, hồ cảnh giúp cải thiện vi khí hậu đáng kể. Ký họa của KTS Phan Đình Trung Một góc thư viện - ký họa của KTS Trần Xuân Hồng KTS cung cấp Hiện tại, thư viện lưu trữ nhiều tài liệu quý, có phòng đọc cho trẻ em, người khiếm thị. Ký họa của KTS Đặng Phước Tuệ Cổng và hàng rào thư viện - ký họa của KTS Trần Xuân Hồng KTS cung cấp
Nằm tại 69 Lý Tự Trọng, Q.1, diện tích khoảng 7.000 m2, Thư viện Khoa học tổng hợp TP.HCM là một trong những công trình tiêu biểu của kiến trúc hiện đại miền Nam VN nửa cuối thế kỷ 20.