San Jose theo tiếng Tây Ban Nha nghĩa là Thánh Giuse, được thành lập năm 1777 như là thị trấn đầu tiên của thuộc địa Tây Ban Nha tại vùng Nueva California (Tân Ca Li) – sau này thành Alta California (Thượng Ca Li). Thành phố là cơ sở trang trại hậu cần phục vụ cho quân đội Tây Ban Nha xây dựng ở San Francisco và Monterey. Sau khi California nhận được quy chế tiểu bang Hoa Kỳ năm 1850, San Jose là thủ phủ đầu tiên của California. Sau 150 năm phát triển nông nghiệp, sự gia tăng nhu cầu nhà ở của binh lính và các cựu chiến binh trở về từ Chiến tranh thế giới thứ 2 đã khiến thành phố nhanh chóng được mở rộng xây dựng. Trong thập niên 70, việc xây dựng Thung lũng Silicon tại đây khiến cho San Jose – nằm trong trung tâm Thung lũng Silicon được đặt nickname là Thủ đô Thung lũng Sili ... Tiếp tục ở trên, sao cho nó trả lời "Từ khi nào phiên bản tiếng Tây Ban Nha của tên được dùng?":
con. Tháng 4/1979, Hội đồng thành phố đã quy định phát âm tên thành phố là San José lên con dấu và các văn bản chính thức. Tuy nhiên, người ta vẫn phát âm và viết tên thành phố mà không có dấu sắc. Tên chính thức của thành phố là The City of San José.