Đại chủng viện Thánh Giuse là một trong những công trình được xây dựng sớm nhất vào những năm đầu thời kỳ thực dân Pháp cai trị, nằm trong quần thể công trình tôn giáo ở vị trí từ ngã tư đường Tôn Đức Thắng - Lê Duẩn đến ngã tư đường Tôn Đức Thắng - Nguyễn Hữu Cảnh.

Năm 1862, chủng viện tạm đặt tại Thị Nghè. Đến năm 1863, linh mục Wibaux đảm nhận công trình xây cất chủng viện Sài Gòn tại số 6 Luro quận 1 (nay là số 6 đường Tôn Đức Thắng) và Đức cha Lefèbvre đã làm lễ đặt viên đá đầu tiên khởi công xây dựng công trình. Năm 1866, linh mục Miche làm lễ khánh thành công trình và khai giảng chính thức với tên gọi là chủng viện Thánh Giuse theo lời trối của Đức cha Lefèbvre.

Năm 1867, xây dựng thêm nhà Nguyện và năm 1928 xây tiếp các khu tiểu chủng viện. 

Năm 1945, chủng viện bị quân đội Nhật chiếm đóng nên Đại chủng viện và Tiểu chủng viện dời đi nơi khác, đến năm 1946 thì trở về.

Năm 1961, hội Thừa sai Paris trao quyền điều hành chủng viện cho các linh mục Việt Nam. 

Một góc khuôn viên Đại chủng viện Thánh Giuse thành phố Hồ Chí Minh

Từ năm 1963-1981, hoạt động của chủng viện tạm ngưng. Đến năm 1986, chủng viện hoạt động lại với tên gọi chủng viện Thánh Giuse thành phố Hồ Chí Minh.

Tồn tại và phát triển hơn 150 năm, tuy một phần công trình đang bị xuống cấp, nhưng chủng viện vẫn còn lưu giữ được những giá trị kiến trúc ban đầu, góp phần bảo tồn sự phong phú di sản kiến trúc cổ đô thị tại thành phố Hồ Chí Minh.