Xuất phát từ việc những hoàng tử con Chúa Nguyễn Hoàng sau khi vào Nam đã lập phủ và trồng những vườn cam tươi tốt nên được người dân địa phương gọi chết danh thành “PHỦ CAM”.
Năm 1680, linh mục Pierre Langlois được cử làm Cha Chính ( như cha Tổng đại diện bây giờ) giáo phận Đàng Trong, ngài từ Thái Lan về kinh đô đang ở Kim Long yết kiến Chúa Hiền Vương Nguyễn Phúc Tần (là con trai Chúa Nguyễn Hoàng). Được tiếp đón nồng hậu nhờ vào những tài năng của ngài, thông hiểu tiếng Việt và giỏi Tây y nên đã chữa cho nhiều vương tôn công tử, nhờ vậy ngài rất nổi tiếng và có uy tín lúc bấy giờ.
Hoàng tử Nguyễn Phúc Trăn và Hoàng đệ Nguyễn Phúc Hiệp con thứ bảy của Chúa Nguyễn Hoàng) lập Phủ đệ tại đồi Đá bên bờ kênh Bến Ngự, thường tiếp đãi ngài rất thân mật. Được ông Hoàng Nguyễn Phúc Lễ, con của Nguyễn Phúc Hiệp cho ở trong Phủ Chúa, ngài mở một bệnh xá đồng thời làm nhà nguyện tạm thời.
Được sự giúp đỡ của ông Hoàng Nguyễn Phúc Trăn, ngài mua một khu đất rộng trên đồi Đá. Hai năm sau, tức là vào năm 1682, ngài cho dựng một ngôi nhà thờ bằng gỗ, đân quanh vùng gọi là xóm Đá, cũng có người gọi là xóm Nón, giáo dân khá đông đúc.
Năm 1685, hoàng tử Nguyễn Phúc Trăn nối ngôi, gọi là Chúa Ngãi. Hai năm sau, Chúa Ngãi dời Vương triều từ Kim Long về Phú Xuân. Kinh thành ngày càng phát triễn, họ đạo Phủ Cam cũng phát triễn theo. Linh mục Langlois quyết định xây ngôi nhà thờ mới rộng rãi và khang trang hơn, sau 3 năm mới hoàn thành. Linh mục Langlois trở thành cha sở đầu tiên (1862-1700).
Năm 1681, Đức cha Francis Perez được cử làm Giám mục Tông tòa Đàng Trong, khi đến Huế ngài chọn Phủ Cam làm nơi đặt Tòa Giám mục.
Năm 1885, cha Allys từ Dương Sơn được cử về coi sóc Phủ Cam, giáo xứ Phủ Cam ngày càng phát triễn và sầm uất. Ngài tiến hành xây nhà thờ Phủ Cam đồ sộ và thật đẹp vào năm 1898, đến năm 1902 thì khánh thành.
Đến năm 1908, cha Allys được tấn phong Giám mục tại nhà thờ Phủ Cam. Tòa Giám mục được dời từ Kim Long về Phủ Cam, và nhà thờ Phủ Cam trở thành nhà thờ Chính tòa.
Đầu năm 1963, Đức Tổng Giám mục Phêrô Ngô Đình Thục cho triệt hạ ngôi nhà thờ cũ và xây lại ngôi nhà thờ hiện nay theo mẫu thiết kế của kiến trúc sư lừng danh Ngô Viết Thụ. Tuy nhiên do trải qua những biến động của lịch sử, nên việc xây dựng nhà thờ bị chậm trễ: từ năm 1963-1967, cha Phaolô Lê Văn Đẩu chỉ mới xây được một phần Cung thánh; từ năm 1967-1972, cha Batôlômeô Nguyễn Phùng Tuệ tiếp tục xây dựng nhưng vẫn chưa được bao nhiêu; từ năm 1972-1995, cha Phaolô Nguyễn Kim Bính từng bước hoàn thành nhà thờ nhưng vẫn chưa xây tháp chuông; năm 1999, nhờ sự giúp đỡ của ông Paul Chin người Singapore và nhiều vị ân nhân đồng hương Phủ Cam trong và nước, cha Phaolô Nguyễn Trọng tiến hành xây dựng hai tháp chuông, hoàn thành năm 2000, đúng vào dịp mừng kỷ niệm 150 năm thành lập giáo phận Huế, ngôi nhà thờ mới được cung hiến do Đức Tổng Giám mục Stêphanô Nguyễn Như Thể.
Hiện nay, nhà thờ Phủ Cam là một trong những ngôi nhà thờ đẹp và đồ sộ nhất tại Việt Nam, thu hút nhiều du khách đến hành hương và tham quan.