Dòng họ Phạm Đăng từ Quảng Ngãi vào Gò Công lập nghiệp bắt đầu từ ông Phạm Đăng Dinh, một nhà nho vừa dạy học cho dân trong vùng, vừa khai khẩn đất đai giồng Sơn Quy để khai cơ lập nghiệp.

Chuyện kể rằng, vào một đêm mưa to gió lớn, có một người khách lạ ghé vào nhà ông Dinh xin bữa ăn và ở nhờ qua đêm. Vốn thương người và hiếu khách, ông Dinh tiếp đãi khách rất thịnh soạn. Hôm sau, khi ra đi, vị khách cảm kích nên cho ông Dinh biết mình là một thầy địa lí đang đi tìm long mạch. Để tạ ơn, vị khách mách bảo cho ông Dinh biết Gò Rùa, gò đất có dáng khom khom như cái mai rùa, là mảnh đất tốt, nếu dùng làm nơi an táng thân phụ, về sau con cháu sẽ được hưởng lộc rất lớn.

Nghe vậy, ông Dinh sai con trai là Phạm Đăng Long quay về Quảng Ngãi mang hài cốt ông nội là Phạm Đăng Tiên vào táng tại Gò Rùa. Năm 1796, cháu nội ông Dinh là Phạm Đăng Hưng, sinh năm 1764, thi đỗ Tam trường tại trường thi Gia Định.
 

Phạm Đăng Hưng là vị quan thanh liêm, văn võ song toàn, nổi tiếng liêm khiết. Ông giữ nhiều chức vụ quan trọng như: Tham tri bộ Lại kiêm Chưởng trưởng đà sự chuyên trông coi việc đê điều (1805), Thanh tra trường thi Hương ở Kinh Bắc (1807), Thượng thư bộ Lễ (1813) kiêm quản Khâm thiên giám (1815). Ông là thân sinh của Thái hậu Từ Dũ, vợ vua Thiệu Trị. Thái hậu Từ Dũ là bậc mẫu nghi thiên hạ, không những giúp triều đình trị quốc an dân mà còn nổi tiếng là người phụ nữ đức hạnh và biết cách nuôi dạy con.

Năm 1825, Đức Quốc Công Phạm Đăng Hưng mất. Năm 1826, người con trai trưởng của ông đã cho xây dựng một khu lăng mộ lớn ngay tại mảnh đất phát tích của dòng họ mình ở xã Long Hưng, thị xã Gò Công. Để làm công trình này, nhiều nghệ nhân tài hoa bậc nhất chuyên xây dựng lăng tẩm, cung đình từ Huế và các địa phương đã được mời vào Gò Công nghiên cứu, thiết kế và xây dựng.

Hiện nay, tại xã Long Hưng, Khu lăng mộ Hoàng Gia vẫn còn gần như nguyên vẹn. Trong đó đáng chú ý có Nhà thờ Đức Quốc Công, từng là nơi ở của Thái hậu Từ Dũ từ lúc nhỏ cho đến khi ra Huế nhập cung vào năm lên 14 tuổi. Nơi đây cây cối xanh um bao trọn lấy ngôi nhà thờ có lối kiến trúc giống như các tòa dinh thự của giới quý tộc Nam Bộ xưa, pha lẫn chút kiến trúc cung đình Huế. Toàn bộ ngôi nhà được xây bằng gạch với hệ thống cột, rui, mè... bên trong làm bằng gỗ quý và được chạm khắc tinh xảo theo chủ đề “bát bửu”, “tứ linh”, “tứ quý” đậm chất Á Đông. Trong khuôn viên của công trình còn có một cái giếng cổ xây bằng gạch vồ. Vào mùa khô, cả vùng Gò Công bị nước biển xâm thực làm nhiễm mặn, nhưng nước ở giếng này quanh năm vẫn ngọt lịm.

Ngoài nhà thờ, nơi đây còn có khu lăng mộ của Đức Quốc Công Phạm Đăng Hưng. Nhìn gần, khu lăng mộ có hình của một chiếc mũ triều phục, nhưng nhìn từ xa lại trông giống như một cái đỉnh lớn. Đây là một kiểu kiến trúc khá lạ và độc đáo. Lăng Đức Quốc Công Phạm Đăng Hưng có quy mô không lớn nhưng kiến trúc khá đặc sắc. Lăng có nhiều chi tiết trang trí tinh xảo thể hiện cho sự danh giá của dòng họ Phạm Đăng dưới triều Nguyễn như hình rồng, nghê, hổ, cá chép vượt vũ môn, hoa lá... Lăng còn có một tấm bia lớn bằng đá trắng xứ Quảng Nam, do vua Tự Đức ban tặng, trên có bài văn bia do Phan Thanh Giản và Trương Quốc Dụng soạn thảo vào năm Tự Đức thứ 10 (1857) nhằm ca ngợi công đức của Đức Quốc Công Phạm Đăng Hưng. Do chiến tranh, tấm bia bị thất lạc, phải đúng 130 năm sau nó mới được tìm ra và đưa trở về Lăng Hoàng Gia. Đặc biệt, tương truyền, thi thể Đức Quốc Công Phạm Đăng Hưng được chôn trong tư thế ngồi. Mộ chôn theo kiểu nội quan ngoại quách.