Ở giữa hồ Dâm Đàm có một cái gò nổi tương đối rộng gọi là gò Kim Ngư (Cá Vàng). Đời Lý Thánh Tông (1054-1071) đã cho xây dựng trên gò đó một tòa hành cung gọi là cung Thúy Hoa. Đời Trần, trên gò có điện Hàm Nguyên là nơi nghỉ mát của các hoàng thân công chứa. Theo nhà phong thủy, gò Kim Ngư có hình thể “phượng hoàng ẩm thủy”.
Đến đời Hậu Lê cung điện cũ không còn, nền cũ bỏ hoang tàn. Năm Hoàng Định 16 (Ất Mão 1615) đời Lê Kính Tông, chùa Khai Quốc ở bên bờ sông Hồng, nền bị nước xói có nguy cơ bị lở, dân làng xin phép được di chùa vào trong đê và xây đụng trên nền điện cũ gò Kim Ngư (trước khi có đập Cổ Ngư).
Chùa Khai Quốc vốn có từ thời Lý Nam Đế (544), là một ngôi chùa cổ của nước Nam và là một trung tâm Phật giáo dòng Vô Ngôn Thông. Vào khoảng năm Đại Bảo (1440-1442) chùa còn có tên là chùa An Quốc.
Chùa An Quốc nhiều lần được xây lại mới hoặc tu sửa, quy mô ngày càng được mở rộng. Năm Vĩnh Tộ 10 (Mậu Thìn 1628) triều Lê Thần Tông, xây thượng điện, tam bảo, tiền đường, hậu đường, đài đốt hương. Năm Dương Hòa 5 (Kỷ Mão 1639) trùng tu, làm thêm tam quan, hậu đường và hành lang hai bên. Bia Dương Hòa 1639 do Nguyễn Xuân Chính soạn; Nguyễn Xuân Chính đỗ trạng nguyên khoa Đinh Sửu (1637), chức đại phu Hàn lâm thị thư.
Năm Chính Hòa (1680-1704) đời Lê Hy Tông, chùa đổi tên là Trấn Quốc tự, trong chùa vẫn còn giữ được tấm biển cũ.
Chùa Trấn Quốc suốt thời Hậu Lê vẫn là chốn tổ của dòng Phật giáo Vô Ngôn Thông; sau vườn chùa có dựng nhiều tháp của những sư tổ như Tu Ma, Đạo Quang, Tín Tâm, Châu Thực, Viên Quang, Hiển Hiện, v.v. theo niên hiệu ghi lại thì đa số thuộc đời Vĩnh Hựu (1735-1730) Lê Ý Tông và đời Cảnh Hưng (1740-1786) Lê Hiển Tông.
Chiến tranh cuối thế kỷ XVIII đã tàn phá nhiều chỗ trong chùa, chỗ còn lại bị hư hỏng nặng. Năm Gia Long 14 (Ất Hợi 1815), dân sở tại quyên giáo sửa chữa lại chùa, gần như xây dựng lại vì việc hưng công phải mất ba năm mới xong. Sau lần trùng tu đó chùa Trấn Quốc vẫn giữ quang cảnh như ngày nay, tuy đã có mấy lần sửa chữa thêm nữa, nhưng theo quy cách cũ, như lần trùng tu năm 1934 và lần 1953 vì chiến sự năm 1946-1947 có phạm đến nhà cửa trong chùa.
