Cụm di tích đình, chùa Vĩnh Mộ được xây dựng phía trong đê tả sông Hồng, ngay phía ngoài thôn Vĩnh Tề, xã Cao Xá, huyện Lâm Thao. Đình Vĩnh Mộ thờ thần làng là ông Nguyễn Như Kỳ, nhân vật lịch sử thời Hùng Vương thứ 18, có công cùng Tản Viên Sơn thánh đánh giặc Thục và cũng là người đã có công chiêu dân, khai khẩn lập ra ấp Thanh Hà. Để tưởng nhớ công lao to lớn của ông, Nhân dân đã lập miếu thờ ông bên bãi sông xứ Thanh Hà, trông về hướng núi Tản. Sau này, vào thời Lê Mạc, dân trong vùng dựng ngôi đình thờ ông tại trung tâm thôn Vĩnh Tề.

Ngôi đình được xây dựng vào thế kỷ XVIII theo kiểu chữ Công; đại trùng tu vào thời Nguyễn - năm Bảo Đại tam niên (tức Bảo Đại năm thứ 3 - năm 1927) thành kiến trúc kiểu chữ Đinh như hiện nay, với toà Đại bái 5 gian và Hậu cung 3 gian 1 chái, bộ khung gỗ có các bộ vì theo kiểu chồng rường giá chiêng, gian cuối cùng của Hậu cung tạo thượng cung - khám thờ. Trong di tích còn lưu giữ được hệ thống cổ vật: Ngai thờ, chiêng đồng và một số cổ vật chất liệu gỗ, gốm sứ…

Làng Vĩnh Mộ có hội vật “đuổi giải” rất độc đáo đầu xuân vào ngày mồng 7 tháng Giêng. Tập tục này nhằm nhắc lại việc rượt đuổi quân giặc ra khỏi làng xóm của mình. Hội vật với tục “đuổi giải” trải qua các bước: Vật lệ, vật giải. Người “đổ giải” phải ôm giải chạy một vòng xung quanh sân đình, sau đó chạy ra khỏi cổng làng và cấm không được ngoái cổ nhìn lại phía sau, dân làng reo hò đuổi theo phía sau. Nếu người được giải chưa ra khỏi cổng làng mà vô ý nhìn lại sẽ bị cả làng xúm vào đánh.  Ngoài ra, dân làng Vĩnh Mộ còn có tục mổ trâu, mổ lợn, rán cá chép, làm chè kho, bún và thi giã bánh giầy… để làm lễ vật cúng tế. Cỗ hèm có bánh giầy và cá rán, được quan niệm là những món ăn ưa thích của thành hoàng làng.

Chùa Vĩnh Mộ (tên chữ là Diên Phúc tự), xây dựng thời Nguyễn, nhìn về hướng Đông - Nam, kiến trúc kiểu chữ Đinh (J), gồm 2 tòa: Bái đường và Chính điện, được tu bổ, tôn tạo vào cuối thế kỷ XX. Trong chùa có 10 pho tượng với chất liệu bằng gỗ và thổ.

Nguồn sưu tập: Kỷ yếu Di tích lịch sử văn hóa Lễ hội truyền thống tiêu biểu huyện Lâm Thao năm 2019.