Lệ xin trùm ở đền Cao ra đời từ khi lập đền, đến nay đã được duy trì hơn một nghìn năm và là một nghi lễ linh thiêng được thực hiện vô cùng khắt khe. Để đứng ra lo việc đền hằng tháng, hằng năm sẽ có một cụ trùm và năm vị quan đám đại diện cho bốn ngôi đền trên và một ngôi đình là quan Đông, quan Đoài, quan Nam, quan Bắc và quan Trung. Những người này là bậc cao niên trong làng, sống đức độ, con cháu hiếu thảo thuận hòa và đặc biệt gia đình không có tang trở.

Mỗi tháng 6 vị trên phải trai giới ăn chay ngày 13 đến ngày 15 và ngày 29 đến ngày mồng 1 âm lịch khi tiến hành làm lễ. Các quan đám chỉ được nhận mũ áo và đảm nhiệm việc làng trong một năm từ mồng 2 Tết này cho đến mồng 2 Tết sau. Sau nhiệm kỳ họ sẽ được làng phong Lềnh và rất được trọng vọng. Riêng ông trùm là người lãnh đạo các quan đám sẽ đảm nhiệm vai trò của mình đến lúc gia đình có việc tang trở hoặc qua đời. Khi đó, lễ xin trùm mới lại được tổ chức và chỉ tiến hành vào ngày 15 tháng 3 hoặc 15 tháng 10 âm lịch.

Nghi lễ xin trùm được thực hiện một cách nghiêm trang và mang đậm yếu tố tâm linh. Người được phong trùm sẽ được chọn trong số các Lềnh. Trước hết, năm quan đám sẽ tiến hành dâng trầu nước, dâng cỗ lễ chay, thắp hương đen lên các ban. Trên bục hành lễ, quan đám đứng trước sẽ đọc tên khấn với nhà thánh xin phép cho vị đứng sau mình được làm trùm rồi quỳ xuống đội chiếc mâm đồng trên có 2 đồng tiền trinh để trên một thoi vàng phủ vải điều, làm lễ khất keo. Khi vị quan đám hơi cúi đầu để gieo lễ thì hai vị quan đám khác khiêng chiếc mâm đồng đệ phía trước đón hai đồng tiền rơi xuống.

Lễ khất keo này chỉ được phép thực hiện duy nhất một lần. Nếu hai đồng tiền một sấp một ngửa thì lễ xin trùm đã được chấp thuận. Trường hợp ngược lại thì việc xin trùm phải gác lại cho đến dịp sau và các quan đám sẽ tạm thời đảm trách các công việc của trùm. Lễ xin trùm là một nghi thức tín ngưỡng được đông đảo nhân dân nơi đây quan tâm theo dõi. Theo quan niệm năm nào làm lễ xin trùm thành công thì năm đó và những năm tiếp theo trong vùng sẽ được no đủ.  

Đền Cao thờ Thiên Bồng Đại tướng quân Đại vương Vương Đức Minh, là một di tích lịch sử có từ lâu đời tọa lạc trên đỉnh núi Thiên Bồng, giữa rừng lim già cổ thụ nhiều trăm năm tuổi. Ngôi đền cùng với đền Cả, đền Bến Tràng, đền Bến Cả tạo nên một cụm di tích danh thắng gắn liền với cuộc đời của năm vị tướng là năm anh em ruột họ Vương đã có công giúp vua Lê Đại Hành đánh quân xâm lược Tống (năm 981): Vương Đức Minh, Vương Đức Xuân, Vương Đức Hồng, Vương Thị Đào, Vương Thị Liễu. Qua thời gian, cuộc đời cùng chiến công của những vị danh tướng đã được nhân dân huyền thoại hóa để tỏ lòng tôn kính và được truyền tụng đến tận ngày nay.

Ngôi đền có kiến trúc kiểu chữ đinh, được xây dựng rất sớm, từ thời tiền Lê, sau khi năm vị tướng qua đời. Vào thời Nguyễn, ngôi đền được trùng tu lại với kiến trúc kiểu chữ tam và giữ nguyên hiện trạng cho đến nay. Hệ thống cổ vật, đồ thờ tự có giá trị như bia, long đao, bát bửu, ngai còn giữ được khá nguyên vẹn, tiêu biểu là các bức đại tự, câu đối. Trong hậu cung đền hiện còn lưu giữ được nguyên vẹn 12 đạo sắc phong qua các triều vua.

Lễ hội đền Cao được mở từ 21 - 25 âm lịch tháng giêng hằng năm mục đích suy tôn Thành hoàng làng và 5 vị tướng họ Vương. Ngoài ra nơi đây còn là chốn linh thiêng gắn với sự ra đời của mười hai dòng họ Giao Chỉ thời Bắc thuộc (theo ngọc phả đền) và địa danh cổ được khắc ghi trong lịch sử (nơi vua Lê Đại Hành đóng đại bản doanh trong cuộc kháng chiến chống Tống). Trong ngày hội có nhiều hoạt động để người dân tham dự và sinh hoạt như lễ dâng hương (chỉ được đốt hương đen), đọc chúc văn, tế lễ, rước bộ, đu tiên, vật, kéo co, cướp cờ, cờ người, thi bánh dày, chè đông.