Theo các bậc cao niên nơi đây, đền Đào Xá xưa kia có tên là Đàn Xướng Thiện, thể hiện tâm nguyện hướng về điều thiện, hành động theo điều thiện, nói theo ngôn ngữ hiện đại là sự cống hiến, đồng cảm, chia sẻ, giúp đỡ người khác. Trong thực tại cuộc sống hiện nay, sự thờ ơ, vô cảm diễn ra ở không ít nơi. Nhất là trong bối cảnh dịch Covid-19 hoành hành kéo dài, gây ra nhiều khốn khó cho người dân, càng cần thêm những tấm lòng thiện lành để không ai bị bỏ lại phía sau, thì tên gọi xưa của đền là Đàn Xướng Thiện càng chứng tỏ tầm nhìn của cha ông, dù thời gian có lùi xa bao lâu. Sau này, tên đền được gọi theo tên thôn là “đền Đào Xá”. Đền thờ Phật - Tiên - Thánh và thờ vọng những vị anh hùng dân tộc, danh tướng kiệt xuất đã có công chống ngoại xâm như: Trần Hưng Đạo, Phạm Ngũ Lão.
Điều tiếp tục gây ấn tượng ngạc nhiên với du khách là vóc dáng cổng đền. Chiếc cổng đồ sộ, uy nghi hiếm có so với những di tích khác trong vùng, gọi là ngũ quan (5 cổng), nằm sát đường làng thẳng tắp, bên đường là hồ nước trong xanh. Phía ngoài cổng là đại tự: Thánh vực hiện quan, tam giác hội quán. Được xây dựng từ đầu thế kỷ 18, đền Đào Xá tọa lạc trên một khu đất cao, rộng, thoáng, theo lối kiến trúc điêu khắc thời Nguyễn và đã nhiều lần được tu tạo lại với những hạng mục kiến trúc nghệ thuật độc đáo như ngày nay.
Trải qua hàng trăm năm thăng trầm của lịch sử, vật đổi sao dời, nhưng dấu vết của quá khứ lưu lại tại ngôi đền có nhiều nét độc đáo này còn khá nhiều và rất có ý nghĩa về văn hóa, lịch sử. Nhiều hiện vật quý còn được lưu giữ tại đền. Tiêu biểu là hệ thống 24 pho tượng cổ, mỗi pho tượng đều được tạo tác công phu, với những đường nét tinh xảo, vừa uy linh vừa gần gũi, tưởng như người thợ xưa đã gửi gắm mong ước của người dân Đào Xá về những vị thần tiên cao xa nhưng rất đỗi hiền từ, luôn rộng lòng cứu giúp dân lành. Trong đền còn có nhiều đồ tế tự giá trị về lịch sử, văn hóa, điêu khắc như: kiệu Ngọc Bộ, ngai, cửa võng, câu đối; cùng với nhiều cổ vật quý hiếm như lọ độc bình, chóe, bát hương…
Đền Đào Xá được đánh giá là công trình kiến trúc nghệ thuật, là sự kết hợp hài hoà khéo léo giữa hiện đại với dân tộc, tạo nên một danh lam thắng tích giá trị và nổi tiếng trong vùng. Du khách đồng thời có thể dễ dàng quan sát và nhận ra những hình tượng quen thuộc từ các họa tiết trang trí sinh động ở cổng đền, như: hoa lá, chim muông, đám mây, sóng nước, cảnh rừng núi và những biểu tượng linh vật truyền thống: lưỡng long chầu nguyệt, nghê, rồng, gấu, cá… Qua cổng đền là tới 2 cầu xây đối xứng nhau qua hòn non bộ giữa hồ rất cân đối. Cạnh đó là nhà bia, bên trong treo bức đại tự “Thọ vô cương, đức chi cơ”. Ngăn cách giữa sân ngoài và sân trong đền là bức tường tạo hình cuốn thư trang trí rồng cuốn thuỷ.
Đền nằm ở trung tâm công trình, xây theo kiểu chữ nhị, cửa nhìn về hướng Đông Nam, tầm nhìn thẳng ra hòn non bộ và cổng chính. Nhà tiền tế gồm 5 gian, kiến trúc có tường hoa chắn mái, trên hai cột tường hoa đắp mâm ngũ quả, giữa là bức đại tự “Tam giác động” hai bên đại tự được biểu thị 2 hình tròn tượng trưng cho âm, dương…
Gian trung tâm tiền tế đắp núi cao 2m, trên đỉnh là toà tháp 3 tầng mái, đặt 24 pho tượng cổ, đỉnh núi là tượng Ngọc Hoàng, Nam Tào-Bắc Đẩu, dưới là quần thần bách thánh. Cửa võng được chạm rất tinh xảo, gồm nhiều đề tài phong phú: hoa sen cách điệu, dây nho, khóm trúc và tứ linh, tất cả đều được sơn son màu mận chín rực rỡ tôn nghiêm. Ở hậu cung, ban thờ giữa đặt kiệu Ngọc Bộ chạm trổ tinh xảo, thờ vọng Trần Hưng Đạo, hai gian bên thờ Phạm Ngũ Lão và thờ Mẫu.
Giống như nhiều di tích khác trên quê hương Hưng Yên anh hùng, trong các thời kỳ cách mạng, đền Đào Xá đã trở thành căn cứ cách mạng. Thời kỳ trước cách mạng tháng Tám năm 1945, đền Đào Xá là một trong những điểm cất giấu tài liệu bí mật của Đảng. Nhiều cuộc mít tinh hội họp lớn của xã đã được tổ chức tại đền.
Trong những năm kháng chiến chống thực dân Pháp, đền Đào Xá luôn là chỗ dựa cho các cán bộ, du kích trước sự khủng bố, đàn áp của thực dân Pháp và tay sai, là nơi an toàn để che giấu, phát triển lực lượng du kích địa phương. Nhiều cán bộ của Đảng đã dựa vào đền và sự đùm bọc của nhân dân để hoạt động bí mật, giả làm người đi lễ bái che mắt địch, cất giấu tài liệu ở hòn non bộ được tiền nhân xây đắp công phu giữa hồ nước xanh trong khuôn viên đền và giặc không hề phát hiện được.
Bước vào cuộc kháng chiến chống Mỹ, cứu nước, đền Đào Xá trở thành nơi họp bàn của Quân khu 3 chống chiến tranh phá hoại của Mỹ và chi viện sức người, sức của cho chiến trường miền Nam. Sau đó, Bộ Y tế lại chọn đền Đào Xá làm địa điểm sơ tán cho xí nghiệp Dược phẩm. Giờ đây, trong đền còn dấu tích của căn hầm bí mật đã nuôi giấu cán bộ trong kháng chiến.
Vừa là địa chỉ độc đáo phục vụ đời sống tín ngưỡng, tâm linh cho người dân, vừa là nơi lưu giữ các giá trị văn hóa truyền thống, đền Đào Xá còn gắn liền với lịch sử địa phương và lịch sử dân tộc theo cách trung kiên như thế.