Xét sách Thuyền Uyển Tập thì thấy chép rằng: Xưa ở triều vua Lê Đại Hành, có Khuông Việt đại sư người họ Ngô thường đến chơi làng Bình Lỗ, núi Vệ Linh, ưa cái cảnh trí u thắng ở đó mới lập am mà ở. Một đêm về canh ba, sư mộng thấy một vị thần, mình mặc áo giáp vàng, tay bên hữu mang bảo tháp, theo sau có hơn mười người, dáng mặt dễ sợ, đến bảo Khuông Việt rằng:

- Ta là Tỳ Sa Môn Đại Vương, Thượng đế sắc qua đất nước Nam để phù hộ hạ dân, có nhân duyên với người nên ta đến đấy thúc báo.

Sư kinh khiếp tỉnh dậy, bỗng nghe trong núi có tiếng hát, lòng rất sợ hãi. Sáng ngày trong núi thấy có một cây đại thụ, cành lá rậm rạp xanh tốt, có thụy khí bao trùm lên trên. Sư bảo thợ đốn xuống, khắc gỗ làm tượng thần đúng như đã thấy trong mộng rồi lập đền miếu mà phụng sự.

Năm Thiên Phúc nguyên niên, binh Tống vào cướp phá, vua đã có nghe việc như thế mới sai quan đến đền thờ khẩn đảo. Lúc bấy giờ, binh Tống đóng tại làng Tây Kết, quân đội hai bên chưa đánh nhau, quân Tống bỗng thấy một người trổi dậy giữa sóng nước, cao hơn mười trượng, tóc đầu dựng đứng, trừng mắt mà nhìn, thần quang rực rỡ. Binh Tống thấy vậy cả kinh lùi giữ ngã ba sông, lại gặp phải sóng gầm sét nổ, giao xà long miết nổi lên làm dữ, binh Tống thấy như thế lại càng kinh khủng chạy vỡ tán loạn; tướng nhà Tống là Quách Tiến đem binh trở về Tống. Vua khen là anh linh, lập thêm đền thờ để sùng phụng. Có kẻ cho là sau khi Đổng Thiên Vương dẹp yên giặc Ân rồi, cỡi ngựa đến chỗ cây dung núi Vệ Linh, cởi áo mũ bay lên trời, đến nay đời còn bảo là "dị phục xuân thu" hễ có cầu cúng, thì dùng trà bánh, đồ chay mà thôi.

Triều nhà Lý sai sứ đến đền cầu đảo, lập miếu ở làng phía Đông hồ Tây, tôn làm Phúc Thần Đại Vương có chép tại kỷ tịch.