मुख्य मंदिर में माँ भद्रकाली की प्रतिमा के चरणों के नीचे ब्राह्मीलिपि में अनुमानतः अंकित है "महेन्द्र पाल राजे दशमी अनुष्ठान" इसका अभिप्राय है कि पाल वश के राजा महेन्द्र पाल प्रथम ने, जिसका शासन काल ९८८ से १०३८ ई. तक है, प्रतिमा का निर्माण कार्य ज्येष्ठ मास की दशवी तिथि को आरम्भ किया। महेन्द्र पाल बंगाल का शासक था जिसके अधीन मगध भी था और भदुली मगध का अंग था। माँ भद्रकाली की मूर्ति शिल्पकला में अनुपुम स्थान रखती है |
इसे जैनियों के १०वें तीर्थंकर शीतल नाथ का जन्म स्थल माना जाता है। शीतल नाथ का जोड़ा चरण चिन्ह पाषाण पर अंकित परिसर से मिला। उसी स्थल से एक मंजुषा में ताम्रभ्रपत्र भी मिला था जिस पर अंकित था 'शीतलनाथ'। जैन साहित्य के १०वे तीर्थ कर शीतला स्वामी का जन्म स्थान भदुली को ही कहा गया है। भदुली का परिवर्तित रूप भद्रकाली हुआ। गजेटियर में इसका नाम 'भदौली' अंकित है।
परिसर में बौद्ध स्तूप अवस्थित है। जिस पर भगवान बुद्ध की १००४ लघु एवं ४ बडी प्रतिमाएं उत्कीर्ण हैं। गौतम बुद्ध ने बुध्तव प्राप्ती के पूर्व यहाँ साधना की थी। उनका कालछठी शताब्दी ईसवी पूर्व था। भंते तिस्सा ने आज से पैंतीस वर्ष पहले प्रकाशित हुए बौद्ध विश्व दर्शन नामक पुस्तक का हवाला देते हुए बताया की इटखोरी के भदुली में बुद्ध के भ्रमण करने के कई प्रमाण मिले हैं।