১৬৫৫ সালে গৌড়ীয় রীতিতে রাজবাড়ির বালিয়াকান্দী উপজেলার জামালপুর ইউনিয়নের নলিয়া গ্রামে জোড় বাংলা মন্দির ও বিগ্রহ নির্মাণ করেন রাজা সীতারাম রায়। দুটো মন্দির পাশাপাশি নির্মাণ করা হয় বলে এর এমন নাম। স্থানীয়দের মতে, রাজা সীতারাম বেলগাছিতে সোনায় গড়া মূর্তি দিয়ে দুর্গাপূজা করতে চেয়েছিলেন। নলিয়া গ্রামের এক কুমারকে তিনি মূর্তি তৈরির কাজ সঁপেন। কুমার মূর্তি গড়ার জন্য রাজার কাছে সোনা চান। কুমারের সোনা চুরির শঙ্কায় রাজা তাকে নিজ বাড়িতে গিয়ে মূর্তি বানাতে বলেন। এমন আচরণে কষ্ট পেয়ে সোনার মূর্তির পাশাপাশি একটি পিতলের মূর্তিও বানান কুমার। আর পুকুরে ঘষামাজার সময় মূর্তি দুটি অদলবদল করে ফেলেন। কিন্তু পূজা শুরুর আগে ঠিকই রাজার কাছে সত্যটা প্রকাশ করে ফেলেন তিনি। হিন্দু ধর্মমতে, এক মন্দিরে দুটি পূজা করার বিধান না থাকায় রাজা পিতলের মূর্তিটি কুমারের গ্রামে নিয়ে স্থাপন করতে বলেন এবং সেখানে নিজেই জোড় বাংলা মন্দির নির্মাণ করেন। এই মন্দিরকে কেন্দ্র করে তখন তিনি ৮টি মন্দির নির্মাণ করেন।