स्वामीनारायण की इच्छा के अनुसार, स्वामीनारायण संप्रदाय के प्रशासन को दो गडियों में विभाजित किया गया है। नरनारायण देव गढ़ी और लक्ष्मीनारायण देव गड़ी। यह मंदिर नारनारायण देव गाडी का मुख्यालय है। स्वामीनारायण संप्रदाय के इस पहले मंदिर के निर्माण के लिए भूमि ब्रिटिश शाही सरकार द्वारा उपहार में दी गई थी। स्वामीनारायण ने व्यक्तिगत रूप से इस तीर्थ स्थान के निर्माण का कार्य आनंदानंद स्वामी को सौंपा था।
यह स्वामीनारायण संप्रदाय का पहला मंदिर था जिसका निर्माण पवित्र बर्मा-सागौन में शास्त्र के नियमों के अनुसार जटिल नक्काशी और मूर्तिकला कला के साथ देवताओं, शुभ प्रतीकों और स्वयंसिद्ध धर्म और भारतीय संस्कृति का प्रतिनिधित्व करने वाले धार्मिक प्रतीकों के साथ किया गया था। मंदिर को गुजरात और भारत के सामाजिक-धार्मिक इतिहास में एक मूल्यवान सांस्कृतिक विरासत माना जाता है। एक ब्रिटिश अधिकारी, डनलप स्वामीनारायण और उनके अनुयायियों की गतिविधियों से इतने प्रभावित हुए कि उन्होंने इस मंदिर के निर्माण के लिए सरकार को अहमदाबाद के कालूपुर क्षेत्र में 5,000 एकड़ भूमि दी।
जब मंदिर बनकर तैयार हुआ तो अधिकारी मंदिर से इतना प्रभावित हुआ कि उसने मंदिर को 101 तोपों की सलामी दी। जब ब्रिटिश सरकार कालूपुर में एक रेलवे स्टेशन बनाना चाहती थी, तो मंदिर ने उस जमीन का हिस्सा लौटा दिया जहां आज कालूपुर रेलवे स्टेशन है। सरकार ने नारायणनगर गांव में 1,000 एकड़ (4.0 किमी) जमीन देकर मंदिर को मुआवजा दिया। यद्यपि मंदिर के ब्रिटिश सरकार के साथ बहुत अच्छे संबंध थे, मंदिर में लकड़ी की नक्काशी का कुछ हिस्सा 1857 के विद्रोह को दर्शाता है, जिसे अक्सर भारत का पहला स्वतंत्रता संग्राम कहा जाता है।
बर्मा सागौन की लकड़ी पर आधारित इसकी वास्तुकला के साथ, प्रत्येक रंगीन मेहराब और ब्रैकेट एक चमकदार अलग छाया है, कुछ ऐसा जो अधिकांश स्वामीनारायण मंदिरों में देखा जाता है। इंडिया गाइड गुजरात की लेखिका अंजलि देसाई के अनुसार, मंदिर अपने सभी रंगों और भव्य नक्काशी के साथ एक परी कथा जैसा दिखता है जो हर लकड़ी के ब्रैकेट, स्तंभ और मेहराब को सुशोभित करता है। दिवाली के अगले दिन लाखों लोग मंदिर में दर्शन के लिए आते हैं। मंदिर में एक बहुमंजिला गेस्टहाउस है जो वातानुकूलित है और इसके परिसर में एक पूरी तरह सुसज्जित चिकित्सा क्लिनिक है।