मंदिर कृष्णा नदी के किनारे, इंद्रकीलाद्री पहाड़ी पर स्थित है। कालिका पुराण, दुर्गा सप्तशती और अन्य वैदिक साहित्य में इंद्रकीलाद्री पर देवी कनक दुर्गा के बारे में उल्लेख किया गया है और उन्होंने त्रिदेव कल्प में देवी को स्वायंभु, (स्वयं प्रकट) बताया है।कनक दुर्गा को देवी शाकम्भरी का रूप भी माना जाता है यहाँ शाकम्भरी उत्सव मनाया जाता है देश मे माँ शाकम्भरी का मुख्य मंदिर उत्तर प्रदेश के सहारनपुर के निकट शिवालिक पर्वत श्रृंखला मे है शाकम्भरी देवी ही कनक दुर्गा के नाम से विजयवाड़ा मे विख्यात है।
मंदिर से जुड़ी पौराणिक कथा है-राक्षसों ने अपने बल-प्रयोग द्वारा पृथ्वी पर तबाही मचा दी थी। तब राक्षसों को मारने के लिए माता पार्वती ने अलग-अलग रूप धारण किए। उन्होंने शुंभ और निशुंभ को मारने के लिए कौशिकी, महिषासुर के वध के लिए महिषासुरमर्दिनी व दुर्गमासुर के वध के लिए शाकम्भरी देवी के रूप धरे। कनक दुर्गा ने अपने श्रद्धालु कीलाणु को पर्वत बनकर स्थापित होने का आदेश दिया, ताकि वह वहाँ वास कर सकें। महिषासुर का वध करते हुए इंद्रकिलाद्रि पर्वत पर माँ आठ हाथों में अस्त्रयुक्त हो शेर पर सवार हैं।
पास की ही एक चट्टान पर ज्योतिर्लिंग के रूप में शिव भी स्थापित हैं। ब्रह्मा ने यहाँ शिव की मलेलु (बेला) के पुष्पों से आराधना की थी, इसलिए यहाँ स्थापित शिव का एक नाम मलेश्वर स्वामी पड़ गया। कहते हैं, यहाँ पर इंद्र देव भी भ्रमण करने आते हैं, इसलिए इस पर्वत का नाम इंद्रकिलाद्रि पड़ गया। विशेष यह भी है कि देवता के बाईं ओर देवियों को स्थापित करने के बजाय यहाँ मलेश्वर देव की दाईं ओर माता स्थापित हैं। विजयवाड़ा के केंद्र में स्थित यह मंदिर रेलवे स्टेशन से दस किलोमीटर दूर है। एक बार पृथ्वी पर लगातार सौ वर्ष तक वर्षा न हुई।
तब अन्न-जल के अभाव में समस्त प्रजा मरने लगी। इस कारण चारों ओर हाहाकार मच गया। मस्त जीव भूख से व्याकुल होकर मरने लगे। उस समय समस्त मुनियों ने मिलकर हिमालय पर्वत पर देवी भगवती की उपासना की। जिससे भुवनेश्वरी जी ने शताक्षी देवी नाम से अवतार लिया और उनकी कृपा से वर्षा हुई। इस अवतार में महामाया ने जलवृष्टि से पृथ्वी को हरी शाक-सब्ज़ी और फलों से परिपूर्ण कर दिया। जिस से पृथ्वी पर शाकम्भरी देवी के नाम से विख्यात हुई दुर्गमासुर का वध करने के कारण इनका एक नाम दुर्गा प्रसिद्ध हुआ।