भारतीय जनसंघ विपक्षातला प्रबळ घटक असूनही तो राष्ट्रीय काँग्रेसला सत्तेवरून दूर सारू शकला नाही. दरम्यान नव्याने स्थापन झालेला काँग्रेस (आय) (Congress(I)) पक्ष सत्तेवर आला. तदनंतर १९७५ साली इंदिरा गांधी यानी देशात आणीबाणी जाहीर केली. राष्ट्रीय स्वयंसेवक संघ आणि भारतीय जनसंघ यांनी आणीबाणीला विरोध करणाऱ्या विविध पक्ष आणि घटकांसोबत हातमिळवणी केली. याच दरम्यान त्यांना विरोधाबद्दल तुरुंगवास भोगावा लागला. १९७७ मधे इंदिरा गांधी यानी राजीनामा दिला. यानंतर होणाऱ्या निवडणुकांसाठी भारतीय जनसंघाने अनेक सामाजिक आणि प्रादेशिक पक्षांसोबत जनता पार्टीची निर्मिती केली. जनता पार्टीला निवडणुकांत बहुमत प्राप्त होऊन मोरारजी देसाई याच्या नेतृत्वाखाली सरकार स्थापन झाले. वाजपेयी हे नवी दिल्ली येथून निवडून आले आणि परराष्ट्रमंत्री पदाची जबाबदारी त्यानी स्वीकारली.
या दोन वर्षाच्या कारकिर्दीत वाजपेयी १९७९मध्ये चीन भेटीवर गेले. १९६२च्या युद्धानंतर दोन देशांदरम्यान संबंध सुधारण्याचा हा प्रयत्न होता. त्यांनी नंतर पाकिस्तानला सुद्धा भेट दिली. १९७१च्या युद्धानंतर भारत व पाक दरम्यान चर्चा आणि व्यापार ठप्प होता. वाजपेयी यानी Conference on Disarmament (निःशस्त्रीकरण परिषदे)मध्ये देशाचे प्रतिनिधित्व केले आणि भारताच्या अणु-कार्यक्रमाचे जोरदार समर्थन केले. १९७७च्या संयुक्त राष्ट्रांच्या आमसभेत त्यांनी हिंदीतून भाषण केले. अखेर १९७९मध्ये राष्ट्रीय स्वयंसेवक संघावर सरकारने केलेल्या कारवाईमुळे त्यांनी राजीनामा दिला.