गांधी व कांग्रेस की कटु आलोचना के बावजूद आम्बेडकर की प्रतिष्ठा एक अद्वितीय विद्वान और विधिवेत्ता की थी जिसके कारण जब, 15 अगस्त 1947 में भारत की स्वतंत्रता के बाद, कांग्रेस के नेतृत्व वाली नई सरकार अस्तित्व में आई तो उसने आम्बेडकर को देश के पहले क़ानून एवं न्याय मंत्री के रूप में सेवा करने के लिए आमंत्रित किया, जिसे उन्होंने स्वीकार कर लिया। 29 अगस्त 1947 को, आम्बेडकर को स्वतंत्र भारत के नए संविधान की रचना के लिए बनी संविधान की मसौदा समिति के अध्यक्ष पद पर नियुक्त किया गया। इस कार्य में आम्बेडकर का शुरुआती बौद्ध संघ रीतियों और अन्य बौद्ध ग्रंथों का अध्ययन भी काम आया।
ग्रैनविले ऑस्टिन ने 'पहला और सबसे महत्वपूर्ण सामाजिक दस्तावेज' के रूप में आम्बेडकर द्वारा तैयार भारतीय संविधान का वर्णन किया। 'भारत के अधिकांश संवैधानिक प्रावधान या तो सामाजिक क्रांति के उद्देश्य को आगे बढ़ाने या इसकी उपलब्धि के लिए जरूरी स्थितियों की स्थापना करके इस क्रांति को बढ़ावा देने के प्रयास में सीधे पहुंचे हैं।'
आम्बेडकर द्वारा तैयार किए गए संविधान के पाठ में व्यक्तिगत नागरिकों के लिए नागरिक स्वतंत्रता की एक विस्तृत श्रृंखला के लिए संवैधानिक गारंटी और सुरक्षा प्रदान की गई है, जिसमें धर्म की आजादी, छुआछूत को खत्म करना, और भेदभाव के सभी रूपों का उल्लंघन करना शामिल है। आम्बेडकर ने महिलाओं के लिए व्यापक आर्थिक और सामाजिक अधिकारों के लिए तर्क दिया, और अनुसूचित जातियों (एससी) और अनुसूचित जनजातियों (एसटी) और अन्य पिछड़ा वर्ग (ओबीसी) के सदस्यों के लिए नागरिक सेवाओं, स्कूलों और कॉलेजों में नौकरियों के आरक्षण की व्यवस्था शुरू करने के लिए असेंबली का समर्थन जीता, जो कि सकारात्मक कार्रवाई थी। भारत के सांसदों ने इन उपायों के माध्यम से भारत की निराशाजनक कक्षाओं के लिए सामाजिक-आर्थिक असमानताओं और अवसरों की कमी को खत्म करने की उम्मीद की। संविधान सभा द्वारा 26 नवंबर 1949 को संविधान अपनाया गया था। अपने काम को पूरा करने के बाद, बोलते हुए, आम्बेडकर ने कहा:
मैं महसूस करता हूं कि संविधान, साध्य (काम करने लायक) है, यह लचीला है पर साथ ही यह इतना मज़बूत भी है कि देश को शांति और युद्ध दोनों के समय जोड़ कर रख सके। वास्तव में, मैं कह सकता हूँ कि अगर कभी कुछ गलत हुआ तो इसका कारण यह नही होगा कि हमारा संविधान खराब था बल्कि इसका उपयोग करने वाला मनुष्य अधम था।
अनुच्छेद 370 का विरोध
आम्बेडकर ने भारत के संविधान के अनुच्छेद 370 का विरोध किया, जिसने जम्मू-कश्मीर राज्य को विशेष दर्जा दिया, और जिसे उनकी इच्छाओं के खिलाफ संविधान में शामिल किया गया था। बलराज माधोक ने कहा था कि, अम्बेडकर ने कश्मीरी नेता शेख अब्दुल्ला को स्पष्ट रूप से बताया था: "आप चाहते हैं कि भारत को आपकी सीमाओं की रक्षा करनी चाहिए, उसे आपके क्षेत्र में सड़कों का निर्माण करना चाहिए, उसे आपको अनाज की आपूर्ति करनी चाहिए, और कश्मीर को भारत के समान दर्जा देना चाहिए। लेकिन भारत सरकार के पास केवल सीमित शक्तियां होनी चाहिए और भारतीय लोगों को कश्मीर में कोई अधिकार नहीं होना चाहिए। इस प्रस्ताव को सहमति देने के लिए, मैं भारत के कानून मंत्री के रूप में भारत के हितों के खिलाफ एक विश्वासघाती बात होंगी, यह कभी नहीं करेगा। "फिर अब्दुल्ला ने नेहरू से संपर्क किया, जिन्होंने उन्हें गोपाल स्वामी अयंगार को निर्देशित किया, जिन्होंने बदले में वल्लभभाई पटेल से संपर्क किया और कहा कि नेहरू ने स्के का वादा किया था। अब्दुल्ला विशेष स्थिति। पटेल को अनुच्छेद पारित किया गया, जबकि नेहरू एक विदेश दौरे पर थे। जिस दिन लेख चर्चा के लिए आया था, आम्बेडकर ने इस पर सवालों का जवाब नहीं दिया लेकिन अन्य लेखों पर भाग लिया। सभी तर्क कृष्णा स्वामी अयंगार द्वारा किए गए थे।
समान नागरिक संहिता
मैं व्यक्तिगत रूप से समझ नहीं पा रहा हूं कि क्यों धर्म को इस विशाल, व्यापक क्षेत्राधिकार के रूप में दी जानी चाहिए ताकि पूरे जीवन को कवर किया जा सके और उस क्षेत्र पर अतिक्रमण से विधायिका को रोक सके। सब के बाद, हम क्या कर रहे हैं के लिए इस स्वतंत्रता? हमारे सामाजिक व्यवस्था में सुधार करने के लिए हमें यह स्वतंत्रता हो रही है, जो असमानता, भेदभाव और अन्य चीजों से भरा है, जो हमारे मौलिक अधिकारों के साथ संघर्ष करते हैं।
आम्बेडकर वास्तव में समान नागरिक संहिता के पक्षधर थे और कश्मीर के मामले में धारा 370 का विरोध करते थे। आम्बेडकर का भारत आधुनिक, वैज्ञानिक सोच और तर्कसंगत विचारों का देश होता, उसमें पर्सनल कानून की जगह नहीं होती। संविधान सभा में बहस के दौरान, आम्बेडकर ने एक समान नागरिक संहिता को अपनाने की सिफारिश करके भारतीय समाज में सुधार करने की अपनी इच्छा प्रकट कि। 1951 मे संसद में अपने हिन्दू कोड बिल (हिंदू संहिता विधेयक) के मसौदे को रोके जाने के बाद आम्बेडकर ने मंत्रिमंडल से इस्तीफा दे दिया। हिंदू कोड बिल द्वारा भारतीय महिलाओं को कई अधिकारों प्रदान करने की बात कहीं गई थी। इस मसौदे में उत्तराधिकार, विवाह और अर्थव्यवस्था के कानूनों में लैंगिक समानता की मांग की गयी थी। हालांकि प्रधानमंत्री नेहरू, कैबिनेट और कुछ अन्य कांग्रेसी नेताओं ने इसका समर्थन किया पर राष्ट्रपति राजेन्द्र प्रसाद एवं वल्लभभाई पटेल समेत संसद सदस्यों की एक बड़ी संख्या इसके खिलाफ़ थी। आम्बेडकर ने 1952 में बॉम्बे (उत्तर मध्य) निर्वाचन क्षेत्र में लोक सभा का चुनाव एक निर्दलीय उम्मीदवार के रूप मे लड़ा पर वह हार गये। इस चुनाव में आम्बेडकर को 123,576 वोट तथा नारायण सडोबा काजोलकर को 138,137 वोटों का मतदान किया गया था। मार्च 1952 में उन्हें संसद के ऊपरी सदन यानि राज्य सभा के लिए नियुक्त किया गया और इसके बाद उनकी मृत्यु तक वो इस सदन के सदस्य रहे।