आम्बेडकर का जन्म सन 14 अप्रैल 1891 को ब्रिटिश भारत के मध्य भारत प्रांत (अब मध्य प्रदेश में) में स्थित नगर सैन्य छावनी महू में हुआ था। वे रामजी मालोजी सकपाल और भीमाबाई की १४ वीं व अंतिम संतान थे। उनका परिवार मराठी मूूल का था और वो आंबडवे गांव जो आधुनिक महाराष्ट्र के रत्नागिरी जिले में है, से संबंधित था। वे हिंदू महार जाति से संबंध रखते थे, जो अछूत कही जाती थी और इस कारण उनके साथ सामाजिक और आर्थिक रूप से गहरा भेदभाव किया जाता था। भीमराव आम्बेडकर के पूर्वज लंबे समय तक ब्रिटिश ईस्ट इंडिया कंपनी की सेना में कार्यरत थे और उनके पिता रामजी सकपाल, भारतीय सेना की महू छावनी में सेवा में थे और यहां काम करते हुये वो सुबेदार के पद तक पहुँचे थे। उन्होंने मराठी और अंग्रेजी में औपचारिक शिक्षा प्राप्त की थी।
अपनी जाति के कारण उन्हें सामाजिक प्रतिरोध का सामना करना पड़ रहा था। स्कूली पढ़ाई में सक्षम होने के बावजूद छात्र भीमराव को छुआछूत के कारण अनेका प्रकार की कठनाइयों का सामना करना पड़ रहा था। रामजी आम्बेडकर ने सन 1898 में जिजाबाई से पुनर्विवाह कर लिया। 7 नवम्बर 1900 को रामजी सकपाल ने सातारा की गव्हर्नमेंट हाइस्कूल (अब प्रतापसिंह हाइस्कूल) में अपने बेटे भीमराव का नाम "भिवा अंबावडेकर" दर्ज कराया। भिवा उनके बचपन का था, जो आगे भीमराव बना। आम्बेडकर का मूल उपनाम 'सकपाल' की बजाय 'आंबडवेकर' लिखवाया था, जो कि उनके आंबडवे गांव से संबंधित था। क्योंकी कोकण प्रांत के लोग अपना उपनाम (सरनेम) गांव के नाम से रखते थे, इसलिए आम्बेडकर के आंबडवे गांव से 'आंबडवेकर' उपनाम स्कूल में दर्ज किया गया। बाद में एक देवरुखे ब्राह्मण शिक्षक कृष्णा महादेव आंबेडकर जो उनसे विशेष स्नेह रखते थे, ने उनके नाम से 'आंबडवेकर' हटाकर अपना सरल 'आंबेडकर' उपनाम जोड़ दिया। आज वे आम्बेडकर नाम से जाने जाते हैं।
रामजी सकपाल परिवार के साथ मुंबई (तब बंबई) चले आये। अप्रैल 1906 में, जब भीमराव लगभग 15 वर्ष आयु के थे, तो नौ साल की लड़की रमाबाई से उनकी शादी कराई गई थी। तब वह पांचवी अंग्रेजी कक्षा पढ रहे थे।