आम्बेडकर के दादा नाम मालोजी सकपाल था, तथा का पिता नाम रामजी सपकाल और माता का नाम भीमाबाई थी। 1906 में आम्बेडकर जब पाँच वर्ष के थे तब उनकी माँ की मृत्यू हुई थी। इसलिए उन्हें बुआ मीराबाई संभाला था, जो उनके पिता की बडी बहन थी। मीराबाई के कहने पर रामजी ने जीजाबाई से पुनर्विवाह कर दिया, ताकि बालक भीमराव को माँ का प्यार मिल सके। प्रकाश, आनंदराज तथा भीमराव यह तिनों यशवंत आम्बेडकर के पुत्र हैं।
आम्बेडकर जब पाँचवी अंग्रेजी कक्षा पढ रहे थे, तब उनकी शादी रमाबाई से हुई। रमाबाई और भीमराव को पाँच बच्चे भी हुए - जिनमें चार पुत्र: यशवंत, रमेश, गंगाधर, राजरत्न और एक पुत्री: इन्दु थी। किंतु 'यशवंत' को छोड़कर सभी संतानों की बचपन में ही मृत्यु हो गई थीं।
आम्बेडकर तीन महान व्यक्तियों को अपना गुरु मानते थे। उनके पहले गुरु थे तथागत गौतम बुद्ध, दूसरे थे संत कबीर और तीसरे गुरु थे महात्मा ज्योतिबा फुले।