धार्मिक बाबतीत गोपाळराव हे अज्ञेयवादी होते. रानड्यांची धार्मिक वृत्ती, ईश्वराविषयी अत्यंत भक्ती व निस्सीम प्रेम, त्यांची ती एक प्रकारची आतुरता गोखल्यांत नव्हती. तरी पण त्यांच्यामध्ये एक प्रकारचा गूढपणा होता. सरोजिनीबाई म्हणते :- 'He had also an almost romantic curiosity towards the larger aspects of life and death and destiny and a quick apprehension of the mysterious forces that govern the main springs of human feeling and experience', आध्यात्मिक भावना त्यांस होती. नैतिक भावनांनी त्यांचे आयुष्य- त्यांचा जीवनक्रम आक्रमिला होता. ईश्वराविषयी त्यास अज्ञातता होती. परंतु नैतिक कल्पनात व त्या आचरणात आणण्यात ते अग्रेसर होते. याच नीतिमत्तेचा त्यांनी समाजातही प्रसार केला; आणि राजकारणातही नीतिमत्ता असली पाहिजे असे त्यांचे मत असे व त्यासाठी ते मन:पूर्वक झटले. माझ्या मनावर दादाभाई, रानडे व गांधी या तीन व्यक्तींच्या चारित्र्याचा आध्यात्मिकरीत्या परिणाम झाला असे ते म्हणत. अर्थातच त्यांची नीतिमत्ता सखोल होती. वामनराव जोशी यांनी आपल्या धर्म व तत्त्वज्ञान या ग्रंथात अशा मनुष्यासही धार्मिक मनुष्य म्हटले आहे. ज्या माणसाला असे एक ध्येय असते की त्यासाठी तो प्राणही देईल, ज्याकरिताच तो जगतो व ज्यामुळे त्याला आयुष्य सार्थकी लागले असे वाटते, तो मनुष्य धार्मिकच समजला पाहिजे. अशा दृष्टीने गोपाळराव हे धार्मिक कोटीतले, अत्यंत आणीबाणीच्या वेळीही नीतीनेच वागणारे, शत्रूशी वागताना देखील सत्याचाच मार्ग अवलंबिणारे असे नीतिरत थोर पुरुष होत यात शंका नाही. म्हणूनच पुष्कळ लोक त्यांस 'A saintly Politician' असे म्हणत. परंतु अज्ञेयवादी गोखले हळूहळू परमेश्वरावर विश्वास ठेवणारे आतून होत होत. १९०६ किंवा १९०७ मध्ये एकदा इंडियन सोशल रिफॉर्मरचे संपादक कलकत्त्यास गोखल्यांच्या बि-हाडी त्यांस भेटावयास गेले होते. त्यांच्या टेबलावर एक पेपरवेट होते. त्याच्यावर 'God is love'. ईश्वर प्रेमस्वरूप आहे असे लिहिलेले होते. गोखले अज्ञेयवादी आहेत हे संपादकास माहीत असल्यामुळे ते गोपाळरावांस म्हणाले, 'हे काय?' 'शेवटी मी या विचाराचा झाला आहे' असे गोपाळराव म्हणाले. (That is what he had come to believe). मुंबईस आल्यावर या संपादकांनी गु. डॉ. भाण्डारकर यांच्याजवळ ही गोष्ट काढिली. तेव्हा भाण्डारकर म्हणाले, 'रानडे मजजवळ म्हणाले होते की, गोखल्यांच्या ईश्वरविषयक विचारात फरक पडला आहे आणि ते तसे जाहीरही करणार आहेत. परंतु त्यांनी आपल्या या बदललेल्या विचारांचा कोठे जाहीर रीतीने उल्लेख केला नाही. १९०२ पासून जेव्हा ते कलकत्त्याच्या कौन्सिलच्या बैठकीस जाऊ लागले तेव्हा तिकडील ब्राह्म समाजाच्या मतांचा त्यांच्यावर फार परिणाम झाला. याच सुमारास ते विवेकानंदांचे वगैरे ग्रंथ वाचीत हते. २६ जुलै १९०२ मध्ये इंडियन सोशल रिफॉर्मरमध्ये विवेकानंदांवर एक लेख आला होता. तो गोखल्यांस फार आवडला. ते लिहितात :- 'I wanted to write and tell you sometime ago, that I read your article on Vivekanand with great pleasure. During my stay in Calcutta I came to understand his aims and aspirations much better than before and you exactly expressed my feelings in your article.' गोखल्यांचा व ब्राह्मसमाजातील घरंदाज घराण्यातील पुरुषांचा सतत दहा वर्षे परिचय झाला आणि त्यांच्या धार्मिक विचारांत क्रांती झाली असे म्हणावयास हरकत नाही.