ഇ.എം.എസ് സെക്രട്ടറിയായിരിക്കുമ്പോള് കേരള പ്രദേശ് കോണ്ഗ്രസ് കമ്മിറ്റിയുടെ പ്രസിഡന്റായിരുന്നു അബ്ദുള് റഹിമാന് സാഹിബ്.
ഇന്ത്യയുടെ വിഭജ-നം ഒരിക്കലും അദ്ദേഹം ആഗ്രഹിച്ചിരുന്നില്ല. രാജ-്യം വിഭജ-ിക്കുന്ന കാര്യം ഒരിക്കലും അംഗീകരിക്കരുതെന്ന് അദ്ദേഹം കോണ്ഗ്രസ് നേതാക്കളോട് ആവശ്യപ്പെട്ടിരുന്നു. മതേതര ഇന്ത്യയ്ക്ക് വേണ്ടി വാദിച്ച അബ്ദുള് റഹിമാന് സാഹിബിനെ അക്കാലത്ത് എതിര്ത്തവരെല്ലം പിന്നീട് ഖേദിച്ചിട്ടുണ്ട്.
31 -ാം വയസ്സില് അദ്ദേഹം വിഭാര്യനായി. രണ്ട് വര്ഷം മാത്രമേ ഭാര്യ ജ-ീവിച്ചിരുന്നുള്ളു. എന്നിട്ടും അദ്ദേഹം പുനര്വിവാഹം ചെയ്തില്ല. മക്കളില്ലയിരുന്നുവെങ്കിലും കെ എ കൊടുങ്ങല്ലൂര് എന്ന് വിഖ്യാതനായ സാഹിത്യകാരനെ വളര്ത്തി വലുതാക്കിയത് അബ്ദു റഹ്മാന് സാഹിബായിരുന്നു.
അദ്ദേഹം അടിയുറച്ച മതവിശ്വാസിയായിരുന്നു. എന്നിട്ടും സ്വസമുദായത്തിലെ പ്രമാണിമാര്ക്ക് അദ്ദേഹം അനഭിമതനായി.
1921 ലെ മലബാര് കലാപത്തിന് ശേഷം മുസ്ളീങ്ങളായ മാപ്പിളമാരെ ബ്രിട്ടീഷ് ഭരണകൂടം തെരഞ്ഞുപിടിച്ച് ആക്രമിച്ചപ്പോള് അതിനെതിരെ പ്രതികരിക്കാനും പ്രശ്നത്തില് ഗാന്ധിജ-ിയെ ഇടപെടീക്കാനും കഴിഞ്ഞത് അബ്ദുള് റഹിമാന് സാഹിബിന്റെ ശ്രമഫലമായിട്ടായിരുന്നു. എന്നിട്ടും അദ്ദേഹം കാഫിറാണെന്ന് പ്രമാണിമാര് ഹത് വ ഇറക്കി.