او  ادبیات فارسی و بخشی از صرف و نحو را در كودكی، نزد ملا محمد همامی، در «چرمهین» خواند. وی در اصفهان، بقیه مقدمات و سطوح را نزد حاج میرزا بدیع (متوفا: 1318 هـ ق)، قوانین اصول را نزد علامه آیت الله آقا سید محمدباقر درچه ای  (متوفا: 1342 هـ ق) و خارج اصول فقه را نزد سید ابوالقاسم دهكردی و حاج آقا منیر احمدآبادی (متوفا: 1342 هـ ق) آموخت. فلسفه، هیئت و ریاضیات را نزد جهانگیر خان قشقایی و آخوند ملا محمد كاشی فراگرفت. وی 4 سال به فراگیری اسفار نزد حاجی ملا اسماعیل درب كوشكی پرداخت. او برای ادامه تحصیلات، به عراق رفت و در درس میرزا محمد حسن شیرازی شركت كرد، تا به مقام اجتهاد نائل آمد. او شوق فراوانی نسبت به فراگیری دانش داشت. خودش در این باره می گوید: «از اول شب آماده مطالعه كتاب های علمی می شدم و مطالعه طول می كشید تا شام حاضر می شد و لذت مطالعه كتاب، مهلت به صرف شام نمی داد و غذا سر می شد و گاهی مطالعه طول می كشید تا صبح می شد و بعد از تناول غذای شب و ادای فریضه صبح، در مجلس درس حاضر می شدم و با شوقِ علم آموزی اعتنا به كمبود خواب نداشتم». آقا رحیم ارباب از حیث تبحر در ادبیات، در زمان خود كم نظیر بودند. تمام اشعار سیوطی را در سن نود و چند سالگی از حفظ داشتند و نیز كتاب شرح منظومه ملا هادی سبزواری را، همین ملاهادی كتابی دارد در فقه به نام «نبراس» كه هم نظم است و هم نثر و موضوع آن فلسفه احكام است.