دانشنامه اسلامی
آیت الله روحانی نخستین مراحل تحصیلی خود را که مشتمل بر علم صرف، علم نحو، علم بلاغت و منطق است را با مقداری از دروس سطح در زادگاه خود در نزد اساتید ومتخصصین در فن گذراند.
وی سپس در سال 1355ق به عراق سفر کرده و در کربلای معلی به مدت یک سال رحل اقامت افکند و در سطوح از بزرگان اساتید کربلا همچون علامه بزرگوار، آیت الله سید محمد هادی میلانی بهره برد.
وی پس از به پایان بردن دروس سطح در سال 1357ق به نجف اشرف سفر کرد. او در نجف اشرف از درس بزرگان حوزه و محققین آن عصر همچون مرحوم آیت الله شیخ محمد حسین غروی اصفهانی (مشهور به کمپانی)، آیت الله حاج شیخ محمد علی کاظمینی، آیت الله حاج شیخ محمدرضا آل یاسین و محقق گرانقدر آیت الله حاج شیخ محمد کاظم شیرازی بهره برد. وی همچنین چندی در درس آیت الله خوئی حاضر گردید.
آیت الله روحانی زمانی که به فراگیری دروس خارج فقه و اصول اشتغال داشت به تعلیم دروس سطوح عالیه نیز اشتغال داشت. وی قبل از رسیدن به 40 سالگی تدریس دروس خارج را آغاز نمود.