آیتاللهالعظمی سید محمود هاشمی شاهرودی در سال ۱۳۲۷ هجری شمسی در شهر نجف اشرف، در خاندانی سرشناس و مذهبی از سادات منسوب به حضرت امام حسین دیده به جهان گشود. ایشان از همان ابتدا در محیطی علمی پرورش یافت؛ پدر گرامیشان، مرحوم آیتالله سید علی حسینی شاهرودی، از شاگردان ممتاز و برجسته آیتاللهالعظمی خویی بودند که خدمات علمی ارزشمندی از خود به جای گذاشتند، از جمله تدوین و به رشته تحریر درآوردن مباحث اصولی و فقهی استاد خود.
ایشان پس از اتمام تحصیلات مقدماتی در مدرسه علویه نجف، بلافاصله به فراگیری علوم حوزوی روی آوردند. با توجه به سوابق علمی خانوادگی، استعداد فوقالعاده و پشتکار فراوان، توانستند در زمانی کوتاه، دوره سطح دروس حوزوی را با موفقیت پشت سر بگذارند. سپس، محضر درس آیتاللهالعظمی شهید سید محمدباقر صدر را درک نموده و سالیان متمادی در محضر ایشان، مبانی عمیق اجتهاد در رشتههای اصول و فقه را به طور کامل فرا گرفتند.
علاوه بر این، آیتالله هاشمی شاهرودی با جدیت تمام در جلسات درس سایر مراجع عالیمقام آن روز نجف اشرف، از جمله امام خمینی و آیتاللهالعظمی خویی، شرکت نموده و از خرمن دانش آنان بهرههای فراوانی بردند که این تلاش علمی، ایشان را برای مرجعیت و ایفای نقشهای کلیدی علمی و اجتماعی آینده آماده ساخت.