بر اساس گزارش‌های کهن تاریخی، در مورد سال شهادت امام سجاد(ع) میان مورخان و محدثان اختلاف نظر وجود دارد. شیخ مفید و کلینی در کتاب اصول کافی سال ۹۵ هجری قمری را ذکر کرده‌اند، در حالی که برخی دیگر از سیره‌نویسان، همچون اربلی در کشف‌الغمه، سال ۹۴ هجری را ثبت نموده‌اند. در تعیین روز دقیق شهادت نیز اقوال متفاوتی وجود دارد؛ برخی آن را دوازدهم محرم و عده‌ای دیگر، از جمله کفعمی در مصباح، روز شنبه بیست‌ودوم محرم دانسته‌اند. مشهور میان اصحاب آن است که امام به دستور هشام بن عبدالملک و با تحریک ولید بن عبدالملک مسموم شد.
امام سجاد(ع) در ۵۷ سالگی و پس از ۳۵ سال امامت، رحلت فرمودند. در لحظات پایانی عمر، حضرت بیهوش شدند و پس از به‌هوش آمدن، آیاتی از سوره‌های واقعه و فتح را تلاوت کردند. سپس با بیان آیه «الْحَمْدُ لِلَّهِ الَّذِی صَدَقَنَا وَعْدَهُ…» سپاس خدا را به جای آوردند و به سوی آرامگاه ابدی شتافتند. بر اساس روایتی از امام باقر(ع)، امام سجاد(ع) وصیت کرده بودند که ایشان را در کفنی از جنس پنبه و بدون استفاده از مُشک دفن کنند.
تشییع پیکر مطهر امام سجاد(ع) با حضور انبوهی از مردم مدینه همراه بود، به‌گونه‌ای که پیش از آن، چنین جمعیتی در این شهر دیده نشده بود. مزار نورانی آن حضرت در قبرستان بقیع و در جوار عموی گرامیشان، امام حسن مجتبی(ع)، و نیز فرزندان بزرگوارشان، امام باقر(ع) و امام صادق(ع)، قرار دارد. این مکان، همواره زیارتگاه عاشقان و پیروان اهل‌بیت(ع) بوده است.