هنگام ورود پیامبر اکرم(ص) به مدینه، تمامی طوایف و قبایل از ایشان درخواست کردند تا به خانه‌هایشان وارد شوند؛ اما پیامبر(ص) مهار شتر را رها کرده و فرمودند: این شتر مأمور است و می‌داند مرا کجا فرود آورد. شتر در میان انبوه استقبال‌کنندگان حرکت کرد و در کنار خانهٔ ابوایوب انصاری که از فقیرترین افراد مدینه بود نشست. پیامبر(ص) پیاده شدند و جمعیت زیادی اطراف ایشان را گرفتند و هرکس اصرار می‌کرد که حضرت را به خانهٔ خود ببرد. در این میان، مادر ابوایوب وسایل سفر پیامبر(ص) را به خانه‌اش برد. وقتی از محل وسایل پرسیده شد، گفتند مادر ابوایوب آن‌ها را برده است. پیامبر(ص) فرمودند: المرء مع رحله و به این ترتیب، به خانهٔ ابوایوب وارد شده و تا زمان ساخت مسجد و حجرهٔ مبارک، در منزل او سکونت داشتند.
ابوایوب انصاری با برخورداری از ایمان قوی، تقوا، بردباری در مشکلات، حضور مستمر در جبهه‌های نبرد، عشق و ارادت کامل به اهل‌بیت و پیروی از امام علی(ع) پس از رحلت پیامبر(ص)، از جایگاه والایی در میان یاران پیامبر برخوردار بود. این چهرهٔ فداکار و مخلص، از همان اولین روزهای ورود پیامبر(ص) به مدینه، خانه و زندگی ساده‌اش را تقدیم ایشان کرد و به‌شدت مورد احترام و عنایت پیامبر(ص)، امام علی(ع)، اصحاب و تابعین قرار گرفت؛ تا جایی که پیامبر(ص) برای مادرش دعا کردند و چشمان نابینای او شفا یافت. هنگامی که امیرمؤمنان علی(ع) زمام امور را به دست گرفت، عطای او را پنج برابر افزایش داد و زمانی که ابن‌عباس تمام دارایی خود را –که حدود چهل هزار گزارش شده– به احترام خدمت ابوایوب به پیامبر(ص)، به او واگذار کرد.
ابوایوب از اصحاب امیرمؤمنان علی(ع) بود و پس از بازگشت از صفین می‌گفت: پیامبر خدا(ص) ما را به جنگ با ناکثین (اصحاب جمل)، قاسطین (سپاه معاویه) و مارقین (خوارج) فرمان داد؛ با دو گروه نخست جنگیدم و به خواست خدا با گروه سوم نیز خواهم جنگید. این خانه در طول تاریخ تحولاتی را پشت سر گذاشت؛ ازجمله مدرسه‌ای به نام شهابیه برای مذاهب چهارگانهٔ اهل‌سنت در آن بنا شد و سرانجام در اواخر قرن سیزدهم هجری، در آنجا مسجدی ساختند و بر دیوار جنوبی آن سنگ‌نوشته‌ای نصب کردند که با خط زرین نوشته شده بود: هذا بیت موفد النبی(ص) سنه ۱۲۹۱ق. این خانه در جنوب شرقی مسجدالنبی قرار داشت و در جریان توسعهٔ دوم سعودی در اوایل قرن پانزدهم هجری تخریب شد.
