بر اساس نقل قولهایی که از اخباری مانند فاکهی آورده شده است، این مسجد در بخش بالایی مکه، در مجاورت کوه و روبروی حجون و مسجدالحرس (مسجدالجن) قرار داشته است. اهمیت اصلی این مکان به روایاتی بازمیگردد که بر اساس آنها، این مسجد محلی است که معجزهای از پیامبر اکرم (صلی الله علیه وآله) رخ داده است؛ چنانکه نقل شده ایشان درخواستی از درختی در آن محل نمودند و آن درخت به اذن الهی از جای خود حرکت کرده و نزد ایشان آمد. همچنین ذکر شده که عبدالله بن عمر، صحابی پیامبر، هنگامی که به مکه مشرف میشد، تلاش میکرد در همان محلی که رسول خدا (صلی الله علیه وآله) توقف یا نماز خواندهاند، عبادت کند و به همین جهت، نزدیکی این مکان برایش اهمیت داشته است.
بنابر برخی منابع، از جمله توصیفاتی که زهیر کتبی در مورد وضعیت این مسجد ارائه داده، مکان تقریبی آن در نزدیکی مسجد الجن و در مسیر منتهی به حرم، حوالی میدان سلیمانیه که امروزه به پل سلیمانیه مشهور است تعیین شده است. همچنین در توصیفات قدیمیتر، منطقه بطحاء که محوطهای میان میدان معابده فعلی تا حوالی مسجدالجن بوده، به عنوان محل استقرار یکی از مساجد شجره ذکر شده است که در آنجا نیز احتمال اقامه نماز توسط رسول خدا (صلی الله علیه وآله) وجود داشته است. این مسجد به عنوان یکی از اماکنی که نماز خواندن در آن مستحب است و آثار پیامبر (صلی الله علیه وآله) در آن مشهود بوده، مورد توجه بوده است.