خلیفہ اول حضرت ابوبکر ؓ نے امر بن عاص ؓ ، یزید بن ابو سفیان ؓ اور شرابیل بن حسن ؓ کی قیادت میں تین دستے تیار کر کے انھیں شام کی طرف روانہ کیا۔ہر لشکر میں تین ہزار مجاہدین شامل تھے مجاہدین نے سرحدوں پر چھوٹی چھوٹی جھڑپوں میں کامیابیاں حاصل کیں۔ رومی شہنشاہ نے اپنے بھائی تھیوڈورس کی سربراہی میں مسلمانوں کی پیش قدمی روکنے کے لئے ایک بڑی فوج روانہ کی۔خلیفہ ابوبکر ؓ نے خالد بن ولید ؓ کو ایرانی سرحدوں سے شام پہنچنے اور وہاں قیادت سنبھالنے کا حکم جاری کیا۔ خالد بن ولید ؓ نے اپنے ۹۰۰ ساتھیوں کے ہمراہ ایران اور شام کے درمیان صحرا کو ریکارڈ ۱۸ دنوں میں عبور کیا پیاس اور تھکن کے باوجود یہ دلیر اور نڈ ر فرز ندِ اسلام یکایک دمشق کی فصیل کے سامنے نمودار ہوئے۔ تھیوڈورس نے Ajnadain میں مسلمانوں کا مقابلہ کیا خالد بن ولید ؓ کی صلاحیتوں اور دلیری کے باعث تھیوڈورس کو فیصلہ کن شکست ہوئی شکست خوردہ شاہی فوج نے یروشلم میں پناہ حاصل کی مدد کے تمام راستے بند ہوجانے کے بعد انہوں نے اس شرط پر کہ حضرت عمر ؓ بذات خود آکر ان کی اطاعت کی درخواست قبول کریں ہتھیار ڈالنے کی پیشکش کر دی۔ حضرت عمر ؓ ۶۳۷ء یا ۶۳۸ء میں یروشلم اور شام گئے اور اس چبوترے پرکھڑے ہو کر جہاں کسی وقت مندر ہوا کرتا تھا اس کا ملبہ ہٹانے اور مسجد کی تعمیر کا حکم جاری کیا۔