Ketegasan beliau dibuktikan dengan tetap mengirim pasukan Usamah ke al Balqa yang berada di Syam dimana Zaid bin Haritsah, Ja’far, dan Ibnu Rawahah terbunuh. Misi pasukan Usamah dipersiapkan Rasulullah SAW untuk menaklukan daerah tersebut, penaklukan dimana kalimat “Laa ilaha ilallah muhammad rasulullah” harus ditegakan. Ketika itu orang-orang Arab atau suku-suku Arab banyak yang murtad sejak mendengar berita Rasulullah SAW sakit.
Setelah jasad Rasulullah SAW dimakamkan, dan khutbah pelantikan selesai. Saif bin Umar at-Tamimi berkata, Diriwayatkan dari Abu Dhamrah dari bapaknya dan Ashim bin Adi, berkata “Salah seorang pesuruh Abu Bakar berseru di tengah-tengah manusia. ‘Hendaklah pasukan Usamah segera berangkat, ingatlah tidak seorangpun dari pasukan Usamah yang boleh tinggal di Madinah, melainkan harus pergi ke Jurf pangkalan militer pasukan Usamah‘.’
Ketegasan beliau yang lain tergambar dalam menyikapi usulan penggantian pemimpinan pasukan Usamah. Saif bin Umar meriwayatkan dari Abu Dhamrah, Abu Amru dan lain-lainnya dari al-Hasan al-Basri, ketika Abu Bakar bersiap-siap memberangkatkan pasukan Usamah, sebagian Anshar berkata kepada Umar, “Katakan padanya agar mengganti dan tidak menunjuk Usamah sebagai pimpinan kita, maka Umar segera melaporkan hal itu kepada Abu Bakar. Maka diceritakan bahwa Abu Bakar RA menarik janggut Umar dan berkata, “Payah-payah ibumu mengandungmu wahai Umar bin al-Khaththab, bagaimana mungkin aku mengganti pimpinan yang telah ditunjuk oleh Rasulullah SAW. Kemudian Abu Bakar segera bangkit dan berjalan sendiri menuju Jurf untuk memeriksa pasukan Usamah dan memerintahkan mereka untuk mulai berjalan, sementara beliau turut berjalan bersama mereka. Waktu itu Usamah menaiki kendaraan dan Abdurrahman memegang tali kekang unta Abu Bakar ash-Shiddiq. Usamah berkata, “Wahai khalifah Rasulullah, naiklah ke atas kendaraan ini atau aku yang turun!” Abu Bakar menjawab, “Demi Allah aku tidak akan naik dan engkau tidak boleh turun!” Setelah itu Abu Bakar memohon agar Umar bin al-Khaththab dibebastugaskan untuk menemaninya di Madinah -sebelumnya Umar termasuk satu dari anggota pasukan Usamah- maka Usamah pun mengabulkannya.
Demikianlah ketegasan khalifah pertama, terhadap orang-orang yang dipimpinnya setelah Rasulullah SAW wafat dalam menegakan kalimat Allah. Kepemimpinan yang tak tergoyahkan, seorang pimpinan yang selalu berdiri dipijakan yang hakiki dengan rendah hati, dan begitu setianya beliau kepada Rasulullah SAW dan meneladaninya.
Ketegasan Islam ini jarang disampaikan para ulama sekarang, tapi toleransi Islam-lah yang selalu dielu-elukan. Sehingga ketegasannya sedikit demi sedikit menjadi redup dan kemudian hilang, Islam memang sangat toleran tapi juga tegas. Hanya saja ketegasan tersebut kurang diterima oleh umat Islam sendiri. Ketika sifat toleransinya selalu dibesar-besarkan oleh para ulama saat ini, dimana ketegasan tidak dimunculkan, maka terjadilah ketidakseimbangan yang membuat kelemahan dalam umat Islam itu sendiri. Umat Islam sekarang dihinggapi penyakit wahhan, yaitu cinta kepada dunia dan takut kepada kematian.