Halife Osman, ona ve yönetimine karşı muhalefet gittikçe sertleştiren Hz. Ebuzer'i çağırıp, yumuşatmaya çalıştı. Ama ümidi suya düştü. Zira Hz. Ebuzer, onu görür görmez şöyle dedi: "Sen haşin bir şekilde davranıyor, işkence ediyorsun."
Bu sözler Ebuzer'in, davasından vazgeçmeyeceğini ifade ediyordu. Osman'ı her türlü anlaşmadan ümitsiz bıraktı ve onu, Ebuzer'i sürgün etme kararında sabit kıldı. Onun için çekinmeden şöyle dedi:
"Medine'den çıkmalısın." "Ben de senden bıkmışım ve seninle bir şehirde kalmak istemiyorum. Ama nereye gideyim?" "Nereye istersen gidebilirsin." "Şam'a döneyim; zira orası Allah'ın düşmanlarıyla cihad yeridir." "Ben seni Şam'dan döndürdüm ki orayı ifsat etmeyesin diye. Bir daha nasıl seni oraya göndereyim?" "Irak'a gideyim mi?" "Hayır, Irak'a gidecek olursan bir toplumun içine gitmiş olursun ki onlar halifeliği kabul etmiyorlar." "Mısır'a gideyim mi?" "Hayır." "Peki nereye gideyim?" "Sahraya gitmelisin ki halk ile ilişkin kesilsin." "Sahradan, İslam merkezine hicret ettikten sonra yine sahraya mı döneyim?" "Evet!" "Peki, Necd sahrasına gidiyorum." "Hayır, Medine'nin uzak doğusuna, Rebeze sahrasına gideceksin ve oradan bir tarafa ayrılmayacaksın!" (ed-Derecatü'r-Rafia, s.245; Şerh-i Nehcü'l-Belağa, İbn-i Ebil Hadid,  c.8, s.260).
Ebuzer, Rebeze'nin ismini duyunca dedi ki: "Allahuekber! Resûlullah (s.a.a), doğru haber vermiştir. Resulullah (s.a.a), önceden başıma gelecek her şeyden haber vermişti." "Ne haber vermişti?" "Beni, Mekke ve Medine'de bırakmayacaklarını ve sonunda Rebeze'de öleceğim haberini vermişti." (Murucü'z-Zeheb, c.2, s.350).
Resûlullah'ın (s.a.a) yarenlerinden olan, doğruluğuyla övülen Hz. Ebuzer'e yapılan bu muamele reva mıdır? Necd sahrasında kalmasına bile izin verilmemiştir. Öte yandan, Müslümanların Beytü'l-malını tarumar eden dünyaperestler halifenin göz bebeğidir, hürmet ve hizmete layık görülmüştür. Her şartta doğruyu söyleyen, fesat ve adaletsizliğe karşı mücadele eden Hz. Ebuzer'e maalesef sürgün layık görülmüştür. 
Hz. Ebuzer'in sürgün hükmü kesinleşti ve halife, Ebuzer'i Rebeze'ye kadar götürmesi için bir muhafız görevlendirdi.
Osman, halkın ayaklanmasını önlemek için, Ebuzer'le konuşmayı ve onu uğurlamayı yasakladı. Halk, halifenin korkusundan onu uğurlamaya cesaret edemediler. Ama Haşimiler ve Ebuzer'in sadık dostları Ali (a.s), Hasaneyn (a.s), Ammar, Akil, halifenin yasağını çiğneyip, Ebuzer'i uğurlamaya geldiler.
Bu sırada Hasan bin Ali (a.s), Ebuzer ile konuşmaya başladı. Halifenin emrini icra etmekle görevlendirilen halifenin müşaviri ve damadı Mervan, uğurlamaya gelenleri engellemek için Hasan bin Ali'ye (a.s) şöyle dedi: "Ey Hasan! Bitir artık, halifenin bu adamla konuşmayı yasakladığını bilmiyor musun?"
Emirü'l-Mü'minin Ali (a.s), Mervan'ın bu küstahlığına kızarak, onu itti ve atını kamçılayarak şöyle buyurdu: "Çekil bakalım Allah'ın cehennemliği!" Daha sonra Ebuzer'e dönerek şöyle buyurdu: "Ey Ebuzer! Sen, Allah için halifeyle muhalefet ettin. Bu yüzden Allah'ın lutfunu ummalısın. Onlar, dünyaları için senden korktular; sen ise dinin için onlardan korkuyordun. Onların dünyalarını onlara bırak ve dinini onların tehlikesinden kurtar. Onlar senin kaçındığın dünyaya ne kadar da muhtaçtırlar. Halbuki sana yasak ettikleri şeylere senin hiç de ihtiyacın yoktur. Kıyamet günü kimin kârlı, kimin zararlı olduğu belli olacak. Eğer yerler ve gökler bir kulun üzerine kapansa, o kul takva yolunu seçerse Allah, onu kurtuluşa erdirir ve kapalı kapıları onun yüzüne açar. Yalnız hakka sığın ve bâtıldan kork. Eğer, onların dünyalarıyla işin olmasaydı, seni severlerdi; dünya malından kendine bir pay ayırsaydın, senden emin olurlar, endişeleri olmazdı."