Hz. Ebuzer, Müslüman olduğunda Resûlullah (s.a.a), halkı gizli olarak İslam'a davet ediyordu. Henüz açık davet ortamı oluşmamıştı. O gün Resûlullah (s.a.a) ile beraber Müslümanların sayısı beş kişiydi. Bu duruma göre Hz. Ebuzer, gizlice iman edip, kimse bilmeden Mekke'yi terk etmeliydi. Ama o, çok mücadeleci ve ateşliydi. Sanki bâtılı ortadan kaldırmak ve insanları doğu yola davet etmek için yaratılmıştı.
Arapların, birtakım ağaçlardan yaptıkları putlara tapmalarından daha büyük yanlışlık ve bâtıl bir şey olamazdı. İşte Hz. Ebuzer buna dayanamayıp, bir süre Mekke'de kaldıktan sonra Resûlullah'ın (s.a.a) huzuruna vararak vazifesinin ne olduğunu sordu. Resûlullah (s.a.a) buyurdular ki: "Sen kendi kavminin arasında İslam'ı tebliğ edebilirsin. Şimdi kendi kabilene dön ve benim emirlerimi bekle."
Hz. Ebuzer dedi ki: "Allah'a yemin ederim ki kavmime dönmeden önce bu halka, İslam'ın sesini duyuracağım ve böylece bu yasağı çiğneyeceğim."
Bu karar üzerine Kureyş, Mescidü'l?Haram'da konuşmakla meşgulken mescide girerek yüksek sesle, "Eşhedu en la İlahe illallah ve eşhedu enne Muhammeden abduhu ve resûluh" diye bağırdı. Rivayetlere göre bu ses, açıkça Kureyş'i savaşa çağıran ilk sesti. Bu ses, arkası olmayan ve Mekke'de akrabası bulunmayan yabancı ve meçhul bir insanın sesiydi.
Resûlullah'ın (s.a.a) tahmin ettiği şey gerçekleşmişti. Bu sesi duyan Kureyş, ona doğru hücum ederek, acımasızca onu dövdüler.
Bu haber Resûlullah'ın (s.a.a) amcası Abbas'a ulaştı. Hz. Abbas, Mescidu'l?Haram'a gelerek kendisini Ebuzer'in üzerine attı. Onu müşriklerin şerrinden kurtarmak için şöyle dedi: "Sizin hepiniz tüccarsınız ve ticaret kervanlarınız Gifar kabilesinin yakınından geçiyor. Yarın Kureyş'in ticareti tehlikeye düşüp hiçbir ticaret kervanı oradan sağlam geçemeyecektir."
Abbas'ın bu sözleri Kureyş'e tesir etti ve onu böylece serbest bıraktılar. Ama Hz. Ebuzer çok ateşli, fevkalade cesur ve mücadeleci olduğundan ertesi gün yine aynı yere gelerek, daha önce söylediği sözünü tekrarladı. Yine Kureyşliler başına üşüşerek, onu şiddetli bir şekilde dövdüler. Hz. Abbas önceki günkü söylediklerini tekrarlayarak Ebuzer'in canını kurtardı. (Hilyetü'l?Evliyâ, c.1, s.158?159; Tabakât?ı İbn?i Sa'd, c.4, s.225; el?İstiâb, c.4, s.63; el?İsâbe, c.4, s.64; ed?Derecâtü'r?Rafia, s.228).
Birkaç gün sonra Kâbe'yi tavaf ederken bir kadının, Kâbe'nin yanına konulan Asaf ve Naile adlı iki puta hitap ederek dertlendiğini gördü ve çok üzüldü. Kadına, onların faydasız olduğunu bildirmek için şöyle dedi: "Bu ikisini birbiriyle evlendirsene!" 
Kadın, Ebuzer'in söylediğine kızarak şöyle bağırdı: "Sen Müslüman olmuşsun." Kadının bağırmasıyla Kureyş'in gençleri Ebuzer'in başına toplanıp onu dövmeye başladılar. Ama Ben?i Bekr kabilesinden bir grup ona yardımcı olarak, onların pençesinden kurtardılar. (Tabakât?ı İbn?i Sa'd, c.4, s.223).
Resulullah (s.a.a), yeni gelen öğrencisinin mücadeleci ve kıyamcı ruhunu çok iyi biliyordu. Ama henüz bunun zamanı olmadığı için, onu kavminin yanına yollayarak, onları İslam'a davet etmesini emretti.
Hz. Ebuzer, kendi kabilesine dönerek Allah (c.c.) tarafından peygamber geldiğini ve inanılacak olan Allah'ın bir olduğunu söylüyor ve onları iyi ahlaklı olmaya, kötülüklerden korunmaya davet ediyordu. Önce Ebuzer'in kardeşi ve annesi Müslüman oldu. Daha sonra da kabilesinin yarısı Müslüman oldu. Resûlullah'ın (s.a.a) Medine'ye hicretinden sonra da geri kalan yarısı Müslüman oldu. Eslem kabilesi de onlara bakarak Müslüman oldu ve Resûlullah'ı (s.a.a) ziyaret ettiler.
Ebuzer, Bedir ve Uhud savaşından sonra Medine'ye dönüp Resûlullah'a (s.a.a) katılarak orada ikamet etti.