Ebu Zerr`in Buhari`de gelen bir rivayetinde şöyle denmiştir: "Resulullah (sav)`ın bi`set (peygamber olarak gönderildi) haberi Ebu Zerr (ra)`e ulaşınca, kardeşi (Üneys`)e: "Devene bin! Şu vadiye (Mekke`ye) git! Kendisini peygamber zanneden ve semadan haber geldiğini söyleyen şu adam hakkında bana bilgi edin, sözlerini dinle ve bana getir!" dedi. Kardeşi gidip, Mekke`ye vardı. Onun sözlerinden dinledi. Sonra Ebu Zerrin yanına döndü ve şu bilgiyi verdi: "Onu gördüm, insanlara güzel ahlakı emrediyordu, (insanlara getirdiği) kelam da şiir değil." Ebu Zerr (kardeşinin anlattıklarını tatminkar bulmayarak), kardeşine: "Arzuladığım kadar merakımı gideremedim!" dedi. Azık hazırladı. İçerisine su olan dağarcığını yüklenip yola çıktı. Mekke`ye geldi. Mescide uğrayıp Resulullah (sav)`ı kolladı. Esasen O`nu tanımıyordu. Doğrudan sormayı da uygun görmedi. Böylece birkaç gece geçirdi. Tutup (bir kuytuya) yattı. Derken Ali (ra) onu görüp, bir yabancı olduğunu anladı. Onu görünce takip etti. Bu ikisinden hiçbiri diğerine herhangi bir şey sormadı. Bu suretle sabaha erdiler. Sonra kırbasını ve azığını Mescid`e taşıdı. O gün de öyle geçti ve Resulullah (sav)`ı akşama kadar göremedi. Bunun üzerine yattığı yere döndü. (Az sonra) Ali (ra) ona uğradı ve adama: "Yerimi öğrenme zamanı gelmedi mi?" dedi. Böylece Ebu Zerr`i kaldırdı ve beraberinde götürdü. (Ebu Zerr onu geriden takip etti.) Birbirlerine hiçbir şey söylemediler. Üçüncü güne ermişlerdi. O gün de aynı şekilde hareket ettiler. Ali onu beraberinde ikamet ettirdi. Ve: "Seni bu memlekete getiren sebebi bana söylemez misin?" diye sordu. Ebu Zerr: "Bana yardımcı olup yol göstereceğin hususunda ahd-u misakda bulunur (kesin söz verir)sen açıklarım!" dedi. Ali söz verdi, o da açıkladı. Ali dedi ki: "O haktır ve Allah`ın Resulüdür. Sabah olunca peşimi takip et. Ben, senin hakkında korktuğum bir şey görürsem, sanki su döküyorum gibi doğrulurum, değilse yürümeye devam ederim. Böylece girdiğim yere sen de girinceye kadar beni takip et!" Ali böyle yaptı. O da onu takip edip geldi. Ali, Resulullah (sav)`ın yanına girdi. O da onunla birlikte içeri daldı. Resulullah`ın sözünü dinledi ve anında müslüman oldu. Resulullah kendisine: "Hemen kavmine don. (Gördüklerini) onlara haber ver. Emrim sana gelinceye kadar (orada kal)" ferman etti. Ebu Zerr de: "Nefsim elinde olan Zat`a yemin olsun, ben de haberi onlar arasında bağırarak söyleyeceğim!" dedi. Oradan çıkıp Msecid`e geldi. Yüksek sesle: "Eşhedu en-la ilahe illallah ve eşhedü enne Muhammeden Resulullah!" dedi. Halk üzerine atılıp, onu iyice dövdüler, canını pek yaktılar. Derken Abbas (ra) gelip üzerine kapanarak (mani oldu). "Yazık size! Bunun Gıfarlı olduğunu, Şam`a giden tüccarlarınızın yolunun oradan geçtiğini bilmiyor musunuz?" diyerek onu ellerinden kurtardı. Ebu Zerr, ertesi günü aynı şeyi tekrarladı. Mekkeliler, üzerine atılıp tekrar dövdüler. Yine Abbas üzerine kapandı ve onu kurtardı. (Ravi der ki): "Bu, Ebu Zerr el-Giffiri`nin müslüman oluşunun başlangıcı oldu."