Taberi'nin rivayetine göre Hz. Ali, Ebu Musa'yı hakem olarak gönderince Hariciler Veheb'ür?Rasibi oğlu Abdullah'ın evinde toplandılar. Abdullah onlara bir hutbe okuyup, "ehl?i zalim olan şu şehirden çıkın" dedi. Basra'da bulunan ve aynı fikri güden kişilere de haber gönderdiler. Hepsi, bir cuma gecesi, bir araya toplandılar. O geceyi ve Cuma gününü ibadetle geçirdiler. Sonra Nehrevan'a geldiler.
Hz. Ali, Kûfe'de bir hutbe okuyup dedi ki: "Zaman, ağır bir iştir, meydana çıkardı, görülmemiş bir şeydir, ortaya attı. Bilin ki suç hasreti doğurur. Sonunda nedamet gelir çatar. Bu iki adamın hakemliğini ben zorla kabul ettim, onları siz tayin ettiniz. Fakat onlar, Kur'an'ın hükmünü ardlarına attılar; Kur'an'ın öldürdüğünü dirilttiler. Her ikisi de Allah'ın hidayetinden hariç olarak heva ve heveslerine göre karar verdiler. Açık bir delile dayanmadan, geçmiş bir sünnete uymadan hüküm verdiler, verdikleri kararda birbirlerine muhalefette bulundular. Her ikisi de doğru yolu bulamadı. Allah ve Resulüyle mü'minlerin en salihi onlardan berîdir. Hazırlanın, Şam'a gitmeye ve yarınki pazartesi günü, Allah izin verirse ordugâhınızda bulunun."
Haricilere de, "Bu iki kişinin hakemliğine siz razı oldunuz. Fakat onlar, Allah'ın Kitabına muhalefet ettiler, kendi dileklerine uydular. Emrime uyun, biz de işte, evvelce nasılsak öyleyiz, düşmanımıza ve düşmanınıza hareket etmek üzereyiz" mealinde bir mektup gönderdi.
Hariciler, "Sen Rabbin için değil, kendin için gazap ettin. Kâfir olduğunu ikrar eder de tevbekâr olursan o vakit aramızda ne yapacağımızı düşünürüz" mealinde bir mektupla cevap verdiler.
Hz. Ali, Haricilerden ümit keserek onları bırakıp Şam'a hareketi uygun gördü. Basra askerini toplamasını Abbas oğlu Abdullah'a emretti.
Abdullah, halkı savaşa teşvik ettiyse de ancak bin beş yüz kişi toplandı. Abdullah, sizin, harbe gücü yeter altmış bin kişiniz varken Mü'minlerin Emiri'ne bin beş yüz er göndermek ayıp olmaz mı" dedi ve Basralılardan üç bin iki yüz asker çıktı.
Hz. Ali, Kûfe ulularını toplayıp, "Benim kardeşlerim, yardımcılarım sizsiniz" dedi ve her reisin, kendi aşiretinden asker toplamasını emretti. Kays'ül?Hemdani oğlu Said, ayağa kalkıp, "Ey Mü'minlerin Emiri, duyduk, itaat ettik, istediğin şeye, severek, isteyerek ilk icabet eden benim" dedi. Az bir müddette altmış bin kişi toplandı. Basralılarla beraber ordunun tutarı altmış sekiz bin iki yüz er oldu.
Hz. Ali bir hutbesinde, "Haricilerden daha ehemmiyetli düşman Şam'dadır. Yeryüzünde zulmedici padişahlar kesilen ve Allah kullarını kendilerine hizmetkâr yapan düşmanınıza yürüyün" dedi.
Mes'udi, Hz. Ali'nin Kûfe'den otuz beş bin kişiyle çıktığını, Basra'dan, içlerinde Ahnef oğlu Kays, Kudamet'üs?Sa'di oğlu Cariye'nin de bulunduğu on bin kişi geldiğini yazar. 
Hz. Ali, Anbar şehrine kondu ve askere bir hutbe okudu, onları savaşa teşvik etti: "Yürüyün! Muhacirlerle Ensar'ı öldürenlere, Allah'ın nurunu söndürmek isteyenlere, Resûlullah'ı ve O'nunla beraber olanları öldürmeye çalışanlara. Bilin ki Resûlullah, bana, haktan ayırılıp zulmedenlere ve dinden çıkanlarla savaşmayı emretti. Halktan ayrılıp zulmedenlerle savaştınız, dinden çıkanlarla daha karşılaşmadık fakat siz zulmedenlere yürüyün, onlar, bizce Haricilerden daha ehemmiyetlidir. Savaşın zorbalarla! Halk, onları Rab yerine koymuştur, onlar da halkı, Allah'ın kullarını hizmetkâr mesabesine getirmişlerdir; halbuki hiçbir üstünlükleri de yoktur" dedi.
Hz. Ali'nin taraftarları arasında, önce Haricilerle savaşmanın gerekli bulunduğu fikrini güdenler vardı.