İmam Ali'nin (a.s) sıkıntısı ordunun kendisini dinlememesiyle bitmedi. Şayet baş kaldıranlar, tahkime katılacak temsilcinin seçiminde İmam'a (a.s) uysalardı, görüşmeler yoluyla siyasî bir kazanç sağlayabilirdi. İmam (a.s) kendisini temsil edecek hakem olarak Abdullah b. Abbas veya Malik-i Eşter'i seçmek istedi. Çünkü bunların ihlâslı ve bilinçli kimseler olduklarını biliyordu. Ama aldatılmışlar, Ebu Musa Eş'arî'nin hakem olarak seçilmesinde ısrar ettiler. İmam (a.s) şöyle dedi: "Başta bana isyan ettiniz, bari şimdi isyan etmeyin. Ben Ebu Musa'yı bu işe uygun görmüyorum. Çünkü o güvenilir biri değildir. Cemel Savaşı'na giderken benden ayrıldı ve Kûfe'de insanların bana katılmalarını engelledi. Sonra da benden kaçtı. Nihayet ben, birkaç ay sonra ona aman ve can güvenliği verdim de geri döndü." (Vak'at u Sıffin, s.499; Tarih-i Taberî, 4/36; el Kâmil Fi't Tarih, 3/319).Amr b. As, Şamlıları temsil eden hakem olarak geldi. Hiç kimse de ona itiraz etmedi. Ebu Musa Eş'arî'yle antlaşmanın maddelerini yazacaklardı. Amr sözleşmeye, "Emir'ül Müminin" ifadesinin yazılmasını kabul etmedi. Bunun üzerine İmam (a.s) şöyle dedi: "Bugün, Hudeybiye gününe benziyor. O zaman Süheyl b. Ömer Peygamber'e (s.a.a): 'Sen Allah'ın Resulü değilsin.' demişti. Sonra Resulullah (s.a.a) bana şöyle demişti: Buna benzer bir olay senin de başına gelecek ve sen haksızlığa uğrayacaksın." (Vak'at u Sıffin, s.508; Şerh u Nehc'il Belâğa, 2/ 32).Sözleşmenin en önemli maddesi, ateşkes ilânı ve savaşın durmasıyla ilgiliydi. Taraflar, aralarındaki sorunların çözümünde Allah'ın Kitabına ve Peygamber'in (s.a.a) sünnetine başvuracaklardı. Sözleşme Hicrî yılın safer ayında imzalandı. İki hakemin kesin kararının ilânı da aynı yılın ramazan ayına ertelendi. İşin garip tarafı, Osman'ın intikamını alma meselesiyle ilgili tek madde yer almıyordu sözleşmede. Oysa Muaviye ve Peygamber'in salıverdiği İslâm esirlerinden oluşan hizbinin çıkardıkları fitnede kullandıkları en büyük argüman, Osman'ın intikamının alınmasıydı. (Tarih i Taberî, 4/40)Rivayete göre, Malik-i Eşter'den şahit olarak sözleşmeye imza atması istenir. Malik-i Eşter bunu reddeder ve şöyle der: "Eğer bu sözleşmede adım geçerse, sağ kolum benimle sabahlamasın ve ondan sonra da sol kolumun bana hiçbir faydası olmasın. Düşmanlarımla ilgili Rabb'im tarafından ortaya konulan bir kanıta sahip değil miyim? Siz de zaferi görmemiş miydiniz?!" (Vak'atu's Sıffin, s.508 Şerh-u Nehc'il Belâğa, 2/232).Emir'ül Müminin'e (a.s), "Eşter sözleşmeyi imzalamıyor ve onlarla savaşmaktan başka bir öneriyi kabul etmiyor" denildi. Buyurdu ki: "Allah'a yemin ederim ki, ben buna razı değildim ve sizin de razı olmanızı istemedim..." Sonra şöyle dedi: "Keşke, aranızda onun gibi iki kişi daha olsaydı. Keşke düşmanı benim gözümle gören onun gibi bir kişi daha olsaydı. O zaman derdinizi çekmek bana hafif gelirdi, eğrildikten sonra doğrulmanızı umabilirdim. Ben size engel oldum ama siz beni dinlemediniz. Siz öyle bir iş yaptınız ki, bununla gücümüz sarsıldı, direncimiz kırıldı; yerini gevşeklik ve alçaklık aldı." (Tarih-i Taberî 4/40).