Nişabur'da tahsilini tamamlayınca, büyük bir ilim ve edebiyat hâmisi olan Selçuklu veziri üstün devlet adamı Nizamülmülk'ün daveti üzerine Bağdat'a gitti. Nizamülmülk'ün topladığı ilim meclisinde bulunan zamanın âlimleri, imam-ı Gazali hazretlerinin ilminin derinliğine ve meseleleri izah etmekteki üstün kabiliyetine hayran kaldıklarını itiraf ettiler. O zaman ortaya çıkan sapık fırkaların mensupları, onun yüksek ilmi ve en zor, en ince mevzuları en açık bir şekilde anlatması, hitabet ve izah etme kabiliyetinin yüksekliği, zekasının parlaklığı karşısında perişan oluyorlar ve tutunamıyorlardı.Bu sırada otuz dört yaşında bulunan imam-ı Gazali hazretlerinin İslamiyet'e yaptığı büyük hizmetleri gören Selçuklu veziri Nizamülmülk, şimdiki tabirle, onu Nizamiye Üniversitesi rektörlüğüne tayin etti. Bu üniversitenin başına geçen imam-ı Gazali hazretleri, üç yüz seçkin talebeye lüzumlu olan bütün ilimleri öğretti. Yetiştirdiği talebelerin had ve hesabı yoktu. Ebu Mansur Muhammed, Muhammed bin Esad et-Tusi, Ebu'l-Hasan el-Belensi, Ebu Abdullah Cümert el-Hüseyni talebelerinin meşhurlarındandır. Bir taraftan da kıymetli kitaplar yazan İmam-ı Gazali hazretleri, ilim ehli, devlet adamları ve halk tarafından büyük bir muhabbet ve hürmet gördü. Şöhreti gün geçtikçe arttı. Nizamiye Üniversitesinde bulunduğu yıllarda, Kitabü'l-Basit fil-Füru, Kitab-ül-Vesit, El-Veciz, Meahiz-ül-Hilâf adlı kitaplarını yazdı.Ayrıca İsmailiyye adındaki sapık fırkanın görüşlerini çürütmek için Kitabu Fedâihil-Bâtınıyye ve Fedâil-il-Müstehzariyye adlı eserini yazdı. Yine bu sırada Rumcayı öğrenerek felsefecilerin sapıklığını ortaya koymak için eski Yunan ve Latin filozoflarının kitaplarının aslı üstünde üç sene titizlikle incelemeler yaptı. Bu incelemeleri esnasında ve neticesinde felsefecilerin maksatlarını açıklayan Mekâsid-ül Felâsife kitabı ile felsefecilerin görüşlerini reddeden Tehâfüt-ül-Felâsife kitabını yazdı. Avrupalı filozoflar, o asırda dünyanın tepsi gibi düz olduğunu iddia ederek, ilimlerini ve felsefelerini böyle yanlış bilgiler üstüne kurarken, imam-ı Gazali hazretleri dünyanın yuvarlak olduğunu, karaciğerde kanın zehir ve mikroplardan temizlenip tazelendiğini, safra ve lenfle zararlı madde eriyiklerinin burada kandan ayrıldığını bu işte dalağın, böbreklerin ve safra kesesinin rollerini, kanın madde miktarlarındaki oranın değişmesi ile sıhhatin bozulacağını, bugünkü fizyoloji kitaplarında yazdığı gibi, delillerle ispat etti. Ayrıca diğer fen ilimlerinde de Avrupalıların bilmedikleri doğru bilgilere kitaplarında yazıp yer verdi.İmam-ı Gazali hazretleri, felsefecilerle ilgili bu çalışmalarını El-Munkızu Aniddalâl kitabında şöyle anlatmaktadır:"İşte şimdi filozofların ilimlerinin hikayesini dinle: Onları birkaç sınıf, ilimlerini de birkaç kısım hâlinde gördüm. Onlara, çokluklarına ve eskileri ile yenileri arasında doğruya yakınlık ve uzaklık farkına rağmen, küfür ve ilhâd damgasını vurmak lazımdır. Filozoflar fırkalarının çokluğuna ve çeşitliliğine rağmen, Dehriyyun, Tabiiyyun ve İlahiyyun olmak üzere üç kısma ayrılırlar. Dehriyyun sınıfı eski filozoflardan bir zümredir. Yaratıcının varlığını inkâr ederler, bunlar zındıktır. Tabiiyyun; bunlar da ahiretin mevcudiyetini kabul etmediler. Cenneti Cehennemi, kıyameti ve hesabı inkâr ettiler. Bunlar da zındıktır. Üçüncü sınıf olan İlahiyyun, daha sonra gelen filozoflardır. Bunlar ilk iki sınıfı red etmişlerse de kendilerini bid'at ve küfürden kurtaramamışlardır." Üçüncü kısımdan olan bu filozoflar, kendilerinden önce gelenlerin yanlışlarını açık seçik göstermek ve bir yaratıcının olduğunu söylemekle beraber Peygamberlere inanmadıkları için küfürde kalmışlardır. Çünkü küfürden kurtulmak için Peygamberlere ve onların bildirdiklerine inanmak da şarttır.