मुहंमद स्वत हिरा पर्वतावर ध्यान करीत असत. ही हनीफपरंपरा पुढेही सतत चालू राहिली. विरक्त झालेले लोक फाटकीतुटकी लोकरी वस्त्रे घालून ध्यान आणि ईश्वरचिंतन करीत बसत. या वस्त्रांना अरबी भाषेत ‘सूफ’ असे म्हणतात. सूफ घालणारे ते सूफी. विरक्ती आणि अध्यात्म यांचा ध्यास घेतलेल्यांची एक सूफी परंपराच निर्माण झाली. या मंडळींनी काजीच्या नोकऱ्या नाकारल्या. त्यांना हिदायतीप्रणीत शिस्तबद्ध जीवन जगण्यात रस वाटत नसे. ते सर्व प्रकारच्या अधिकारपदांपासून दूर राहण्याचा प्रयत्न करीत. कठोर, पवित्र आणि शुद्ध व साधे जीवन जगण्यास पाठिंबा देणारी पैगंबरांची अनेक वचने त्यांना मिळाली. सूफी मंडळींनी कुराणाची स्वतंत्र भाष्ये तयार केली आणि हदीस परंपराही. कुराणातील परमेश्वराच्या ९१ नामांचे नामस्मरण (जिक्र) करताकरता अनेकांना परमानंदाचा साक्षात्कार झाला. इस्लाममधील पहिली सूफी परंपरा आत्मानंद प्राप्त झालेल्यांची होती. बाह्य संसारात सर्वत्र दु:ख आणि अन्याय अनुभवणाऱ्या सूफींना आत्मानंदामुळे शांती लाभली. या अनुभवाची पुढील पायरी म्हणजे साक्षात्काराचे विविध अनुभव. नवव्या शतकात बयाझिद बिस्तामी या संताने या अनुभवांचे वर्णन लिहून ठेवले.बयाझिद बिस्तामीचे अनुयायी बगदादमध्ये आणि इराणमध्ये होते. बगदादला मुस्लिम धर्मगुरूंचे (उलमा किंवा उलेमा) प्राबल्य असल्यामुळे सूफी संत शक्य तो आपल्या पंथाबाबत गुप्तता राखीत असत. कारण त्यांना शरीयतचे पालन हे जीवनाचे मुख्य ध्येय वाटत नसे. उलट शरीयतच्या काटेकोर पालनासाठी राजसत्ता आणि उलमा डोळ्यात तेल घालून दक्षता बाळगीत. परंतु पुढेपुढे सूफी संतांना आपल्या अनुभवांतून अद्वैताचा साक्षात्कार होऊ लागला. इराणी अनुयायांपैकी मन्सुर अल्- हल्लाजने तर अद्वैताचा अनुभव सांगताना ‘मीच परमेश्वर आहे, परमेश्वरात आणि माझ्यात फार अंतर उरले नाही ’ असे जाहीर केले. या ‘गुन्ह्यासाठी’ मन्सुरला फाशीची शिक्षा झाली. बगदादच्या अनुयायांनी यापासून बोध घेतला. अल्-जुनैदने सूफी तत्वज्ञान आणि इस्लाम यांत फरक नाही, हे दाखविण्याचा प्रयत्न केला. ईश्वराला शरण जाताना सूफी संत आपले मीपण विसरून जातो (फना), त्यावेळी परमेश्वर आणि नामस्मरण करणारा संत यांत फक्त एकच पडदा (बला) शिल्लक राहतो. अशा रीतीने शरीयतच्या बाबतीत बेफिकीर व अद्वैत (वहदत-उल्-वुजूद) सिद्धांतावर विश्वास असणारे आणि शरीयतचे उल्लंघन न करता द्वैत आणि अद्वैत यांच्या मधला मार्ग स्वीकारणारे, असे दोन ढोबळ सूफी पंथ उदयास आले. सूफीमधील उपपंथ वेगवेगळ्या संतांच्या अनुयायांनी स्वतंत्रपणे चालविले.सूफी संतांना सामान्य मुसलमान जनतेत अफाट लोकप्रियता मिळाली. संतांच्या समाध्या (दर्गे) ही तीर्थक्षेत्रे बनत चालली. त्याच सुमारास हळूहळू खलीफांची सत्ता खिळखिळी झाली आणि खलीफा नाममात्रच धर्मगुरू आणि शासक म्हणून उरले. खरी राजसत्ता छोट्या मोठ्या सुलतानांकडे गेली. सूफी संप्रदायावर विश्वास असलेला विद्वान धर्माधिकारी ]अल्-गझाली मंत्री झाल्यावर त्याच्या सल्ल्यानुसार मुस्लिम धर्मप्रमुखांनी सूफी संप्रदाय आणि शरीयतवर भर देणारे उलमा यांची सांगड घातली. ही गोष्ट तुर्की सुलतानांच्या कारकीर्दीत होऊ शकली, याचे कारण सूफी संतांनी तुर्कस्तानामध्ये असंख्य अनुयायी इस्लामला मिळवून दिले होते. सूफी संतांमुळे इस्लाम धर्म स्वीकारलेल्या सेनाधिकाऱ्यांकडे सत्ता आल्यानंतर, अल्-गझालीचा सल्ला मानणे अधिक सोपे झाले आणि सूफी तत्वज्ञान, त्यातील अद्वैताचा किंवा वहदत-उल्-वुजूदचा भाग वगळून, इस्लामचे एक अंगभूत तत्वज्ञान ठरले. सूफी संप्रदायांना राजाश्रय मिळाला. भारतात बाराव्या आणि तेराव्या शतकांत जे इस्लामी साम्राज्य स्थापन झाले, त्या साम्राज्यात सूफी संतांचा फार मोठा प्रभाव होता. हे सूफी संत शरीयतमध्येही निपुण असते .