Il Sufismo, nonostante le abbondanti definizioni, è di per sé indefinibile: non può essere imprigionato in una categoria statica. Alla domanda «Che cos'è il Sufismo?» un maestro potrebbe rispondere raccontando la storia dell'Elefante nel buio.

All'interno di una stanza buia come la pece si trovava sdraiato un enorme elefante addormentato. Un gruppo di persone, che nella loro vita non aveva mai sentito parlare di un simile animale, doveva scoprire di che cosa si trattava l'"oggetto misterioso". Poiché l'oscurità impediva di distinguerne la forma, le persone toccavano l'animale per farsi un'idea. Il primo toccò la zampa del pachiderma e disse:
«Certo, è semplice, si tratta di una enorme colonna!».
Il secondo che palpò l'orecchio esclamò:
«Ma che dici, si tratta sicuramente di un enorme ventaglio!».
Il terzo che afferrò la proboscide, sentenziò:
«Ma siete impazziti? Come può essere ciò che dite? È fuor di dubbio un serpente!».
Qeullo che abbrancò il dorso dichiarò:
«Io penso che abbiate le traveggole, come fate a non accorgervi che si tratta di un enorme trono?».
Quello che toccò la testa disse:
«Non sono d'accordo con nessuno di voi, l'oggetto in questione è indubbiamente una caldaia!»
E così via. Poiché l'opinione di ciascuno si basava su un'esperienza frammentaria, vennero fuori tante definizioni diverse quante le diverse parti toccate del pachiderma. Ciascuna persona credeva di aver capito di che cosa si trattasse l'oggetto misterioso. E, siccome ognuno sosteneva la sua opinione, cominciarono a discutere animatamente:
«L'oggetto misterioso rassomiglia a questo!».
«No, a quello!».
«Non rassomiglia a quello, ma a questo!».

Lo stesso vale per chi tenta di spiegare cos'è il sufismo: ciascuno cerca di spiegare ciò che sente.

Il Sufismo non è una religione, né un pensiero astratto distaccato dalla vita. Non pretende di sistematizzare la conoscenza, non nega le altre concezioni. Non pone l'accento sui libri o sulle credenze, bensì sull'esperienza che l'uomo può fare nella vita di tutti i giorni. Per questo si dice che il Sufismo è «essere nel mondo, ma non del mondo», perché si rivolge a coloro che pur essendo impegnati nelle faccende quotidiane non vi rimangono imprigionati.

Il Sufismo, dopo aver scrutato nell'essenza stessa della religione, ne scarta l'inessenziale. È un modo concreto di concepire la vita, un occhio che vede il mondo reale come un risveglio. È una via di addestramento mentale all'interno di quell'avventura che è la vita.
Che sia, secondo coloro che valorizzano la sua atemporalità, una realtà viva e fiorente ben prima dell'insegnamento di Maometto e che non c'è mai stato un tempo in cui non sia esistito, oppure che sia, secondo altri, il midollo dell'Islam, il Sufismo permette all'uomo di realizzare il Divino che alberga nel proprio cuore e di vivere in perfetta adesione all'istante presente.

Il Sufismo richiede l'esame, lo studio, l'osservazione della condizione umana e l'esperienza diretta e pratica di questi fenomeni. L'accento viene posto sulla pratica, in quanto non si può separare un pensiero filosofico dalla vita quotidiana. Farlo sarebbe come strappare una pianta dal terreno. Tolte le radici la vita sfugge. Il Sufismo ruota attorno al tema della trasformazione: trasformare il mondo delle apparenze in un mondo straordinario riempito dal senso del Divino.
Anche per questa ragione, un noto motto sufi recita «Chi assaggia conosce».