Исключительное значение в возникновении и развитии мусульманского аскетизма сыграли люди, которых называли Асхаб ас-Суффа. Их было от 70 до 300 человек. Они образовали по сути дела первую в истории Ислама группу, которая отдавала приоритет духовной и аскетической практике в религии. Предполагается, что термин тасаввуф восходит к этому названию. Асхаб ас-Суффа состояла из беднейших представителей мухаджиров и ансаров. Они собирались в мединской мечети и проводили долгие часы в молитвах и постах, а также пристально наблюдали за всеми словами и поступками пророка Мухаммада, учились духовной практике непосредственно у него. Пророк очень высоко ценил и уважал Асхаб ас-Суффу, среди которых были такие известнейшие его сподвижники, как Абу Хурайра, Салман аль- Фариси, Абу Зарр, Сухайб ар-Руми, Абу Муса аль-Ашари и др. Он посылал этих людей для проповеди Ислама среди различных арабских племен. По этой причинам Асхаб ас-Суффу считают и основоположниками завии и медресе.
Аскетическая практика первого поколения мусульман в дальнейшем была продолжена и развита следующим поколением, которое принято называть табиунами. Среди них были сотнями известных аскетов, среди которых были такие известные люди, как Хасан аль-Басри, Увейс Карани, Омар ибн Абд аль-Азиз.
Во втором веке хиджры идеи аскетизма, преданного служения Богу и любви к Нему получили еще большее распространение. В этот период уже появился термин «тасаввуф», а также начала формироваться суфийская терминология. Однако в тот период еще не были написаны фундаментальные труды по основополагающим принципам тасаввуфа. Среди известных аскетов того времени были Хашим ас-Суфи, Давуд ат-Таи, Рабиат аль-Адавия, Фу- дайл ибн Ийад, Шакик аль-Балхи. Также, ко второму веку начали формироваться первые школы аскетизма - мединская, басрийская, куфийская и хорасанская.