Dopo aver frequentato una scuola primaria bilingue arabo-francofona, studia al liceo francese di Tangeri fino all'età di diciotto anni, poi compie studi di filosofia all'università Mohammed V di Rabat, dove scrive le sue prime poesie — raccolte in Hommes sous linceul de silence (1971). Insegna poi filosofia in Marocco. Ma, nel 1971, a seguito dell'arabizzazione dell'insegnamento della filosofia, deve partire per la Francia, non essendo formato per la pedagogia in arabo. Si stabilisce a Parigi per proseguire i suoi studi di psicologia.

A partire dal 1972, scrive numerosi articoli per il quotidiano Le Monde. Nel 1975, ottiene un dottorato in psichiatria sociale. La sua scrittura trarrà profitto dalla sua esperienza di psicoterapeuta (La Réclusion solitaire, 1976). Nel 1985, pubblica il romanzo L'Enfant de sable che lo rende celebre. Ottiene il premio Goncourt nel 1987 per La Nuit sacrée, un seguito a L'Enfant de sable. Partecipa nell'ottobre 2013 a un convegno clamoroso al Senato di Parigi sull'islam dei Lumi con Malek Chebel, Reza, Olivier Weber, Abdelkader Djemaï, Gilles Kepel e Barmak Akram.

Tahar Ben Jelloun vive attualmente a Tangeri con sua moglie e i suoi figli (Merième, Ismane, Yanis e Amine), per i quali ha scritto diverse opere pedagogiche (Le Racisme expliqué à ma fille, 1998). È oggi regolarmente sollecitato per interventi in scuole e università marocchine, francesi ed europee.