Después de haber frecuentado una escuela primaria bilingüe arabo-francófona, estudia en el liceo francés de Tánger hasta la edad de dieciocho años, luego realiza estudios de filosofía en la universidad Mohammed V de Rabat, donde escribe sus primeros poemas —recogidos en Hombres bajo sudario de silencio (1971). Enseña luego filosofía en Marruecos. Pero, en 1971, tras la arabización de la enseñanza de la filosofía, debe partir para Francia, al no estar formado para la pedagogía en árabe. Se instala en París para continuar sus estudios de psicología.

A partir de 1972, escribe numerosos artículos para el diario Le Monde. En 1975, obtiene un doctorado de psiquiatría social. Su escritura aprovechará además su experiencia de psicoterapeuta (La reclusión solitaria, 1976). En 1985, publica la novela El niño de arena que lo hace famoso. Obtiene el premio Goncourt en 1987 por La noche sagrada, una continuación de El niño de arena. Participa en octubre de 2013 en un coloquio resonante en el Senado de París sobre el islam de las Luces con Malek Chebel, Reza, Olivier Weber, Abdelkader Djemaï, Gilles Kepel y Barmak Akram.

Tahar Ben Jelloun vive actualmente en Tánger con su mujer y sus hijos (Merième, Ismane, Yanis y Amine), para quienes ha escrito varias obras pedagógicas (El racismo explicado a mi hija, 1998). Hoy es regularmente solicitado para intervenciones en escuelas y universidades marroquíes, francesas y europeas.