Nachdem er eine zweisprachige arabisch-französische Grundschule besucht hatte, studierte er bis zum Alter von achtzehn Jahren am französischen Gymnasium in Tanger und absolvierte dann ein Philosophiestudium an der Mohammed-V.-Universität in Rabat, wo er seine ersten Gedichte schrieb — gesammelt in Hommes sous linceul de silence (1971). Anschließend unterrichtete er Philosophie in Marokko. Doch 1971 musste er nach der Arabisierung des Philosophieunterrichts nach Frankreich gehen, da er nicht für die Pädagogik auf Arabisch ausgebildet war. Er ließ sich in Paris nieder, um sein Psychologiestudium fortzusetzen.

Ab 1972 schrieb er zahlreiche Artikel für die Tageszeitung Le Monde. 1975 promovierte er in Sozialpsychiatrie. Sein Schreiben profitierte zudem von seiner Erfahrung als Psychotherapeut (La Réclusion solitaire, 1976). 1985 veröffentlichte er den Roman L'Enfant de sable, der ihn berühmt machte. 1987 erhielt er den Prix Goncourt für La Nuit sacrée, eine Fortsetzung von L'Enfant de sable. Im Oktober 2013 nahm er an einem aufsehenerregenden Kolloquium im Senat von Paris über den Islam der Aufklärung mit Malek Chebel, Reza, Olivier Weber, Abdelkader Djemaï, Gilles Kepel und Barmak Akram teil.

Tahar Ben Jelloun lebt derzeit mit seiner Frau und seinen Kindern (Merième, Ismane, Yanis und Amine) in Tanger, für die er mehrere pädagogische Werke geschrieben hat (Le Racisme expliqué à ma fille, 1998). Er wird heute regelmäßig für Vorträge an marokkanischen, französischen und europäischen Schulen und Universitäten angefragt.