Né au sein d’une famille de six enfants (il a écrit une chanson pour ses parents, intitulée When Maurice meets Alice, dans l’album Scandale mélancolique), il passe sa scolarité dans plusieurs établissements publics et privés de Besançon, et au pensionnat jésuite Notre-Dame de Mont Roland de Dole (Jura), où il a comme condisciples les futurs chanteurs Laroche Valmont et Cookie Dingler. Après des études de droit et de psychologie, il va à Paris tenter sa chance dans les cabarets rive gauche en 1971, notamment au Club des Poètes de Jean-Pierre Rosnay, au Pétrin et à la Maison pour tous de la rue Mouffetard. Il a déclaré savoir depuis l’âge de 10 ans qu’il voulait être chanteur1.
En 1978, il sort son premier album, Tout corps vivant branché sur le secteur étant appelé à s’émouvoir, composé de morceaux écrits dix ans auparavant, avec la collaboration du groupe Machin dirigé par Tony Carbonare. À partir de 1980, Thiéfaine s’oriente vers un style plus rock : citons l’album Soleil cherche futur, qui a connu un certain succès avec la chanson Lorelei sebasto cha en 1982 et Alambic/Sortie Sud, cosigné avec Claude Mairet. En 1988, il rompt avec Claude Mairet et sa maison de disques Sterne, et enregistre deux albums aux États-Unis (Chroniques bluesymentales en 1990 et Fragments d’hébétude en 1993). Depuis les albums-miroirs La Tentation du bonheur (1996) et Le Bonheur de la tentation (1998), sa musique, volontiers mélancolique, s’ouvre aux nappes de synthétiseurs. En 1998, il remplit la salle de Bercy sans aucun appui des médias. Le concert fait l’objet d’un album et d’un DVD.
En 2000, Thiéfaine signe le texte de deux chansons de l’album de Paul Personne, Patchwork électrique : Exit of Eden et La Beauté du blues.