Cabrel vit à Astaffort (près d'Agen), est marié, et père de deux filles, Manon et Aurélie, et père adoptif depuis 2005 d'une petite vietnamienne.

Cabrel nait dans une famille modeste originaire de Frioul en Italie, d'un père ouvrier et d'une mère caissière. Il a une sÅ“ur, Martine, et un frère, Philippe.

Adolescent timide, c'est en écoutant Bob Dylan et son célèbre morceau « Like a Rolling Stone » qu'il s'initie à la guitare et compose ses premières chansons. Grâce à sa guitare offerte par son oncle Freddy, il entrevoit un antidote à sa timidité. À 16 ans, il se sent déjà l'âme d'un vrai musicien et chante les chansons de Neil Young, Leonard Cohen et évidemment Bob Dylan, apprenant ainsi l'anglais en traduisant les paroles. Il racontera plus tard que sa guitare lui permettait de se rendre plus intéressant aux yeux des autres.

Renvoyé du lycée Bernard Palissy d'Agen pour indiscipline, il part travailler dans un magasin de chaussures tout en jouant dans des bals locaux avec un groupe « Ray Frank et les Jazzmen », devenu par la suite « les Gaulois » à cause des moustaches de chacun des membres. En effet, à cette époque, Cabrel arbore un style hippie, cheveux longs et moustaches.Il monte plusieurs groupes avec Jean Marc Pernon à la guitare.

En 1974, il participe à un concours de chanson de Sud Radio durant lequel se succèdent des candidats devant un jury composé entre autres de Daniel et Richard Seff. Sa chanson Petite Marie dédiée à sa femme Mariette lui permet de gagner le concours et de lui ouvrir les portes dans la firme CBS.

En 1977, à l'occasion de la campagne de la Nouvelle Chanson Française de la maison de disques, il sort son premier disque « Ma ville » mais il éprouve vite le sentiment que CBS ne le laisse pas exprimer sa vraie personnalité (en témoigne la version particulière de Petite Marie du disque qui tente de gommer l'accent particulier du chanteur, version reniée par Cabrel aujourd'hui). Pourtant, il se produit à l'Olympia, en première partie de Dave, durant un mois et gagne le prix du Public au Festival de Spa en Belgique en 1978.

Certains de ses multiples clips ont été tournés dans des villages très pittoresques tels que le village d'Artiguemy (65).