Joe Dassin est le fils de Jules, réalisateur de films, et Béatrice, violoniste. Joe Dassin est le seul garçon d'une fratrie de trois enfants. Il a donc deux soeurs : Richelle et Julie. 
Toute la famille évolue aux Etats-Unis, et plus particulièrement à New York et Los Angeles. Là-bas, Joe Dassin y apprend la guitare, le banjo et le piano. Mais les Dassin déménagent souvent, au rythme des lieux de tournage du père.

Joe Dassin suit une scolarité aux Etats-Unis : des études de médecine à l'université du Michigan, qu'il arrête au bout de trois ans. Il se réoriente alors vers l'anthropologie et obtient son master en 1963 avec mention. La même année, il rejoint sa mère et ses soeurs, alors en France, et se lance dans l'écriture de romans, de nouvelles, d'articles pour des magazines américains tels que le New Yorker, Playboy. 

Par la suite, Joe Dassin devient le premier résident français des Etats-Unis à signer avec une maison de disques américaine. Toutefois, le succès n'est pas au rendez-vous puisqu'il doit principalement sa renommée à celle de son père. 
Il faut attendre 1965 pour que les titres enregistrés par Joe Dassin connaissent un peu plus de succès, année durant laquelle il fait la rencontre de Jacques Plait. Grâce à cette nouvelle collaboration, le chanteur parvient à diffuser deux titres à la radio en 1966 : Ca m'avance à quoi et Comme la lune.

En 1967, Joe Dassin chante Les Dalton, qui se place très vite dans le hit parade français à la 8e place. Continuant son ascension lente mais authentique, le chanteur sort par la suite : La Bande à Bonnot, Siffler sur la colline, Ma bonne étoile, Le Petit pain au chocolat.

En 1969, après un accident cardiaque, Joe Dassin reprend le chemin des studios et lance Les Champs-Elysées, l'un de ses plus grands succès. L'année suivante, il confirme sa place de vedette française, il chante L'Amérique. Le titre connaît un succès immédiat et le chanteur décide donc de terminer chacun de ses concerts par cette interprétation.
Fort de ce succès, les années qui suivent sont plus calmes pour Joe Dassin, qui ne séduit plus autant le public avec ses nouvelles chansons. Il faut attendre l'année 1975 et la sortie de L'Eté indien, qui rencontre un franc succès partout dans le monde. Suivent plusieurs autres chansons d'amour : Et si tu n'existais pas, Salut, il était une fois nous deux.

A la fin des années 70, Joe Dassin souhaite se concentrer sur la composition de chansons "plaisir". Il retourne aux Etats-Unis et enregistre un album country-blues. Ce dernier est salué par la critique mais le public n'adhère pas.

Le 20 août 1980, alors en vacances à Tahïti avec ses deux garçons, il est victime d'un infarctus fatal. Le chanteur repose au Hollywood Forever Cemetery de Los Angeles.