John Barryd ébute dans une formation de jazz avant d'écrire pour le cinéma. Son tout premier film est L'Aguicheuse (Beat Girl, 1960). Il remanie le thème musical de James Bond écrit par Monty Norman et en fait l'un des thèmes les plus connus au monde. Il compose par la suite les musiques des James Bond jusque dans les années 1980. Sa musique pour la série télé Amicalement vôtre (1971) contribue aussi à sa notoriété déjà bien établie.
Considéré comme l'un des plus grands compositeurs de musique de films contemporains (comme par exemple John Williams, Jerry Goldsmith, Lalo Schifrin, Michel Magne, Michel Legrand, et Ennio Morricone), il a composé les musiques de très grosses productions, telles que Out of Africa ou Danse avec les loups. John Barry compose généralement une musique au style romantique exacerbé, dont le style est aisément identifiable.
Il fut le premier mari de Jane Birkin dont il eut une fille, la photographe Kate Barry.