Il grandit dans une famille d'universitaires. Il commence sa carrière dans le théâtre dans les années 1960 et sa carrière cinématographique dans des seconds rôles, puis se fait connaître au cinéma grâce à ses rôles du duc de Norfolk dans Un homme pour l'éternité en 1966, de John Custance dans Terre brûlée en 1970 et surtout de Lord Bothwell dans Marie Stuart, reine d'Écosse en 1972. En 1974 il partage le premier rôle du film Phase IV avec Michael Murphy et Lynne Frederick, mais le film ne trouve pas son public. Depuis, Davenport a travaillé pour des seconds rôles comme inspecteur de police ou noble. L'année 2000 marque la fin de sa carrière cinématographique.