Jean Becker commence sa carrière comme assistant-réalisateur pour son père Jacques Becker (dans Touchez pas au grisbi) mais collabore aussi avec d'autres cinéastes de renom tels que Julien Duvivier et Henri Verneuil. L'apprenti réalisateur signe au début des années 60 quelques films policiers avec Jean-Paul Belmondo en vedette, qui deviennent de grands succès, comme Un nommé La Rocca (1961) et Echappement libre (1964). On retrouve dans sa première œuvre les qualités de pudeur et d'élégance de son père. En tant qu'acteur, il tourne de nombreux plans dans Le Trou (1960), juste avant la mort de ce dernier. Son film, Tendre voyou, (1966) confirme par la suite une filiation qui n'était pas seulement génétique, mais également esthétique.
Pas de caviar pour tante Olga constitue, en 1965, une incursion inattendue mais plutôt bienvenue dans un comique farfelu. Après un long silence de près de vingt ans, son Eté meurtrier (1983), qui révèle Alain Souchon au cinéma, le remet au premier plan. Le film obtient un énorme succès, se voit nommé aux César et est présenté au Festival de Cannes. En 1994, Elisa décroche un joli succès critique et public et replace Vanessa Paradis sur le devant de la scène cinématographique.
Jean Becker tourne régulièrement et souvent avec ses amis acteurs comme Jacques Villeret et André Dussollier, qu'il dirige notamment dans Les Enfants du marais (1998), film teinté de nostalgie qui magnifie les petits moments de bonheur du quotidien, et dans Un crime au paradis (2000), sorte de satyre sur les relations d'un couple qui ne s'aime plus. Les deux films obtiennent des scores honorables au box-office. Jean Becker se spécialise alors dans la comédie dramatique grinçante, avec des films tels que Effroyables jardins (2002), Dialogue avec mon jardinier (2007) ou encore Deux jours à tuer (2008), pour lequel il collabore pour la première fois avec Albert Dupontel.
Deux ans plus tard, le cinéaste choisit de réunir deux figures du cinéma français pour La Tête en friche : Gérard Depardieu, qu'il retrouve quinze ans après Elisa, et Gisèle Casadesus, qu'il a dirigée dans Les Enfants du marais.
Il faut à nouveau attendre deux ans pour découvrir son film suivant, le drame Bienvenue parmi nous, centré sur la rencontre entre un homme vieillissant et déprimé (le vétéran Patrick Chesnais) et une jeune adolescente un peu perdue (la débutante Jeanne Lambert).
