Diplômé de l'Evanston Township High School, Jeremy Piven étudie le théâtre à l'Harand Theater Camp d'Elkhart Lake, où il interprète Bernardo dans la pièce West side story. Il apprend également le métier de comédien au Piven Theatre Workshop, fondé par ses parents Byrne et Joyce Piven.Sa carrière d'acteur au cinéma débute en 1986 : Jeremy Piven apparaît dans les comédies pour adolescents Lucas de David Seltzer et One crazy summer de Savage Steve Holland. Dès lors, il joue des rôles de plus ou moins grande importance dans de nombreux films parmi lesquels : The Player (1992) de Robert Altman, Singles (id.) de Cameron Crowe, Bob Roberts (id.) de Tim Robbins, Heat (id.) de Michael Mann, Le Collectionneur (1997) de Gary Fleder, Very bad things (id.) de Peter Berg, Family man (2000) et Rush hour 2 (2001) de Brett Ratner, ou encore La Chute du faucon noir (id.) de Ridley Scott.Jeremy Piven donne la réplique à celui qui fut son colocataire pendant quelques années, John Cusack. Ces derniers ont ainsi été partenaires dans Say anything... (1989) de Cameron Crowe, Les Arnaqueurs (1990) de Stephen Frears et Un amour à New York (2001) de Peter Chelsom.