Kevin J.O'Connor s'est formé à la Goodman School of Drama et à la DePaul University.
Il obtient son premier rôle au cinéma à l'âge de 23 ans dans le film de 1986 Peggy Sue s'est mariée, de Francis Ford Coppola, aux côtés de jeunes débutants, aujourd'hui célèbres, tels Nicolas Cage ou Jim Carrey.
Durant les années 1980, Kevin J. O'Connor ne joue que dans des films quasiment méconnus du grand public. Il a notamment tenu le rôle principal du film Candy Mountain et a incarné Ernest Hemingway dans The Moderns, d'Alan Rudolph. Mais par la suite il se "spécialise" dans les films d'action et d'aventure.
Il est apparu brièvement dans le film Amistad, de Steven Spielberg et a joué maintes fois sous la direction de Stephen Sommers (Un cri dans l'océan, La momie, Van Helsing et G.I. Joe).