Fils d'un pâtissier amateur de romans noirs, Olivier Marchal est élève au collège des Jésuites de Bordeaux. C'est durant ces années que naissent chez lui l'envie d'être policier et le goût pour la comédie. Après avoir passé le concours d'inspecteur de police, il intègre en 1980 la Brigade criminelle de Versailles, puis rejoint la section antiterroriste, où il a pour collègue Simon Michaël, l'auteur des Ripoux. Chef d'une brigade de nuit au milieu des années 80, Olivier Marchal suit parallèlement des cours de théâtre au conservatoire du Xème arrondissement.
Apparu une première fois à l'écran en 1988 dans Ne réveillez pas un flic qui dort, il est repéré par une directrice de casting, qui lui propose en 1993 le rôle d'un inspecteur dans Profil bas de Claude Zidi. Ayant définitivement quitté la police, Olivier Marchal écrit plusieurs scénarios pour le Commissaire Moulin, et devient bientôt un personnage récurrent des séries Quai n°1 et Police district. Dans un genre différent, il est remarqué dans le moyen métrage d'Emmanuelle Bercot, La Puce, aux côtés de la jeune Isild Le Besco en 1999. La même année, Olivier Marchal s'essaie à la réalisation avec Un bon flic, court métrage remarqué à Cognac.
Il passe au long en 2002 avec Gangsters, un thriller nourri de son expérience de policier et dont Richard Anconina et Anne Parillaud tiennent les rôles principaux. Deux ans plus tard, il met en scène 36 Quai des Orfèvres, un film à gros budget de nombreuses fois nommé aux César et qui offre un face-à-face de légende entre deux monstres sacrés du cinéma français : Daniel Auteuil et Gérard Depardieu. Incarnant avec un malin plaisir les malfrats et autres personnages peu recommandables pour Guillaume Canet (Ne le dis à personne, 2006), Frédéric Schoendoerffer (Truands, 2007), et Julien Seri (Scorpion, id.), Olivier Marchal clôt en 2008 sa trilogie policière sur "la solitude, la désespérance et l'errance" avec MR 73, un film noir dans lequel Daniel Auteuil incarne un flic dépressif et alcoolique à la recherche d'un tueur en série.
Créateur de la série Braquo, celle-ci remporte un grand succès pour sa première saison en 2009 tandis que la deuxième est attendue fin 2011. Entre temps, on peut le retrouver au casting du Fils à Jo aux cotés de Gérard Lanvin, juste avant de diriger ce dernier et de repasser derrière la caméra pour un projet qui lui tenait à cœur depuis longtemps : Les Lyonnais, film s'inspirant de l'histoire des véritables gangsters du gang des lyonnais sévissant en France dans les années 70.