Padre irlandese e madre lituana, John C. Reilly cresce a Chicago, coltivando sin da adolescente la passione per la recitazione.
Nel 1987 si diploma alla Goodman School of Drama, presso la DePaul University della sua città natale.
Si avvicina al teatro con la scrittura e l'interpretazione di una sua opera, "Walking the Boogie", che gli porterà gli apprezzamenti di Brian De Palma e la scrittura per un ruolo
secondario nella sua prima interpretazione cinematografica, "Vittime di guerra" del 1989.
Inizia a collaborare con alcuni grandi registi statunitensi, e si avvicina al cinema indipendente grazie alla conoscenza con Paul Thomas Anderson.
Dopo alcuni anni di abbandono dell'attività teatrale, si ripresenta nel 2000, interpretando il ruolo protagonista in 'True West' di Sam Shepard, che gli varrà la candidatura a un Tony Awards.
Nel 2003 viene candidato al Premio Oscar nella categoria miglior attore non protagonista per la sua interpretazione del marito tradito Amos Hart nel musical "Chicago" di Rob Marshall, per il quale otterrà anche una nomination per un Grammy
Award.
Nel 2011 recita nel film Carnage di Roman Polanski, e nel 2015 interpreta il ruolo del Re di Longtrellis, al fianco di Salma Hayek nel film di Matteo Garrone "Il racconto dei racconti".