Lars Rudolph è il secondo figlio di un capitano dei marines ed ha altri due fratelli. In gioventù ha vissuto nelle città portuali della Germania occidentale, come Cuxhaven, Wilhelmshaven, Kappeln e Kiel. Dopo la scuola ha studiato musica come trombettista (soprattutto jazz) e si è trasferito a New York alla fine degli anni '80 per unirsi ai musicisti del circolo di John Zorn. Nel 1994 su richiesta di Christoph Schlingensief si è unito ad un gruppo teatrale della Volksbühne Berlin e questa esperienza l'ha avvicinato alla recitazione. La sua carriera è stata veloce e ha vinto numerosi premi cinematografici per i suoi primi film con Bela Tarr, Tom Tykwer e Oskar Roehler. Vive a Berlino ed è padre di tre figlie. Dal 2009 suona con la sua Mariahilff Band scrivendo testi e componendo musica. Oltre a recitare per il cinema continua anche con il teatro lavorando con registi come Frank Castorf, Christoph Marthaler e Dieter Wedel.