Nativo di Harlem, New York City, Ving Rhames ha studiato presso la High School of Performing Arts prima di dedicarsi alla recitazione interpretando vari ruoli a Broadway tra cui lo spettacolo "The Winter Boys" nel 1984. La prima apparizione televisiva è in "Go tell it On the Mountain" (1984) mentre interpreta il rapitore Patty Hearst in "Patty - La vera storia di Patty Hearst" (1988). Appare spesso sul grande schermo come soldato nella guerra del Vietnam. Sarà nel serial "Vietnam, addio" (1987) e nel film di Brian De Palma, "Vittime di guerra" (1989). Appare poi nel film "La lunga strada verso casa" (1990), dove interpreta il ruolo del marito di Whoopi Goldberg. Nel 1993 compare nella commedia "Dave - Presidente per un giorno".

L'anno successivo prende parte al film diretto da Quentin Tarantino, "Pulp Fiction" dove recita la parte del criminale Marsellus Wallace. Il successo del film sarà un punto di svolta nella sua carriera. Dopo il successo di Pulp Fiction si è imposto all'attenzione del grande pubblico e degli addetti ai lavori, interpretando film come "Al di là della vita" e "L'alba dei morti viventi". Altri ruoli che lo rendono noto sono quelli interpretatiper Brian De Palma in "Mission: Impossible" (1996) e nei rispettivi seguiti (2000, 2006, 2011 e 2015) e nei panni del pappone di Demi Moore in "Striptease" (1996). Da allora Rhames appare in maniera continuativa in una grande quantità di film.

Continua la sua intensa attività televisiva comparendo in molte serie per il piccolo schermo come "E.R. - Medici in prima linea", e in molti film televisivi come "Dangerous Ground - Terra senza pietà" (1997), "Don King - Una storia tutta americana" (1997), nel ruolo del celebre manager dei pugili, ruolo per cui ottiene un Golden Globe, per poi partecipare a "Out of Sight" diretto da Steven Soderbergh (1998) insieme a George Clooney e Jennifer Lopez e in "Entrapment" (1999) al fianco di Sean Connery e Catherine Zeta-Jones. Nello stesso anno viene diretto da Martin Scorsese in "Al di là della vita" (1999).

Con il nuovo millennio compare in "Baby Boy - Una vita violenta" (2001), "Sin - Peccato Mortale" (2003) ed è protagonista in "L'alba dei morti viventi" (2004), remake del classico di George Romero, dove interpreta un poliziotto che guida i sopravvissuti tra migliaia di zombie. Appare in "Animal - Il criminale" (2005) dove è attore protagonista ma anche sceneggiatore e produttore.

Nel 2006 è protagonista di 10 episodi della serie televisiva "Kojak", remake dell'omonima serie girata da Richard Donner negli anni settanta.

Successivamente compare in "Una vita spezzata" (2008), "Io vi dichiaro marito e marito" (2008), "The Day of the Dead" (2008), "Echelon Conspiracy – Il dono" (2008) e "Il mondo dei replicanti" (2009), insieme a Bruce Willis e James Cromwell. Nel 2010 è uno dei protagonisti di "Piranha 3D" diretto da Alexandre Aja ruolo che torna a interpretare nel sequel del 2012 "Piranha 3DD".