Conocido por sus trabajos en películas como Chicago, Gangs of New York y Magnolia. Habiendo debutado en Corazones de hierro en 1989, es uno de los tantos actores cuya carrera fue catapultada por Brian De Palma. Hasta la fecha ha trabajado en más de cincuenta películas, incluyendo tres películas de 2002, cada una nominada al Oscar como mejor película. Fue nominado al Oscar como mejor actor de reparto por su papel en Chicago y al premio Grammy por la canción "Walk Hard", que él escribió y grabó para la película Walk Hard: The Dewey Cox Story.

En el año 2002, su perfil como actor creció significativamente cuando apareció en tres de las películas nominadas a los Premios Óscar como mejor película de ese año: el musical Chicago, Gangs of New York y Las horas. Entre las tres películas sumaron 32 nominaciones al Óscar, y Reilly recibió una nominación como Mejor actor de reparto por Chicago, donde interpreta al esposo de Renée Zellweger.

Entre sus más memorables roles se encuentran la biopic El aviador (2004) de Martin Scorsese, donde interpreta al compañero de Howard Hughes, Noah Dietrich. Trabajó en Talladega Nights: The Ballad of Ricky Bobby (2006) de Adam McKay, donde interpreta al mejor amigo del protagonista. También formó parte del reparto de A Prairie Home Companion (2006) de Robert Altman, junto a Tommy Lee Jones y Woody Harrelson. En 2007 Reilly protagonizó Walk Hard: The Dewey Cox Story, una parodia donde canta varias canciones de Johnny Cash y Ray Charles entre otros. También doblo la voz de Ralph en Ralph El Demoledor junto con Sarah Silverman, entre otros.