Whigham apareció en un capítulo de la serie Ghost Stories en 1997, antes de tener un papel principal en la película Tigerland (2000), junto a Colin Farrell.​ Luego participaría en telefilmes como Submerged, R.U.S./H. y Paradise, antes de tener un papel de mayor relevancia en All the Real Girls (2003). Entre 2004 y 2006, fue acreditado en la película japonesa Out of This World, la serie dramática Medical Investigation y Lords of Dogtown.

Uno de sus papeles importantes fue en la galardonada comedia Wristcutters: A Love Story (2006), donde interpreta a Eugene, un músico ruso.4​ Para "entender lo que significa ser ruso", se entrenó con un instructor de dialecto (con el mismo con el que anteriormente habían trabajado Nicole Kidman y Naomi Watts) para perfeccionar el acento ruso. También aprendió a tocar la guitarra para una escena de la película.

Trabajó nuevamente con Colin Farrell en Pride and Glory (2008), interpretando a un oficial de policía. También coprotagoniza la película Splinter, donde interpreta a un convicto, y Radio Free Albemuth, una adaptación de la novela de ciencia ficción homónima del autor Philip K. Dick.

En 2010 se estrena la serie Boardwalk Empire de HBO, producida por Martin Scorsese y escrita por Terence Winter (guionista de Los Soprano). Ambientada durante la ley seca en Atlantic City, Whigham interpreta a un oficial de policía corrupto, hermano del protagonista (interpretado por Steve Buscemi).

En 2013 trabajó junto a Leonardo DiCaprio en la película El lobo de Wall Street, en el papel del capitán de policía Ted Beecham y en 2015 se sumó a la primera temporada de la serie Agent Carter, interpretando al Jefe Roger Dooley.

Luego, en 2016, participó de la película Star Trek Beyond, como el líder de una raza de extraterrestres llamados Teenaxi. En 2017, trabajó en la película Kong: La Isla Calavera y en la tercera temporada de la serie Fargo como el jefe de policía Moe Dammick.

En 2018 interpretó al astronauta Gus Grissom en la película sobre la llegada del hombre a la Luna First Man.