Descubrió que quería dedicarse al mundo del cine con catorce años cuando vio a Charles Bronson y Don Siegel mientras estos filmaban en Helsinki la cinta Telefon (1977). Harlin empezó su carrera a principios de los años 80, realizando anuncios para reconocidas compañías, como Shell.​ Después de haber iniciado su carrera en el cine y la televisión como director, siguió trabajando en diferentes anuncios publicitarios. En sus producciones suele introducir elementos que hagan referencia a su país natal, Finlandia. Se casó con la también actriz Geena Davis, a quien conoció durante el rodaje de La isla de las cabezas cortadas (1995), el 18 de septiembre de 1993, aunque finalmente se divorciaron en el año 1998.

Ha dirigido películas como Die Hard 2 (1990), Cutthroat Island (1995), Deep Blue Sea (1999) o El exorcista: el comienzo (2004).