Oz comenzó sus trabajos con títeres a los 12 años. Se unió al equipo de Jim Henson de titiriteros siete años después y llegó a ser gradualmente el colaborador más cercano de Henson, en las series de televisión para niños Sesame Street, Los Muppets y sus películas. Así pues Oz es quien ha dado vida a personajes tan entrañables como la cerdita Miss Piggy, el oso Fozzie, Beto, Archibaldo y el Monstruo de las galletas, entre otros.

Ha dirigido varios largometrajes, entre ellos codirigió la película de fantasía The Dark Crystal (1982).

Preparado para extenderse más allá del mundo de The Muppets, realizó una nueva versión musical estilizada de Little Shop of Horrors (1986), que probó su brío como cineasta. Desde entonces ha dirigido comedias más convencionales como Dirty Rotten Scoundrels (1988), ¿Qué pasa con Bob? (1991), y Esposa por sorpresa (1992).

Oz hizo algunos cameos en cuatro películas de John Landis: The Blues Brothers (1980), Un hombre lobo americano en Londres (1981), Trading Places (1983) y Espías como nosotros (1985).

Otro de sus trabajos más conocidos fue dar vida a Yoda, el sabio Maestro Jedi de Star Wars, a quien Frank Oz daba voz y movimiento (en los Episodios V y VI, en el Episodio I trabajó con un modelo más joven de Yoda, Episodio II y III se creó digitalmente).