Nació en Sheffield, Alabama, y creció en Lawrenceburg, Tennessee. Asistió primero a la Universidad del Norte de Alabama y más tarde a la Universidad de Memphis, donde se graduó en Filosofía y Ciencias Políticas. En 1967 obtuvo la licenciatura en Derecho por la Universidad de Vanderbilt. Fue admitido en el Colegio de Abogados de Tennessee en 1967, y comenzó a ejercer como asistente de fiscal (1969-1972).

En 1977 llevó uno de sus casos más célebres como abogado. El caso contra el Comité de Indultos y Libertad Condicional del Estado de Tennessee, comité en el que se estaban cometiendo todo tipo de abusos con la compra y venta de indultos. El caso terminó arruinando la carrera política del entonces Gobernador de Tennessee, el demócrata Ray Blanton.

Fred Thompson ha compaginado su carrera como abogado y político, con una carrera como actor en varias producciones de cine y televisión. Su primer rol sería en Marie, adaptación para el cine del escándalo del Comité de Indultos y Libertad Condicional de Tennessee; fue dirigida por Roger Donaldson y protagonizada por Sissy Spacek, donde Fred Thompson se interpretaba a sí mismo.