Empezó su carrera en los años 60 con pequeños papeles en las películas El graduado y El valle de las muñecas en 1967. Su interpretación de Baby Face Nelson en Dillinger en 1973 le valió un papel protagonista más tarde ese año en American Graffiti de George Lucas y en The Apprenticeship of Duddy Kravitz en 1974.

En 1975, Dreyfuss protagonizó Tiburon, el thriller super taquillero de Steven Spielberg y volvió a trabajar con Spielberg dos años después en Encuentros en la tercera fase. El mismo año protagonizó The Goodbye Girl, de Neil Simon que le valió el Oscar como Mejor actor. Otros largometrajes que ha protagonizado son The Big Fix (1978), The Competition (1980) y Whose Life Is It, Anyway? (1981).

En 1986, Dreyfuss protagonizó Down and Out in Beverly Hills, dirigida por Paul Mazursky con Nick Nolte y Bette Midler y fue un gran éxito de taquilla. El año siguiente, protagonizó Nuts, de Martin Ritt con Barbra Streisand. Fue coprotagonista junto con Emilio Estevez en Stakeout de John Badham y actuó con Danny DeVito en Tin Men de Barry Levinson.

Dreyfuss se reunió de nuevo con los directores Paul Mazursky, para Moon Over Parador en 1988, y Steven Spielberg para Always en 1989. El año siguiente también actuó en Postcards From the Edge de Mike Nichols y en Rosencrantz and Guildenstern Are Dead de Tom Stoppard.
Protagonizó dos películas en 1991, Once Around de Lasse Hallestrom y What About Bob? de Frank Oz.

Otras películas en la filmografia de Dreyfuss incluyen: Lost in Yonkers, Another Stakeout, Silent Fall, The American President y Mr. Holland’s Opus. Actualmente es uno de los miembros del consejo de St. Anthony's College en la Universidad de Oxford en Inglaterra.