Nació en Filadelfia, Pennsylvania, y asistió brevemente a la Temple University antes de trasladarse a Nueva York, donde estudió arte dramático con Stella Adler y en el Actors Studio.

Margolis se mueve entre el escenario, el cine, y la televisión con soltura. Entre algunos de sus más recientes filmes, cabe citar: Particles of Truth (2003); Daredevil (Daredevil, 2003); Hard Ball (Hard Ball, 2001); El sastre de Panamá (The Tailor of Panama, 2001); Hannibal (Hannibal, 2001); Nadie es perfecto (Flawless, 1999); El fin de los días (End of Days, 1999). Entre su labor televisiva, están Ed (episodios de 2003-2004); Oz (episodios de 1999 y 2003); Hack (episodios de 2002); El abogado (The Practice, episodio de 2002); Los juzgados de Centre Street (100 Centre Street, episodio de 2001); Ley y Orden (Law & Order, episodios de 1992, 1997 y 2001); Prince Street (episodios de 1997 y 2000); y Star Trek: La nueva generación (Star Treck: The New Generation, episodio de 1990).