Nacido en Estambul, Turquía, se crió en París. Estudió arte dramático en el Cyrano Theater y se convirtió en miembro de la Daniel Sorano Company, en la que interpretó numerosos papeles de teatro clásico. A continuación entró en el Teatro Nacional de Estrasburgo, en el que actuó en obras de teatro contemporáneo, así como de teatro clásico como Tartufo, Macbeth y Otelo.

Karyo es uno de los actores más populares de Francia. Nominado para un premio César por su papel en El membrillo, recibió el prestigioso premio Jean Gabin en 1986 en reconocimiento a su talento.

Para los espectadores norteamericanos tal vez sea más reconocible por sus papeles en películas de éxito e independientes como The Core (El núcleo), con Hilary Swank, El patriota de Roland Emmerich, Adictos al amor (Addicted to love) de Griffin Dunne, Dos policías rebeldes (Bad boys) de Micheal Bay, El buen ladrón (The good thief) de Neil Jordan y El jardín de la alegría de Nigel Cole.

Karyo ha terminado recientemente el rodaje de Blueberry en Francia, con Vincent Cassel, Michael Madsen y Juliette Lewis. Actualmente se encuentra en Europa rodando Un Long Dimanche de Fiançailles con Audrey Tautou, dirigida por Jean-Pierre Jeunet, y 10 Petits Blames, dirigida por Sarah Levy.