Actor irlandés, un rostro familiar para mucha gente por sus innumerables interpretaciones en teatro, televisión y cine, se formó en la prestigiosa Abbey Theatre School de Dublín.

Reconocido por su papel en Waking Ned Devine de Kirk Jones, Kelly fue nominado para los premios Golden Satellite y los premios del Screen Actors Guild por su destacada interpretación de Michael O'Sullivan. El Screen Actors Guild también nominó a Kelly y a los restantes miembros del reparto, Ian Bannen, Fionnula Flanagan, Susan Lynch y James Nesbitt, por sus destacadas interpretaciones.

Entre los trabajos de Kelly en el cine figuran The Calcium Kid de Alex De Rakoff, Super agente Cody Banks 2. Destino Londres de Kevin Allen, Hasta que la ley os separe de Peter Howitt, Mystics de David Blair, Mean Machine (Jugar duro) de Barry Skolnick, Flower power, como una regadera de Joel Hershman, Criminal y decente, Escapada al sur de Mike Newell, Un hombre sin importancia de Suri Krishnamma, Una razón para luchar de Peter Yates, El hombre rompecabezas de Terence Young, Piratas de Roman Polanski y Joyriders de Aislung Walsh.

Entre sus trabajos más memorables en televisión destacan las comedias de culto de la televisión británica Fawlty Towers, con John Cleese, y El nido de Robin, con Richard O'Sullivan. Además de intervenir en numerosos dramas para la BBC y la ITV, entre sus restantes series dramáticas en televisión figuran Z Cars, Emmerdale, Heartbeat y Ballykissangel.

Entre los momentos destacados de su larga carrera teatral figuran el estreno mundial de The Quare Fella de Brendan Behan; la obra para un solo actor de Samuel Beckett Krapp's Last Tape, en el Lincoln Center de Nueva York, así como en Chicago y Melbourne, Australia; el estreno mundial de la producción de Behan para el Theatre Workshop de Joan Littlewood de Esperando a Godot; la producción de Hal Prince de They Might Be Giants y El crisol.

Durante los años 60, Kelly representó Candide y La profesión de la Sra. Warren de George Bernard Shaw en gira por Estocolmo, Ámsterdam y Oslo. Intervino en las producciones de París y Zurich de Stephen D de James Joyce y de La condesa Cathleen de W.B. Yeats. También trabajó con Robert Ryan en la compañía de John Neville en el Nottingham Playhouse.

Entre sus trabajos más recientes en teatro figuran la gira norteamericana del Gate Theatre de Krapp's Last Tape; la gira norteamericana de Playboy of the Western World, que le valió una nominación a los premios Helen Hayes; Moon for the Misbegotten en Buffalo, Nueva York; Ghosts en Huntington, Long Island; Tartufo y Sunshine Boys en el Gate Theatre de Dublín; y El crisol en el Abbey Theatre.

En 2003 el Irish Times concedió a Kelly un premio a los logros de toda una vida por su contribución al teatro irlandés.