La carrera de Michael K. Williams comenzó cuando era coreógrafo y street-dancer en la ciudad de Nueva York, habiendo trabajado en más de 50 vídeos musicales y giras de conciertos nacionales. No tardó en atraer la atención de los fotógrafos de moda David LaChapelle y Steven Klein: literalmente, fue sacado de la calle para afrontar una carrera como modelo. Pronto comenzó a trabajar en muchos shows de pista y en rodajes de moda. Fue a través de aquellas primeras fotografías que Tupac Shakur reparó en él y le eligió para que encarnara a su hermano en la película Bullet (1996). Aquella cinta le llevó a un papel en Al límite (Bringing Out the Dead, 1999), bajo dirección de Martin Scorsese.
Pronto en su carrera, Michael añadió a su pasión como actor su amor por los proscenios. Trabajó con LaMama Theater en Nueva York, y apareció en varias producciones con el prestigioso National Black Theater.
Considerado por USA Today como uno de los «10 mejores motivos para ver televisión» y el preferido de Barack Obama, Michael Kenneth Williams dio vida a Omar Little en la serie de la HBO, The Wire (2002-2008), siendo uno de los actores regulares de la misma que ha logrado permanecer a lo largo de sus cinco temporadas. Haciéndose acreedor del reconocimiento de la crítica además de una fiel base de admiradores, Michael fue nominado en 2007 para el premio NAACP Image al mejor actor de serie dramática. El director J.J.Abrams, un absoluto seguidor de The Wire, creó un papel recurrente sólo para Michael en su serie de la ABC, Alias (2005). Además, Williams ha tenido papeles recurrentes y apariciones como actor invitado en series como Ley y orden (Law and Order, 1997-2009); Ley y orden: unidad de víctimas especiales (Law and Order: Special Victims Unit, 2003-2006); Seis grados de separación (Six Degrees, 2006-2007); Los soprano (The Sopranos, 2001); Los Soprano (The Sopranos, 2001); C.S.I: Crime Scene Investigation, 2005); Boston Legal (Boston Legal, 2005), y recientemente, como francotirador certero en Kill Point (2007), junto a John Leguizamo y Donny Wahlberg.
Edward Norton, todo un experimentado y práctico profesional, insistió en que Michael asumiera el papel de Harlem Bystander en El increíble Hulk (The incredible Hulk, 2008). Otros filmes recientes del actor son Creo que quiero a mi mujer (I think I Love my Wife, 2007), bajo dirección de Chris Rock, donde tiene un cameo que roba la escena a los protagonistas; Adiós pequeña, adiós (Gone Baby Gone, 2007), donde encarna a un detective compresivo: fue el debut como director cinematográfico de Ben Affleck; Miracle at St. Anna (2008), con dirección de Spike Lee; y un papel protagonista junto a Sanaa Lathan y Matthew Broderick en Wonderful World (2009). También puede verse al actor en el nuevo film de Michael Cuesta [L.I.E., 2001)], Tell Tale (2009), que protagoniza junto a Josh Lucas. El actor finalizó no hace mucho Brooklyn Finest (2009), que dirige Antoine Fuqua [Training Day: Día de entrenamiento, 2001)], junto a Don Cheadle, Richard Gere y Ethan Hawke.
Filmes en el haber del actor que verán pronto estreno son The Perfect Age of Rock ‘N’ Roll (2009), del director Jonathan D. Rosenbaum; y Life During Wartime (2009), de Todd Solonz.
