Warren Robert Cheeseboro est né à Jacksonville, FL et a grandi à Philadelphie, PA. Son père, Henry McCloud, était entrepreneur et sa mère, Willa Mae Cheeseboro, assure un revenu complémentaire à la famille comme pianiste de bar. Lorsque ses parents se séparent, il vit avec sa grand-mère dans une maison face à celle qu’occupe sa mère avec son nouveau mari et leurs trois enfants. Son environnement est baigné par le jazz. «Vous entendiez toujours de la musique sortir de la maison de quelqu’un. Dans mon quartier, j’écoutais surtout du jazz» avait-il déclaré dans Philly Jazz Documentary de Jason Fifield (2009). Il a ainsi l’occasion d’entendre des musiciens «locaux», très nombreux au nord de Philly, comme Lee Morgan ou John Coltrane qui habite à proximité, au n°33 Nord Street, jusqu’en 1958. L’adolescent assiste aux répétitions et aux jam-sessions qui se tiennent dans la maison de famille du ténor à l’invitation de Mary Alexander dite, «Cousin Mary»: «Beaucoup de musiciens venaient là-bas. J’avais l’habitude de m’asseoir sur les marches et de les écouter tout le temps. A partir de là, la musique était dans mon sang. Je suis né musicien.» Quelques années plus tard, Cousin Mary lui proposera de rejoindre sa John W. Coltrane Cultural Society pour y donner des master-classes.

Warren-Khan commence le vibraphone à la fin de son adolescence, principalement inspiré par Lionel Hampton. Après le lycée, il est enrôlé au Vietnam en 1965 et à son retour fréquente deux écoles de musique de Philadelphie, la Granoff School of Music et le Combs College of Music, par lesquels est passé John Coltrane, et prend des leçons privées avec le vibraphoniste Bill Lewis (il enregistrera en duo avec lui l’album The River en 1977 chez Philly Jazz). A la fin des années 1960, il intègre l’univers afrofuturiste de Sun Ra avec le groupe Cosmic Forces et le Sun Ra Arkestra qui s’est installé à Philly en 1968. Il rejoint ensuite, avec quelques autres des membres de l’Arkestra, la formation de Sunny Murray, Untouchable Factor. C’est probablement à cette époque qu’il adopte le nom musulman de Khan (celui qui dirige) Jamal (beauté), comme Ahmad, à l'image de beaucoup de jeunes Afro-Américains, qui depuis le début du siècle continuent de rompre avec le christianisme hérité de l’esclavagisme.

En 1970, il cofonde le collectif Sounds of Liberation avec Omar Hill (perc) qui rassemble de jeunes musiciens en quête de création artistique radicale portant une expression politique marquée par le contexte pesant de l'époque (mort de Coltrane, assassinat de Martin Luther King, guerre du Vietnam): Monnette Sudler (g), Billy Mills (b), Dwight James (dm), Rashid Salim (perc), rejoints par Byard Lancaster (as). Le groupe, sur le modèle du Sun Ra Arkestra, évolue en une coopérative implantée dans le quartier de Germantown, toujours au nord de Philly, mais peine à se faire connaître hors des limites de la ville. Sa musique expérimentale, empreinte de spiritualité, donne lieu à un unique LP en 1972, New Horizons, édité sur le label du collectif, Dogtown, dans une période où les musiciens cherchent à reprendre le contrôle de leur production sur les majors. La même année, Khan Jamal enregistre, live au Catacombs Club de Philadelphie, à la tête de son Creative Arts Ensemble, Drum Dance to the Motherland (Dogtown). Deux ans plus tard, à l’occasion d’un séjour à Paris, il enregistre Give the Vibes Some (Palm) où il joue aussi des marimbas. Acteur engagé de cette mouvance jazz d'avant-garde de Philadelphie dont l’esprit est proche de celui de l’AACM de Chicago, il participe à divers orchestres où il retrouve régulièrement Monnette Sudler et Byard Lancaster avec lequel il accompagne Sunny Murray (dm) sur la série d’albums Wildflowers (1976, Douglas/Casablanca) qui comprend également David Murray (ts). Il participe aussi au big band collaboratif initié en 1982 par Sunny Murray et Philly Joe Jones (dm), Change of the Century Orchestra, et à l’album éponyme live à Berlin (1987, J.A.S.) avec notamment Romulus Franceschini (lead), Ted Curson (tp), Grachan Moncur III (tb), Odean Pope (ts), Dave Burrell (p), Monnette Sudler et Byard Lancaster. L'orchestre comprendra aussi Archie Shepp.

Dans les années 1980, parallèlement à ses propres formations et à son travail de compositeur, Khan Jamal fait partie du Decoding Society de Ronald Shannon Jackson (dm), joue avec Billy Bang (vln) et Charles Tyler (s). En 1984, il effectue avec Dark Warrior (SteepleChase) le premier enregistrement d’une série pour des labels scandinaves comme Thinking of You (1986, Storyville), tandis qu’en 1988 il retrouve Sunny Murray et Dave Burrell, avec également William Parker (b), sur Speak Easy (Gazell). Fidèle à la scène de Philadelphie, il commence à être sollicité par des musiciens de la jeune génération à la fin des années 1990, comme Roy Campbell Jr. (tp) et Matthew Shipp (p) qui tente avec lui des rencontres avec le hip hop. Pour le label CIMP, il poursuit son cheminement créatif au balafon (Balafon Dance, 2002), en compagnie de partenaires de longue date comme Odean Pope (Nothing Is Wrong, 2003), Grachan Moncur III et Byard Lancaster (Black Awarness, 2005) ou du violoncelliste Dylan Taylor (Fire & Water, 2007). En 2005, il grave, pour le label français Discograph, Return From Exile (cf. chronique dans Jazz Hot Supplément 634) et revient jouer en Europe l’année suivante avec Sounds of Liberation qui s’est reformé et suscite un nouvel engouement avec la réédition de New Horizons en 2010 par Porter Records et la sortie en 2019 d’un live inédit de 1973 à l’Université de Columbia: Unreleased (Dogtown/Brewerytown). En 2008, d’ultimes retrouvailles discographiques avec les deux sax de Philly, Byard Lancaster et Odean Pope, donnent lieu à un album-hommage, Impressions of Coltrane (SteepleChase).

Khan Jamal laisse deux fils: Khan II et Tahir, rappeur qui apparaissait sur l’album Cubano Chant (2000, Jambio). Le Clef Club de Philadelphie, belle institution dirigée par Lovett Hines, lui rendra hommage dans les prochains mois.