Son père, maître d'hôtel dans des maisons bourgeoises, lui transmit le goût pour l'élégance, ce qui lui valut dès le collège le surnom de Duke (duc).

« The Duke » est considéré comme un des plus grands et des plus prolifiques compositeurs du XXe siècle, ayant développé de nouvelles idées symphoniques basées sur l'expression et l'intonation du jazz et du blues et ayant laissé au jazz de nombreux standards. Il ne dirigeait pas son orchestre, mais en jouait comme d'un instrument avec une sonorité propre.

Après avoir hésité à étudier les arts graphiques, Duke Ellington fit ses débuts musicaux à 17 ans comme pianiste au Poodle Dog Cafe, dans sa ville natale. En 1918, il monta son premier orchestre avec plusieurs musiciens qui le suivront le reste de sa carrière . Le succès ne fut pas au rendez-vous.

En 1918, il se maria avec Edna Thompson, qui donna naissance, en 1919, à son fils, Mercer. En 1923, il fonda un ensemble, les Washingtonians, avec lequel il allait conquérir New York. En 1927, le Duke et son orchestre furent engagés au fameux Cotton Club de Harlem, où ils développèrent le style "jungle". Nombre de solistes de talent rejoindront cet ensemble, qui perdura jusqu'à la mort d'Ellington. Citons, notamment, Harry Carney, Johnny Hodges, Paul Gonsalves, Barney Bigard, Cootie Williams, Bubber Miley, Tricky Sam Nanton et Juan Tizol.

En 1931, alors qu'il était une des personnalités Afro-américaines les plus célèbres, Ellington quitta le Cotton Club. Il continua à faire des tournées à travers les États-Unis et l'Europe, ainsi que dans le reste du monde dans les années 1960. Il entre en franc-maçonnerie à la loge "Social Lodge Washington D.C." et donne ses impressions d'initiation dans le thème "I'm beginning to see the light" (copyright 1944 by Alamo Music, Inc) chanté par Louis Armstrong. Aux États-Unis, on le décora de la Médaille présidentielle de la liberté en 1969 ; en France, il reçut la légion d'honneur en 1973. Son orchestre fut repris par son fils Mercer, après sa mort, en 1974.

Discographie :
1950 : Masterpieces
1956-1957 : Such Sweet Thunder
1958 : Black, Brown and Beige
1960 : Back to Back
1962 : Duke Ellington and John Coltrane
1962 : Money Jungle
1973 : This One's for Blanton