Quelques années plus tard, il jouait de la trompette et se lia d’amitié avec un jeune musicien aveugle nommé Ray Charles, qui devint un ami pour la vie. Il était suffisamment doué pour remporter une bourse au Berklee College of Music de Boston, mais abandonna lorsque Hampton l’invita à tourner avec son groupe. Jones a ensuite travaillé comme compositeur, chef d’orchestre, arrangeur et producteur indépendant. Adolescent, il soutenait Billie Holiday. Vers la vingtaine, il partait en tournée avec son propre groupe.
« Nous avions le meilleur groupe de jazz de la planète, et pourtant nous mourions littéralement de faim », a déclaré plus tard Jones au magazine Musician. « C’est à ce moment-là que j’ai découvert qu’il y avait de la musique et qu’il y avait le business de la musique. Si je devais survivre, je devrais apprendre la différence entre les deux.
En tant que directeur musical, il a surmonté les barrières raciales en devenant vice-président chez Mercury Records au début des années 60. En 1971, il devient le premier directeur musical noir de la cérémonie des Oscars. Le premier film qu’il a produit, La couleur violettea reçu 11 nominations aux Oscars en 1986. (Mais, à sa grande déception, aucune victoire). En partenariat avec Time Warner, il crée Quincy Jones Entertainment, qui comprend le magazine de culture pop Vibe et Qwest Broadcasting. L’entreprise a été vendue pour 270 millions de dollars en 1999.