Na zijn diensttijd rond 1950 werd hij pianist bij de band van saxofonist Adolph Duncan. De leadzanger in deze band was een jonge man, die we later zouden leren kennen als Bobby "Blue" Bland. De gitarist was B.B. King.
Omdat Bobby Bland de band begin 1952 zou gaan verlaten (vanwege zijn dienstplicht), werd Johnny tijdens een radio-uitzending overgehaald om ook eens een liedje te zingen. Vrij spoedig daarna kreeg hij een platencontract bij Duke Records. Zijn leven was op slag veranderd. De uitgebrachte grammofoonplaten hadden veel succes. Alles leek hem mee te zitten.
Maar tijdens een tournee, op Kerstavond 1954 (hij had net een nieuwe auto besteld) zette hij een revolver tegen zijn hoofd en drukte af. Het verhaal gaat dat hij Russische roulette zou hebben gespeeld, maar dat het niet de bedoeling was dat hij de dood zou vinden. Een andere versie is dat hij speelde met een geladen revolver, dat per ongeluk afging. Er werd ook gefluisterd dat hij zelf niet wist dat de revolver geladen was.
Na zijn dood werd zijn zevende single ("Pledging My Love") uitgebracht. Het werd zijn grootste hit.
