John Mathis ble født 28. September 1930, i Maud, Texas. Han spilte på Louisiana Hayride fra 1951 til 1960, som soloartist og som medlem av musikalsk duo Jimmy & Johnny (med Jimmy Lee Fautheree). Mathis forlot gruppen for å gå solo i midten av 1950-tallet, og etterlot Fautheree bror, Lynn, for å fylle hans sko. Jimmy og Lynn, imidlertid, lagrede navnet Jimmy & Johnny, som viste seg å være ideelt for Mathis som vendte tilbake til gruppen fra 1959 til 1961., Som solo-artist, og han har gitt ut flere singler for D-Poster, Decca, United Artists, og Lite Darlin’. Hans siste kartlegging singel var «kan du Ta kontakt med My Heart», utgitt i 1963. Han har også møtt betydelig suksess som låtskriver, penning sanger for Johnny Lønnsslipp, George Jones, og Webb Pierce blant andre. For noen tiår fram til slutten av 1990-tallet, han sang gospel og fokuserte på hans familie.

Mathis lidd et slag i februar 1999, og var ikke lenger i stand til å utføre., Streken til venstre ham i dårlig helse til sin død i Cornersville, Tennessee på September 27, 2011, på slutten av hans 81st bursdag. Han overlevde ved Jeannie Mathis, hans kone på 43 år, og fire barn.