John Mathis föddes den 28 September, 1930, i Maud, Texas. Han spelade på Louisiana Hayride från 1951 till 1960, som soloartist och som medlem av den musikaliska duon Jimmy & Johnny (med Jimmy Lee Fautheree). Mathis lämnade gruppen för att gå solo i mitten av 1950-talet och lämnade Fautherees bror Lynn för att fylla sina skor. Jimmy och Lynn sparade dock namnet Jimmy & Johnny, vilket visade sig vara idealiskt för Mathis som återvände till gruppen från 1959 till 1961., Som soloartist släppte han flera singlar för D Records, Decca, United Artists och Little Darlin’. Hans sista kartläggning singel var ”Please Talk to My Heart”, släpptes 1963. Han stötte också på betydande framgång som låtskrivare, penning låtar för Johnny Paycheck, George Jones, och Webb Pierce bland andra. Under några decennier, fram till slutet av 1990-talet, sjöng han gospelmusik och fokuserade på sin familj.

Mathis drabbades av stroke i februari 1999 och kunde inte längre utföra., Slaget lämnade honom i dålig hälsa fram till sin död i Cornersville, Tennessee den 27 September 2011, på tröskeln till hans 81: a födelsedag. Han överlevde av Jeannie Mathis, hans fru på 43 år och fyra barn.