John Mathis s-a născut pe 28 septembrie 1930, în Maud, Texas. El a jucat în Louisiana Hayride din 1951 până în 1960, ca un artist solo și ca membru al duo muzical Jimmy & Johnny (cu Jimmy Lee Fautheree). Mathis a părăsit grupul pentru a merge solo în mijlocul anilor 1950, lăsându-l pe fratele lui Fautheree, Lynn, să-și umple pantofii. Jimmy și Lynn, însă, au salvat numele Jimmy & Johnny, care s-a dovedit ideal pentru Mathis care s-a întors în grup din 1959 până în 1961., Ca artist solo, a lansat mai multe single-uri pentru D Records, Decca, United Artists și Little Darlin’. Ultimul său single a fost „Please Talk to My Heart”, lansat în 1963. De asemenea, a cunoscut un succes semnificativ ca compozitor, scriind melodii pentru Johnny Paycheck, George Jones și Webb Pierce, printre altele. Timp de câteva decenii, până la sfârșitul anilor 1990, a cântat muzică gospel și s-a concentrat asupra familiei sale.Mathis a suferit un accident vascular cerebral în februarie 1999 și nu a mai putut efectua., Atacul l-a lăsat în stare precară de sănătate până la moartea sa în Cornersville, Tennessee, pe 27 septembrie, 2011, în ajunul lui 81 ani. El este supraviețuit de Jeannie Mathis, soția lui de 43 ani, și patru copii.