John Mathis est né le 28 septembre 1930 à Maud, au Texas. Il a joué sur Louisiana Hayride de 1951 à 1960, en tant qu’artiste solo et en tant que membre du duo musical Jimmy & Johnny (avec Jimmy Lee Fautheree). Mathis quitte le groupe pour aller en solo au milieu des années 1950, laissant le frère de Fautheree, Lynn, pour remplir ses chaussures. Jimmy et Lynn, cependant, ont sauvé le nom Jimmy & Johnny, ce qui s’est avéré idéal pour Mathis qui est revenu au groupe de 1959 à 1961., En tant qu’artiste solo, il a sorti plusieurs singles pour D Records, Decca, United Artists et Little Darlin’. Son dernier single est Please Talk to My Heart, sorti en 1963. Il a également rencontré un succès important en tant qu’auteur-compositeur, écrivant des chansons pour Johnny Paycheck, George Jones et Webb Pierce, entre autres. Pendant quelques décennies, jusqu’à la fin des années 1990, il a chanté de la musique gospel et s’est concentré sur sa famille.

Mathis a subi un accident vasculaire cérébral en février 1999 et n’était plus en mesure de performer., L’accident vasculaire cérébral l’a laissé en mauvaise santé jusqu’à sa mort à Cornersville, Tennessee, le 27 septembre 2011, à la veille de son 81e anniversaire. Il laisse dans le deuil Jeannie Mathis, sa femme de 43 ans, et quatre enfants.